Tällä sivulla kysymyksien kategoriat on asetettu siten, että lukija etenee yleiskuvasta ja käyttöönotosta sovellusalueisiin sekä lopuksi teknisiin ja hallinnollisiin edellytyksiin. UKK-kysymyksiä lisätään aika ajoin.
Kysymys voi kuulua useampaan kategoriaan. Saat muut samaan kategoriaan liittyvät UKK:t näkyviin klikkaamalla vastauksen yläpuolella olevaa kategoriapainiketta.
Tekoälyn luotettavuus ja virheet
Tekoäly ei itsessään kanna vastuuta. Yrityksen pitää määritellä toiminnon omistaja, käytettävien tietojen omistajat, tulosten hyväksyjä, teknisestä toimivuudesta vastaava taho sekä virheiden käsittelytapa. Vastuunjaon pitää olla selvillä ennen merkittävän tekoälytoiminnon käyttöönottoa.
Tekoälymallit, palvelut, rajapinnat, yrityksen data ja prosessit muuttuvat. Taustalla tapahtuva päivitys voi vaikuttaa tuloksiin, vaikka käyttäjälle näkyvä toiminto säilyisi samanlaisena. Olennaisten muutosten jälkeen tärkeät testitapaukset pitää suorittaa uudelleen.
Generatiivinen tekoäly muodostaa vastauksensa todennäköisyyksien ja oppimiensa mallien perusteella. Sujuva kieli ei siis osoita tiedon oikeellisuutta. Vastaus voi perustua puutteelliseen aineistoon, epäselvään kysymykseen tai tekoälyn tekemään virheelliseen päätelmään.
Tekoäly voi tuottaa uskottavalta vaikuttavia mutta virheellisiä vastauksia, tulkita epäselvän tehtävän väärin tai muodostaa puutteellisesta datasta liian varman päätelmän. Automaation yhteydessä yksi virhe voi myös levitä nopeasti moniin tapahtumiin tai järjestelmiin.
Ihmisen hyväksyntää tarvitaan erityisesti silloin, kun päätös vaikuttaa asiakkaisiin, rahaan, sopimuksiin, henkilöstöön, tuotantoon tai turvallisuuteen. Valvonnan tarve kasvaa myös silloin, kun virhettä on vaikea havaita tai perua tai se voi monistua automaattisesti laajaksi.
Luottamusta pitää arvioida käyttötarkoituksen perusteella. Olennaista on kysyä, missä tehtävässä tekoälyä käytetään, millä tiedoilla se toimii, millaiset toimintarajat sille on asetettu ja millaisen ihmisen valvonnan alaisena se toimii. Sama tekoäly voi olla yhdessä tehtävässä hyödyllinen ja toisessa liian epävarma.
Automaatioharha tarkoittaa taipumusta luottaa järjestelmän ehdotukseen enemmän kuin tilanteessa olisi perusteltua. Käyttäjä voi hyväksyä tekoälyn tuottaman vastauksen, vaikka muu tieto viittaisi sen olevan väärä. Riskiä voidaan vähentää näyttämällä lähteet, epävarmuus ja vaihtoehdot selkeästi.
Jäljitettävyys tarkoittaa mahdollisuutta selvittää, mitä tietoja ja ohjeita tekoäly käytti, mitä se ehdotti, kuka tuloksen hyväksyi ja mitä järjestelmä tämän jälkeen teki. Jäljitettävyys auttaa tutkimaan virheitä, rajaamaan niiden vaikutuksia ja kehittämään toimintoa.
Hallittava luotettavuus tarkoittaa, ettei tekoälyltä edellytetä täydellistä virheettömyyttä, mutta sen virheitä pystytään ehkäisemään, havaitsemaan, rajaamaan ja korjaamaan. Siihen kuuluvat laadukas data, selkeät toimintarajat, tehtäväkohtainen valvonta, jäljitettävyys ja jatkuva seuranta.
Hallusinoinnilla tarkoitetaan tilannetta, jossa generatiivinen tekoäly tuottaa väärää tai keksittyä tietoa uskottavassa muodossa. Vastaus voi näyttää asiantuntevalta, vaikka sille ei olisi todellista lähdettä. Siksi tärkeät tiedot pitää voida tarkistaa alkuperäisistä lähteistä.
Tekoäly ei pysty luotettavasti korvaamaan puuttuvaa, vanhentunutta tai ristiriitaista tietoa. Huono lähtödata voi johtaa virheellisiin yhteenvetoihin, ennusteisiin ja suosituksiin. Tekoäly voi auttaa löytämään datan laatuongelmia, mutta tietojen ylläpito säilyy yrityksen vastuulla.
Automaatiolle voidaan asettaa määrällisiä ja toiminnallisia rajoja, hyväksymisvaatimuksia sekä poikkeamista syntyviä hälytyksiä. Lisäksi tarvitaan tapahtumalokit, mahdollisuus keskeyttää toiminto nopeasti ja tapa palauttaa virheelliset muutokset.
Eivät. Virheen lähteenä voi olla myös ihminen, lähtödata, prosessi, integraatio, käyttöliittymä, automaatio tai järjestelmämuutos. Ongelman korjaaminen edellyttää, että todellinen virhelähde tunnistetaan ennen ratkaisun valintaa.
Ei aina. Jos käyttäjä hyväksyy suuren määrän oikeilta vaikuttavia ehdotuksia, tarkistamisesta voi tulla pelkkä rutiini. Hyväksyjällä pitää olla riittävä osaaminen, käytettävissään tarvittavat lähteet sekä aikaa arvioida tuloksen oikeellisuus.
Yleensä ei. Virheiden määrä riippuu tekoälymallista, tehtävästä, aineistosta, kysymyksen muotoilusta ja tulosten arviointitavasta. Yrityksen kannattaa mitata tekoälytoiminnon laatua omassa käyttötarkoituksessaan ja omalla aineistollaan.
Kyllä. Tekoäly voi tunnistaa puuttuvia tietoja, poikkeavia tapahtumia, ristiriitoja ja toistuvia ongelmia. Se voi myös vähentää manuaalista tiedonsyöttöä ja kohdistaa ihmisen huomion tarkistusta vaativiin tilanteisiin. Tekoäly ei kuitenkaan tee järjestelmästä automaattisesti virheetöntä.