Tekoälyn odotetaan vähentävän yritysjärjestelmien virheitä, automatisoivan tarkistuksia ja auttavan ihmistä käsittelemään suuria tietomääriä. Parhaimmillaan se tunnistaa poikkeamia, täydentää puuttuvia tietoja ja huomaa ongelmia, jotka muuten jäisivät piiloon.
Tekoäly ei kuitenkaan tee yritysjärjestelmästä virheetöntä. Se voi myös synnyttää uudenlaisia virheitä tai vahvistaa järjestelmässä jo olevia puutteita.
Tekoäly ei poista inhimillisiä virheitä. Se muuttaa niiden syntytapaa, havaittavuutta ja vaikutusalaa.
Katso aiheeseen liittyvät UKK:t artikkelin lopusta: Tekoälyn luotettavuus ja virheet
Ihmisen yksittäinen huolimattomuusvirhe voi vähentyä. Samalla väärä lähtötieto, puutteellinen prosessi tai huonosti määritelty automaatio voi monistaa virheen nopeasti useisiin tapahtumiin, asiakkaisiin tai järjestelmiin.
Siksi tekoälyn luotettavuutta ei pidä arvioida vain tekoälymallin ominaisuutena. Lopputulos muodostuu ihmisen, datan, prosessien, integraatioiden, käyttöliittymien ja automaation yhteistoiminnasta.
Aihe koskee jo huomattavaa osaa suomalaisista yrityksistä. Tilastokeskuksen mukaan tekoälyteknologioita käytti keväällä 2025 jo 38 prosenttia vähintään kymmenen henkilöä työllistävistä yrityksistä. Osuus kasvoi vuodessa 14 prosenttiyksikköä. Vähintään sata henkilöä työllistävistä yrityksistä tekoälyä käytti 68 prosenttia.
Käytön yleistyessä myös tekoälytoimintojen laadun, virheiden ja vastuiden hallinnasta tulee osa yritysten normaalia järjestelmien ja prosessien kehittämistä.
Tekoäly voi aidosti vähentää virheitä
Yritysjärjestelmissä syntyy paljon pieniä virheitä, jotka liittyvät manuaaliseen työhön, kiireeseen, epäselviin toimintatapoihin tai käsiteltävän tiedon suureen määrään.
Tekoäly voi auttaa esimerkiksi:
- tunnistamaan puuttuvia, ristiriitaisia tai poikkeavia tietoja
- vähentämään manuaalisen tiedonsyötön tarvetta
- luokittelemaan asiakirjoja ja tapahtumia yhdenmukaisesti
- vertaamaan tapahtumia aikaisempiin tietoihin
- muistuttamaan tekemättömistä tarkistuksista
- tunnistamaan poikkeavia tilauksia, laskuja tai kirjauksia
- laatimaan yhteenvetoja suurista tietomääristä
- havaitsemaan prosessissa toistuvia ongelmia
- tukemaan päätöksiä silloin, kun tarkasteltavia vaihtoehtoja on paljon.
Esimerkiksi ostolaskujen käsittelyssä tekoäly voi huomata poikkeavan summan, väärän kustannuspaikan tai aikaisemmasta poikkeavan toimittajatiedon. Tuotannossa se voi tunnistaa mittausarvojen muutoksen ennen kuin ihminen ehtii havaita ongelmaa. CRM-järjestelmässä se voi nostaa esiin asiakkaan yhteydenotot, joihin ei ole vastattu.
Hyöty ei yleensä synny siitä, että tekoäly korvaisi kaiken ihmisen tekemän tarkastamisen. Se syntyy siitä, että ihmisen huomio voidaan kohdistaa olennaisiin poikkeuksiin ja epävarmoihin tilanteisiin.
Tekoäly voi synnyttää uudenlaisia virheitä
Perinteisessä tietojärjestelmässä sama syöte tuottaa yleensä sääntöjen perusteella saman tuloksen. Generatiivisen tekoälyn vastaus perustuu todennäköisyyksiin, opittuihin malleihin ja sille annettuun käyttötilanteeseen. Vastaus voi olla sujuva ja vakuuttava, vaikka se olisi osittain väärä.
1. Uskottava mutta virheellinen vastaus
Tekoäly voi tuottaa puuttuvan tiedon tilalle päätelmän, joka näyttää uskottavalta mutta ei perustu todelliseen lähteeseen. Tästä käytetään usein nimitystä hallusinointi.
Yritysjärjestelmässä tällainen virhe voi näkyä esimerkiksi:
- vääränä tulkintana sopimusehdosta
- olemattomana tuotetietona
- virheellisenä asiakasyhteenvetona
- keksittynä perusteluna tapahtumalle
- vääränä vastauksena työntekijän kysymykseen
- liian varmana ennusteena.
Kielellisesti hyvä vastaus ei siis vielä osoita, että vastaus olisi oikea.
Hallusinointien yleistä määrää ei voida kuvata yhdellä luotettavalla prosenttiluvulla. Tulokseen vaikuttavat tekoälymalli, tehtävän luonne, käytettävissä oleva aineisto, kysymyksen muotoilu ja tulosten arviointitapa. Yrityksen pitää siksi testata tekoälytoimintoa omassa käyttötarkoituksessaan ja omalla aineistollaan.
2. Virheellinen tai puutteellinen lähtödata
Tekoäly ei automaattisesti korjaa huonolaatuista ERP-, CRM- tai tuotantodataa. Se voi sen sijaan muodostaa puutteellisesta aineistosta johdonmukaiselta vaikuttavan päätelmän.
Jos asiakkaiden tiedot ovat vanhentuneita, nimikkeet epäyhtenäisiä tai toimitustapahtumia puuttuu, myös tekoälyn tekemät yhteenvedot, ennusteet ja suositukset voivat olla virheellisiä.
Tekoäly voi auttaa datan laadun parantamisessa, mutta se ei poista yrityksen vastuuta tietojen ylläpidosta.
3. Epäselvä tavoite tai pyyntö
Virhe ei aina synny tekoälyn vastauksessa. Se voi alkaa jo käyttäjän antamasta tehtävästä.
Jos käyttäjä pyytää tekoälyä etsimään ”kannattavimmat asiakkaat”, järjestelmän pitäisi tietää, tarkoitetaanko kannattavuudella katetta, asiakkuuden elinkaaren arvoa, maksukäyttäytymistä vai jotakin muuta mittaria.
Tekoäly voi vastata epäselväänkin kysymykseen, vaikka sen pitäisi ensin pyytää tarkennusta. Tällöin tulos saattaa näyttää täsmälliseltä, mutta vastata väärään kysymykseen.
4. Poikkeustilanteen käsittely normaalitapauksena
Yritysten prosesseissa on paljon poikkeuksia: kiiretilauksia, hyvityksiä, erikoishintoja, korvaavia tuotteita, poikkeavia toimitusehtoja ja asiakaskohtaisia sopimuksia.
Jos tekoäly tai automaatio on testattu vain tavallisilla tapahtumilla, se voi käsitellä poikkeuksen normaalin toimintamallin mukaisesti. Tällöin teknisesti oikein toimiva järjestelmä voi tuottaa liiketoiminnan kannalta väärän lopputuloksen.
5. Automaation vahvistama virhe
Ihmisen tekemä virhe koskee usein yhtä tapahtumaa. Automatisoitu virhe voi toistua satoja tai tuhansia kertoja ennen kuin se huomataan.
Virheellinen tekoälytulkinta voi esimerkiksi:
- lähettää väärän viestin useille asiakkaille
- luokitella suuren määrän tapahtumia väärin
- käynnistää tarpeettomia tilauksia
- välittää väärän tiedon toiseen järjestelmään
- muuttaa ennustetta, jonka perusteella tehdään uusia päätöksiä.
Mitä pidemmälle tekoälylle annetaan oikeus käynnistää toimenpiteitä, sitä tärkeämpiä ovat toimintarajat, lokit, hälytykset ja mahdollisuus keskeyttää automaatio.
Kaikki tekoälyn yhteydessä näkyvät virheet eivät ole tekoälyvirheitä
Kun ongelma ilmenee tekoälyä hyödyntävissä toiminnossa, syy saatetaan helposti nimetä tekoälyn virheeksi. Todellinen syy voi kuitenkin olla muualla järjestelmäkokonaisuudessa.
| Virheen lähde | Esimerkki | Keskeinen hallintakeino |
|---|---|---|
| Ihminen | Väärä lähtötieto, epäselvä pyyntö tai virheellinen hyväksyntä | Ohjeistus, osaaminen ja tarkistus |
| Data | Puuttuva, vanhentunut tai ristiriitainen tieto | Datan laadun seuranta |
| Prosessi | Vastuut tai poikkeustilanteet on määritelty puutteellisesti | Prosessin selkeyttäminen |
| Integraatio | Tieto viivästyy, jää siirtymättä tai muuttaa merkitystään | Rajapintojen valvonta ja täsmäytys |
| Tekoälymalli | Uskottava mutta virheellinen päätelmä | Lähteet, varmistus ja epävarmuuden näyttäminen |
| Käyttöliittymä | Tekoälyn ehdotus näyttää varmemmalta kuin se on | Selkeä esitystapa ja varoitukset |
| Automaatio | Virheellinen toimenpide käynnistyy tai toistuu laajasti | Rajat, lokit, hälytykset ja pysäytys |
| Käyttöönotto | Toimintoa ei ole testattu todellisilla poikkeuksilla | Rajattu pilotointi ja hyväksymistestaus |
| Järjestelmämuutos | Päivitys muuttaa mallia, rajapintaa tai toimintalogiikkaa | Muutosten seuranta ja uudelleentestaus |
Virheen lähteen tunnistaminen on tärkeää, jotta korjaus kohdistetaan oikeaan paikkaan. Tekoälymallin vaihtaminen ei auta, jos ongelma johtuu epäselvästä prosessista tai puutteellisesta datasta.
Ihminen voi erehtyä myös valvoessaan tekoälyä
Ihmisen hyväksynnän lisääminen ei yksin takaa luotettavaa toimintaa.
Jos käyttäjä saa jatkuvasti oikeilta vaikuttavia ehdotuksia, hän voi vähitellen alkaa hyväksyä ne ilman todellista tarkistamista. Tätä kutsutaan automaatioharhaksi: järjestelmän ehdotukseen luotetaan enemmän kuin tilanteessa olisi perusteltua.
Yhdysvaltain standardointi- ja teknologiainstituutti NIST nostaa automaatioharhan yhdeksi generatiivisen tekoälyn ihmisen ja järjestelmän vuorovaikutukseen liittyvistä riskeistä. Tekoälyn toiminnan parantuessa käyttäjä voi alkaa luottaa siihen perusteettoman paljon tai pitää tekoälyn tuottamaa sisältöä laadukkaampana kuin muista lähteistä saatua tietoa. Automaatioharha voi samalla voimistaa hallusinoinneista ja vinoumista aiheutuvia vaikutuksia.
Näennäinen ihmisen hyväksyntä ei ole tehokas hallintakeino, jos:
- tarkistettavia ehdotuksia tulee liian paljon
- käyttäjä ei näe vastauksen lähteitä
- epävarmuutta ei tuoda esiin
- tarkistamiseen ei ole riittävästi aikaa
- käyttäjä ei tunne arvioitavaa asiaa
- hyväksyminen on muodostunut rutiininomaiseksi työvaiheeksi.
Ihmisen tehtävä ei siis ole vain painaa hyväksymispainiketta. Hänen pitää ymmärtää, mitä hän tarkistaa, mihin tieto perustuu ja milloin asia on siirrettävä asiantuntijan ratkaistavaksi.
Kaikki päätökset eivät tarvitse samanlaista valvontaa
Tekoälyn käytön riskit riippuvat siitä, mitä järjestelmä tekee ja kuinka suuria seurauksia virheellä voi olla.
Kevyessä käyttötavassa tekoäly voi esimerkiksi luonnostella sisäisen yhteenvedon, jonka työntekijä tarkistaa. Vaativammassa käyttötavassa tekoäly voi tehdä asiakkaaseen, rahaan, tuotantoon, henkilöstöön tai sopimuksiin vaikuttavan ehdotuksen. Suurin vaikutus syntyy silloin, kun järjestelmä toteuttaa toimenpiteen automaattisesti.
Valvonnan tarvetta voidaan arvioida kolmen kysymyksen avulla:
- Kuinka suuri vahinko väärästä tuloksesta voi syntyä?
- Kuinka helposti virhe voidaan havaita ja korjata?
- Voiko yksi virhe monistua automaattisesti laajaksi?
Mitä suuremmat vaikutukset ja mitä vaikeampi palautettavuus, sitä vahvempaa ennakkotarkastusta, ihmisen hyväksyntää ja seurantaa tarvitaan.
Ihmisen ja tekoälyn yhteistyö pitää suunnitella tehtäväkohtaisesti
Vuonna 2024 julkaistussa meta-analyysissä tarkasteltiin 106 koetta ja 370 vaikutusarviota, joissa verrattiin ihmisen, tekoälyn sekä ihmisen ja tekoälyn yhdistelmän suoriutumista.
Ihmisen ja tekoälyn yhdistelmä suoriutui keskimäärin paremmin kuin ihminen yksin. Yhdistelmä ei kuitenkaan keskimäärin ylittänyt sitä osapuolta, joka suoriutui tehtävästä paremmin yksin. Päätöksentekotehtävissä yhteistyön tulokset olivat heikompia kuin sisällön tuottamiseen liittyvissä tehtävissä.
Tutkimustulos ei tarkoita, että ihmisen ja tekoälyn yhteistyö olisi hyödytöntä. Se osoittaa, että työnjako pitää suunnitella tehtäväkohtaisesti. Pelkkä ihmisen lisääminen hyväksymisketjuun ei automaattisesti takaa parempaa lopputulosta.
Tekoälyn osaamisraja voi olla epätasainen
Tekoälyn osaamisraja = tekoälyjärjestelmän suorituskyvyn ja kyvykkyyden ääriraja
Harvard Business Schoolin, Boston Consulting Groupin ja muiden tutkijoiden kenttäkokeessa tekoälyä käyttäneet konsultit suorittivat tekoälylle soveltuvat tehtävät yli 25 prosenttia nopeammin. Tulosten ihmisten arvioima laatu oli yli 40 prosenttia parempi kuin ilman tekoälyä työskennelleellä vertailuryhmällä.
Kun tehtävä jäi tekoälyn osaamisrajan ulkopuolelle, tekoälyä käyttäneet konsultit päätyivät oikeaan ratkaisuun 19 prosenttiyksikköä harvemmin kuin ilman tekoälyä työskennelleet.
Sama tekoäly voi siis parantaa tai heikentää suoritusta tehtävän luonteesta riippuen. Yritysjärjestelmän käyttäjän kannalta vaikeutena on, ettei osaamisraja yleensä näy ulospäin. Kaksi ihmisen näkökulmasta samankaltaista tehtävää voivat sijoittua rajan eri puolille.
Jäljitettävyys ratkaisee, voidaanko virheestä oppia
Virheiden täydellinen estäminen ei ole realistinen tavoite. Olennaista on, että virheet voidaan havaita, rajata, selvittää ja korjata.
Yrityksen pitäisi mahdollisuuksien mukaan pystyä selvittämään:
- mitä tietoja tekoäly käytti
- milloin vastaus tai toimenpide syntyi
- mikä järjestelmä- tai malliversio oli käytössä
- millainen ohje tai pyyntö tekoälylle annettiin
- mitä tekoäly ehdotti
- kuka hyväksyi tai muutti ehdotusta
- mitä toimenpiteitä järjestelmä käynnisti
- mihin muihin järjestelmiin tieto välittyi.
Kaikkia tekoälymallin sisäisiä päätelmiä ei voida avata täydellisesti. Käytännön jäljitettävyys voidaan silti rakentaa käytettyjen tietojen, lähteiden, tapahtumalokien, versioiden ja hyväksyntöjen ympärille.
Ilman jäljitettävyyttä yritys voi havaita väärän lopputuloksen mutta ei pysty luotettavasti selvittämään, miksi se syntyi.
Nopea kehitys muuttaa jo testattua toimintoa
Tekoälypalvelut, mallit, rajapinnat ja ominaisuudet kehittyvät nopeasti. Myös yrityksen oma data, prosessit, tuotteet ja toimintaympäristö muuttuvat.
Kerran testattu tekoälytoiminto ei ole pysyvästi testattu tekoälytoiminto.
Palveluntarjoaja voi vaihtaa taustalla käytettävää mallia, muuttaa käyttöehtoja tai päivittää rajapintaa. Yritys voi puolestaan ottaa käyttöön uuden ERP-version, muuttaa tietorakenteita tai lisätä tekoälylle uusia tietolähteitä.
Muutos voi vaikuttaa vastauksiin, vaikka käyttäjälle näkyvä toiminto näyttäisi samalta kuin ennen.
Siksi käyttöönoton jälkeiseen hallintaan kuuluvat:
- mallien ja järjestelmäversioiden seuranta
- olennaisten muutosten dokumentointi
- sovittujen testitapausten toistaminen
- virheiden ja käyttäjäpalautteen seuranta
- käyttöoikeuksien säännöllinen tarkistaminen
- toimittaja- ja palveluriippuvuuksien arviointi
- vaihtoehtoinen toimintatapa häiriötilanteita varten.
Tarkistuslista ennen tekoälytoiminnon käyttöönottoa
Käyttötarkoitus ja vaikutukset
- Onko tekoälytoiminnon tehtävä määritelty riittävän tarkasti?
- Onko tavoiteltava hyöty mitattavissa?
- Tiedetäänkö, keihin tai mihin prosesseihin virhe voisi vaikuttaa?
- Onko määritelty, mitä tekoäly ei saa tehdä?
Data ja tietolähteet
- Tiedetäänkö, mitä tietoja tekoäly käyttää?
- Onko tietojen laatu ja ajantasaisuus tarkistettu?
- Ovatko eri järjestelmien käsitteet ja tietokentät yhteensopivia?
- Näkeekö käyttäjä vastauksen keskeiset lähteet?
- Tunnistetaanko tilanteet, joissa tarvittavaa tietoa ei ole saatavilla?
Testaus
- Onko toiminto testattu todellisilla työtehtävillä?
- Onko normaalitilanteiden lisäksi testattu virheellisiä ja puuttuvia tietoja?
- Onko mukana ollut poikkeustilanteita ja harvinaisia tapauksia?
- Onko tuloksia verrattu asiantuntijan arvioon?
- Onko testattu, mitä tapahtuu integraation tai tekoälypalvelun häiriössä?
Ihmisen valvonta
- Tietääkö käyttäjä, milloin sisältö on tekoälyn tuottamaa?
- Onko määritelty, mitkä päätökset vaativat ihmisen hyväksynnän?
- Onko tarkistajalla riittävä osaaminen, tieto ja aika?
- Tuodaanko epävarmat tulokset näkyvästi esiin?
- Onko vastuu toiminnon seurannasta nimetty?
Automaatio ja palautuminen
- Onko automaattisille toimenpiteille asetettu määrälliset ja toiminnalliset rajat?
- Tallentuvatko ehdotukset, hyväksynnät ja toimenpiteet lokiin?
- Aiheuttaako poikkeava toiminta hälytyksen?
- Voidaanko toiminto keskeyttää nopeasti?
- Voidaanko virheelliset muutokset perua tai palauttaa?
- Onko häiriötilannetta varten manuaalinen toimintatapa?
Jatkuva seuranta
- Miten toiminnon laatua ja virheitä mitataan?
- Miten käyttäjät ilmoittavat havaitsemistaan ongelmista?
- Milloin toiminto arvioidaan seuraavan kerran?
- Miten malli-, järjestelmä- ja rajapintamuutokset huomataan?
- Mitkä muutokset edellyttävät uudelleentestausta?
Luotettavuus täydentää tietosuojaa ja tietoturvaa
Tekoälyn virheet ja luotettavuus liittyvät tietosuojaan ja tietoturvaan, mutta ne eivät ole sama asia.
Tietosuoja käsittelee erityisesti henkilötietojen asianmukaista käyttöä. Tietoturva suojaa tietoja, järjestelmiä ja palveluja muun muassa luvattomalta käytöltä, muuttamiselta ja häiriöiltä.
Luotettavuuden tarkastelussa kysytään lisäksi:
- tuottaako järjestelmä käyttötarkoitukseen riittävän oikeita tuloksia
- tunnistetaanko epävarmat ja poikkeavat tilanteet
- voiko käyttäjä arvioida tuloksen perustaa
- voidaanko virheen eteneminen pysäyttää
- ovatko vastuut ja hyväksynnät selvät
- opitaanko havaituista virheistä.
Hyvin suojattu tekoälytoiminto voi silti tuottaa väärän liiketoiminnallisen päätelmän. Vastaavasti oikealta vaikuttava tulos ei osoita, että tietosuoja ja tietoturva olisivat kunnossa. Kaikkia näitä näkökulmia tarvitaan.
Tekoäly muuttaa ihmisen tehtävää, ei poista vastuuta
Tekoälyn tärkeä hyöty on sen kyky käsitellä enemmän tietoa kuin ihminen pystyy kohtuullisessa ajassa tarkastelemaan. Samalla ihmisen tehtävä siirtyy osittain tietojen käsittelystä tavoitteiden määrittelyyn, poikkeusten arviointiin ja järjestelmän toiminnan valvontaan.
Vastuunjako voi silti hämärtyä. Käyttäjä voi ajatella järjestelmän tehneen päätöksen, järjestelmän toimittaja voi korostaa asiakkaan vastuuta ja johto voi olettaa prosessin omistajan valvovan toimintaa.
Siksi jokaiselle merkittävälle tekoälytoiminnolle pitäisi määritellä ainakin:
- toiminnallinen omistaja
- käytettävien tietojen omistajat
- tulosten tai toimenpiteiden hyväksyjä
- teknisestä toimivuudesta vastaava taho
- virheiden seuranta- ja käsittelytapa
- oikeus keskeyttää toiminto.
Tekoälyn ehdotus ei itsessään kanna vastuuta. Yrityksen on rakennettava vastuut osaksi prosessia ja järjestelmän käyttöä.
Virheettömyyden sijaan hallittavaa luotettavuutta
Tekoälyn käyttöönoton tavoitteeksi ei kannata asettaa täydellistä virheettömyyttä. Sellaista eivät tarjoa ihmiset, perinteiset tietojärjestelmät eivätkä tekoälymallit.
Realistisempi tavoite on hallittava luotettavuus:
- tavalliset virheet vähenevät
- epävarmat tilanteet tunnistetaan
- vaikutuksiltaan merkittävät päätökset tarkistetaan
- automaation toiminnalle asetetaan rajat
- tapahtumat voidaan jäljittää
- virhe voidaan pysäyttää ja korjata
- järjestelmää arvioidaan myös käyttöönoton jälkeen.
Tekoäly voi parantaa yritysjärjestelmän laatua merkittävästi. Se onnistuu kuitenkin vain, jos samalla kehitetään dataa, prosesseja, käyttöliittymiä, vastuita ja valvontaa.
Oikea kysymys ei siksi ole vain, voiko tekoälyyn luottaa. Olennaisempaa on kysyä:
Missä tehtävässä, millä tiedoilla, millä toimintarajoilla ja millaisen valvonnan alaisena tekoälyyn voidaan luottaa riittävästi?
Tutkimuksia ja lisätietoa
- Tilastokeskus: Tekoälyteknologioita käytti 38 % yrityksistä vuonna 2025
- Vaccaro, Almaatouq ja Malone: When combinations of humans and AI are useful
- Dell’Acqua ym.: Navigating the Jagged Technological Frontier
- NIST: Artificial Intelligence Risk Management Framework – Generative Artificial Intelligence Profile
Aiheeseen liittyvät UKK:t
Tekoälyn luotettavuus ja virheet
Tekoäly ei itsessään kanna vastuuta. Yrityksen pitää määritellä toiminnon omistaja, käytettävien tietojen omistajat, tulosten hyväksyjä, teknisestä toimivuudesta vastaava taho sekä virheiden käsittelytapa. Vastuunjaon pitää olla selvillä ennen merkittävän tekoälytoiminnon käyttöönottoa.
Tekoälymallit, palvelut, rajapinnat, yrityksen data ja prosessit muuttuvat. Taustalla tapahtuva päivitys voi vaikuttaa tuloksiin, vaikka käyttäjälle näkyvä toiminto säilyisi samanlaisena. Olennaisten muutosten jälkeen tärkeät testitapaukset pitää suorittaa uudelleen.
Generatiivinen tekoäly muodostaa vastauksensa todennäköisyyksien ja oppimiensa mallien perusteella. Sujuva kieli ei siis osoita tiedon oikeellisuutta. Vastaus voi perustua puutteelliseen aineistoon, epäselvään kysymykseen tai tekoälyn tekemään virheelliseen päätelmään.
Tekoäly voi tuottaa uskottavalta vaikuttavia mutta virheellisiä vastauksia, tulkita epäselvän tehtävän väärin tai muodostaa puutteellisesta datasta liian varman päätelmän. Automaation yhteydessä yksi virhe voi myös levitä nopeasti moniin tapahtumiin tai järjestelmiin.
Ihmisen hyväksyntää tarvitaan erityisesti silloin, kun päätös vaikuttaa asiakkaisiin, rahaan, sopimuksiin, henkilöstöön, tuotantoon tai turvallisuuteen. Valvonnan tarve kasvaa myös silloin, kun virhettä on vaikea havaita tai perua tai se voi monistua automaattisesti laajaksi.
Luottamusta pitää arvioida käyttötarkoituksen perusteella. Olennaista on kysyä, missä tehtävässä tekoälyä käytetään, millä tiedoilla se toimii, millaiset toimintarajat sille on asetettu ja millaisen ihmisen valvonnan alaisena se toimii. Sama tekoäly voi olla yhdessä tehtävässä hyödyllinen ja toisessa liian epävarma.
Automaatioharha tarkoittaa taipumusta luottaa järjestelmän ehdotukseen enemmän kuin tilanteessa olisi perusteltua. Käyttäjä voi hyväksyä tekoälyn tuottaman vastauksen, vaikka muu tieto viittaisi sen olevan väärä. Riskiä voidaan vähentää näyttämällä lähteet, epävarmuus ja vaihtoehdot selkeästi.
Jäljitettävyys tarkoittaa mahdollisuutta selvittää, mitä tietoja ja ohjeita tekoäly käytti, mitä se ehdotti, kuka tuloksen hyväksyi ja mitä järjestelmä tämän jälkeen teki. Jäljitettävyys auttaa tutkimaan virheitä, rajaamaan niiden vaikutuksia ja kehittämään toimintoa.
Hallittava luotettavuus tarkoittaa, ettei tekoälyltä edellytetä täydellistä virheettömyyttä, mutta sen virheitä pystytään ehkäisemään, havaitsemaan, rajaamaan ja korjaamaan. Siihen kuuluvat laadukas data, selkeät toimintarajat, tehtäväkohtainen valvonta, jäljitettävyys ja jatkuva seuranta.
Hallusinoinnilla tarkoitetaan tilannetta, jossa generatiivinen tekoäly tuottaa väärää tai keksittyä tietoa uskottavassa muodossa. Vastaus voi näyttää asiantuntevalta, vaikka sille ei olisi todellista lähdettä. Siksi tärkeät tiedot pitää voida tarkistaa alkuperäisistä lähteistä.
Tekoäly ei pysty luotettavasti korvaamaan puuttuvaa, vanhentunutta tai ristiriitaista tietoa. Huono lähtödata voi johtaa virheellisiin yhteenvetoihin, ennusteisiin ja suosituksiin. Tekoäly voi auttaa löytämään datan laatuongelmia, mutta tietojen ylläpito säilyy yrityksen vastuulla.
Automaatiolle voidaan asettaa määrällisiä ja toiminnallisia rajoja, hyväksymisvaatimuksia sekä poikkeamista syntyviä hälytyksiä. Lisäksi tarvitaan tapahtumalokit, mahdollisuus keskeyttää toiminto nopeasti ja tapa palauttaa virheelliset muutokset.
Eivät. Virheen lähteenä voi olla myös ihminen, lähtödata, prosessi, integraatio, käyttöliittymä, automaatio tai järjestelmämuutos. Ongelman korjaaminen edellyttää, että todellinen virhelähde tunnistetaan ennen ratkaisun valintaa.
Ei aina. Jos käyttäjä hyväksyy suuren määrän oikeilta vaikuttavia ehdotuksia, tarkistamisesta voi tulla pelkkä rutiini. Hyväksyjällä pitää olla riittävä osaaminen, käytettävissään tarvittavat lähteet sekä aikaa arvioida tuloksen oikeellisuus.
Yleensä ei. Virheiden määrä riippuu tekoälymallista, tehtävästä, aineistosta, kysymyksen muotoilusta ja tulosten arviointitavasta. Yrityksen kannattaa mitata tekoälytoiminnon laatua omassa käyttötarkoituksessaan ja omalla aineistollaan.
Kyllä. Tekoäly voi tunnistaa puuttuvia tietoja, poikkeavia tapahtumia, ristiriitoja ja toistuvia ongelmia. Se voi myös vähentää manuaalista tiedonsyöttöä ja kohdistaa ihmisen huomion tarkistusta vaativiin tilanteisiin. Tekoäly ei kuitenkaan tee järjestelmästä automaattisesti virheetöntä.