Tekoäly ei itsessään kanna vastuuta. Yrityksen pitää määritellä toiminnon omistaja, käytettävien tietojen omistajat, tulosten hyväksyjä, teknisestä toimivuudesta vastaava taho sekä virheiden käsittelytapa. Vastuunjaon pitää olla selvillä ennen merkittävän tekoälytoiminnon käyttöönottoa.
Luottamusta pitää arvioida käyttötarkoituksen perusteella. Olennaista on kysyä, missä tehtävässä tekoälyä käytetään, millä tiedoilla se toimii, millaiset toimintarajat sille on asetettu ja millaisen ihmisen valvonnan alaisena se toimii. Sama tekoäly voi olla yhdessä tehtävässä hyödyllinen ja toisessa liian epävarma.
Hallittava luotettavuus tarkoittaa, ettei tekoälyltä edellytetä täydellistä virheettömyyttä, mutta sen virheitä pystytään ehkäisemään, havaitsemaan, rajaamaan ja korjaamaan. Siihen kuuluvat laadukas data, selkeät toimintarajat, tehtäväkohtainen valvonta, jäljitettävyys ja jatkuva seuranta.
Automaatiolle voidaan asettaa määrällisiä ja toiminnallisia rajoja, hyväksymisvaatimuksia sekä poikkeamista syntyviä hälytyksiä. Lisäksi tarvitaan tapahtumalokit, mahdollisuus keskeyttää toiminto nopeasti ja tapa palauttaa virheelliset muutokset.
Tekoälymallit, palvelut, rajapinnat, yrityksen data ja prosessit muuttuvat. Taustalla tapahtuva päivitys voi vaikuttaa tuloksiin, vaikka käyttäjälle näkyvä toiminto säilyisi samanlaisena. Olennaisten muutosten jälkeen tärkeät testitapaukset pitää suorittaa uudelleen.
Jäljitettävyys tarkoittaa mahdollisuutta selvittää, mitä tietoja ja ohjeita tekoäly käytti, mitä se ehdotti, kuka tuloksen hyväksyi ja mitä järjestelmä tämän jälkeen teki. Jäljitettävyys auttaa tutkimaan virheitä, rajaamaan niiden vaikutuksia ja kehittämään toimintoa.
Ihmisen hyväksyntää tarvitaan erityisesti silloin, kun päätös vaikuttaa asiakkaisiin, rahaan, sopimuksiin, henkilöstöön, tuotantoon tai turvallisuuteen. Valvonnan tarve kasvaa myös silloin, kun virhettä on vaikea havaita tai perua tai se voi monistua automaattisesti laajaksi.
Automaatioharha tarkoittaa taipumusta luottaa järjestelmän ehdotukseen enemmän kuin tilanteessa olisi perusteltua. Käyttäjä voi hyväksyä tekoälyn tuottaman vastauksen, vaikka muu tieto viittaisi sen olevan väärä. Riskiä voidaan vähentää näyttämällä lähteet, epävarmuus ja vaihtoehdot selkeästi.
Ei aina. Jos käyttäjä hyväksyy suuren määrän oikeilta vaikuttavia ehdotuksia, tarkistamisesta voi tulla pelkkä rutiini. Hyväksyjällä pitää olla riittävä osaaminen, käytettävissään tarvittavat lähteet sekä aikaa arvioida tuloksen oikeellisuus.
Yleensä ei. Virheiden määrä riippuu tekoälymallista, tehtävästä, aineistosta, kysymyksen muotoilusta ja tulosten arviointitavasta. Yrityksen kannattaa mitata tekoälytoiminnon laatua omassa käyttötarkoituksessaan ja omalla aineistollaan.