Tekoäly asiakaspalvelussa: chatbotin rajat ja vastuu virheistä

Asiakaspalvelubotin ympärillä on kaksi vastakkaista väärinkäsitystä. Asiakas olettaa usein, että botin sanoma ei sido mitään, koska "sehän on vain kone". Yritys taas olettaa toisinaan, että vastuu on ohjelmiston toimittajalla, koska malli on ostettu ulkoa. Kumpikaan ei pidä paikkaansa. Botti on yrityksen valitsema, sen ohjeilla ja sen aineistolla toimiva kanava. Oikeudellisesti se on työkalu, ei osapuoli.

Käytännön seuraus on yksinkertainen. Jos botti kertoo, että tuotteella on tietty ominaisuus tai että toimitus tapahtuu tietyllä tavalla, tieto on annettu myyjän lukuun. Jos tieto oli väärä, kyse on virheellisestä tai harhaanjohtavasta tiedosta, ja seuraukset määräytyvät kuluttajansuojan yleisten sääntöjen mukaan.

Miksi botin tunnistaminen on lain vaatimus eikä kohteliaisuus

EU:n tekoälyasetuksessa on läpinäkyvyysvelvoite, joka koskee järjestelmiä, joiden on tarkoitus olla suoraan vuorovaikutuksessa ihmisen kanssa. Ihmiselle on kerrottava, että hän on tekemisissä tekoälyjärjestelmän kanssa, ellei asia ole tavanomaisen tarkkaavaisen ihmisen kannalta olosuhteet huomioon ottaen ilmeistä. Velvoite kohdistuu järjestelmän tarjoajaan, eli siihen, joka sen suunnittelee ja saattaa markkinoille.

Sanamuodossa on kaksi asiaa, jotka kannattaa lukea tarkasti. Ensinnäkin velvoite koskee sitä, että asiakas tietää puhuvansa koneelle. Se ei vaadi kertomaan, mikä malli on kyseessä, mistä sen tieto tulee tai kuinka luotettava se on. Toiseksi poikkeus on kapeampi kuin miltä se kuulostaa. Ilmeisyys arvioidaan tilanteen mukaan, ja ihmisnimellä ja ihmismäisellä kirjoitustyylillä varustettu botti ei täytä ehtoa, vaikka kokenut käyttäjä sen tunnistaisikin.

Tämä velvoite kuuluu samaan artiklaan kuin tekoälysisällön merkintä. Merkinnän tekninen puoli, koneluettava vesileima ja näkyvä merkintä, on käsitelty erikseen artikkelissa tekoälysisällön merkintä. Asetuksen kokonaisuus ja soveltamisen vaiheittaisuus taas löytyvät artikkelista EU:n tekoälyasetus.

Kuluttajan kannalta tunnistamisella on käytännön merkitys. Kun tiedät puhuvasi koneelle, osaat kysyä eri tavalla: lyhyesti, yksi asia kerrallaan ja pyytäen lähteen tai ohjeen nimen. Osaat myös suhtautua vastaukseen kuin hakutulokseen etkä kuin lupaukseen.

Mikä sitoo yritystä, kun botti lupaa väärin

Vastuu jakautuu sen mukaan, missä vaiheessa asiakassuhdetta virhe tapahtui.

Taulukon rivi neljä on se, jossa asiakas useimmin pettyy. Yksittäinen ystävällinen lause chatissa ei ole sitova sopimusmuutos samalla tavalla kuin kirjallinen vahvistus. Siksi kannattaa aina pyytää lupaus sähköpostiin tai tilausvahvistukseen. Se on nopea toimenpide, ja se muuttaa keskustelun luonteen todennettavaksi.

Tärkeä rajaus: yritys ei vapaudu vastuusta ilmoituksella, jonka mukaan botin antamat tiedot eivät sido. Kuluttajaa suojaava sääntely on pakottavaa, eikä ehto, joka siirtää yrityksen oman järjestelmän virheet asiakkaan kannettavaksi, poista kuluttajan oikeuksia. Vastuunrajoitus voi silti vaikuttaa siihen, miten selkeänä lupausta pidetään.

Kuka vastaa, kun botti on ostettu ulkoa

Lähes jokainen asiakaspalvelubotti on ostettu valmiina. Se ei jaa vastuuta asiakkaan suuntaan, mutta se jakaa roolit sääntelyssä, ja rooleilla on merkitystä silloin kun jotain menee pieleen.

Tekoälyasetus erottaa toisistaan tarjoajan ja käyttöönottajan. Tarjoaja kehittää järjestelmän ja saattaa sen markkinoille, ja sille kuuluu velvoite rakentaa järjestelmä niin, että käyttäjä saa tiedon puhuvansa koneelle. Käyttöönottaja on se yritys, joka ottaa botin omaan palveluunsa. Jos yritys laittaa järjestelmään oman nimensä tai muuttaa olennaisesti sen käyttötarkoitusta, se voi muuttua itse tarjoajaksi.

Tietosuojan puolella jako on toinen. Yritys, joka päättää mihin bottia käytetään ja millä tiedoilla, on rekisterinpitäjä. Ohjelmiston toimittaja on tyypillisesti käsittelijä, joka toimii sopimuksen ja ohjeiden mukaan. Asiakas tekee tietopyyntönsä ja poistopyyntönsä rekisterinpitäjälle, ei toimittajalle.

Kuluttajan kannalta jako on yksinkertainen: vaatimus osoitetaan sille yritykselle, jonka palvelussa botti on. Se, miten vastuu jakautuu yrityksen ja sen toimittajan välillä, on niiden keskinäinen sopimusasia eikä vaikuta asiakkaan oikeuksiin. Poikkeus on tilanne, jossa botti on selvästi jonkun kolmannen osapuolen palvelu ja se on myös kerrottu; silloin kannattaa ensin selvittää, kenen lukuun se toimii.

Mistä botin virheet oikeasti syntyvät

Julkinen keskustelu keskittyy hallusinaatioihin, mutta asiakaspalvelussa se on harvemmin pääsyy. Tyypillinen botti hakee vastauksen yrityksen omista ohjeista ja muotoilee sen luonnolliseksi kieleksi. Menetelmää kutsutaan hakuun perustuvaksi generoinniksi, ja sen toimintaperiaate on selitetty artikkelissa RAG vai hienosäätö. Virheitä syntyy neljästä eri kohdasta.

• Haku löytää väärän dokumentin. Ohjeita on useita versioita, ja haku poimii sen, joka muistuttaa kysymystä eniten, ei sitä joka on voimassa.
• Dokumentti on vanhentunut. Malli kertoo täsmälleen sen, mitä ohjeessa lukee. Virhe on aineistossa, ei mallissa, mutta asiakkaalle se on sama asia.
• Malli täydentää aukon. Kun haettu teksti ei vastaa kysymykseen, kielimalli tuottaa uskottavan jatkon. Tämän mekanismi on avattu artikkelissa tekoälyn hallusinaatiot.
• Ohje tulee vääränlaisesta paikasta. Jos botti lukee myös asiakkaan lähettämää tekstiä tai verkkosivujen sisältöä, sinne voi upottaa ohjeita, joita botti alkaa noudattaa. Tämä on kehoteinjektio, ja se on asiakaspalvelubotin kannalta aito riski.

Yhteinen piirre on, että kaikki neljä tuottavat saman lopputuloksen: sujuvan, varman ja väärän vastauksen. Botti ei kuulosta epävarmalta silloinkaan, kun se on väärässä, koska sujuvuus ja oikeellisuus syntyvät eri mekanismeista.

Yrityksen kannalta tästä seuraa yksi käytännön johtopäätös. Botin laatu on ohjeistuksen laatua. Jos ohjepankissa on kolme eri versiota palautusehdoista, botti kertoo kaikki kolme eri asiakkaille. Aineiston siivoaminen parantaa vastauksia enemmän kuin mallin vaihtaminen.

Milloin saat ihmisen ja milloin et

Tässä kohtaa on syytä olla rehellinen. Suomessa ei ole yleistä lakiin perustuvaa oikeutta päästä asiakaspalvelussa ihmisen puheille. Tietosuoja-asetuksen oikeus ihmisen suorittamaan käsittelyyn koskee vain yksinomaan automaattisia päätöksiä, joilla on oikeusvaikutuksia tai muuten merkittäviä vaikutuksia, esimerkiksi luottopäätöstä tai palvelun epäämistä. Tavallinen neuvontakeskustelu ei ole tällainen päätös.

Käytännössä ihmiselle pääsee silti useimmiten, kun asian esittää oikein.

1. Kirjoita asia yhdellä lauseella ja kerro, mitä pyydät: hyvitystä, korjausta, peruutusta tai kirjallista vahvistusta.
2. Pyydä siirtoa asiakaspalvelijalle suoraan ja selkeästi. Monessa järjestelmässä on tähän tunnistettava sanamuoto.
3. Jos siirtoa ei tapahdu, vaihda kanavaa. Sähköposti tai palautelomake tuottaa kirjallisen käsittelyjäljen, jota chatista ei aina jää.
4. Jos kyse on sopimuksesta, ilmoita että teet reklamaation. Reklamaatio on eri asia kuin kysymys, ja se pitää käsitellä.

Erityisryhmien kannalta kysymys ei ole mukavuudesta. Osalle käyttäjistä chat on tosiasiassa saavuttamaton kanava: ruudunlukijan kanssa jatkuvasti päivittyvä keskusteluikkuna toimii huonosti, aikakatkaisu on liian lyhyt, ja vapaan tekstin kirjoittaminen on vaikeaa. Julkisen hallinnon digitaalisia palveluja koskevat saavutettavuusvaatimukset, ja esteettömyyssääntely on laajentunut myös eräisiin yksityisiin palveluihin. Tekninen mitta löytyy W3C:n saavutettavuusohjeista, jotka koskevat myös chat-käyttöliittymää. Kun ainoa palvelukanava on botti, osa asiakkaista jää palvelun ulkopuolelle riippumatta siitä, miten hyvin malli vastaa.

Näin teet reklamaation botin antamasta virheestä

Reklamaation vahvuus on dokumentaatiossa, ei sanamuodossa. Etene järjestyksessä.

1. Ota keskustelusta kuvakaappaus heti. Chat-historia voi kadota istunnon päättyessä. Ota näkyviin päivämäärä, kellonaika ja koko vastaus, ei vain yhtä lausetta.
2. Kirjaa mitä teit tiedon perusteella. Peruitko toisen tilauksen, jätitkö palauttamatta tuotteen, maksoitko ylimääräisen maksun? Vahingon syntyminen on se, joka tekee virheestä merkityksellisen.
3. Tee reklamaatio kirjallisesti yritykselle. Kerro mitä sinulle luvattiin, milloin, missä kanavassa ja mitä vaadit. Vaatimus on hyvä olla yksi konkreettinen asia. Kirjoita sana reklamaatio näkyviin.
4. Anna kohtuullinen määräaika vastata. Säilytä lähetetty viesti ja mahdollinen kuittaus.
5. Jos vastausta ei tule tai se hylkää vaatimuksen, hae maksuton neuvonta. Kilpailu- ja kuluttajaviraston kuluttajaneuvonta opastaa yksittäistä kuluttajaa, ja riidan voi viedä kuluttajariitalautakunnan ratkaistavaksi. Lautakunnan ratkaisu on suositus.
6. Ilmoita menettelystä kuluttaja-asiamiehelle, jos ongelma on rakenteellinen. Kuluttaja-asiamies ei ratkaise yksittäisiä riitoja vaan puuttuu markkinointiin ja sopimusehtoihin, jotka koskevat laajaa joukkoa. Toistuvasti väärin neuvova botti on juuri tällainen asia.

Tavaran virhettä koskevat askeleet on käyty tarkemmin läpi artikkelissa viallinen tuote verkosta, ja jos kyse on etämyynnistä, kannattaa tarkistaa myös verkkokaupan peruutusoikeus.

Mitä yrityksen kannattaa rakentaa ennen kuin botti avataan asiakkaille

Botti on halpa avata ja kallis korjata jälkikäteen. Nämä asiat ratkaisevat sen, tuleeko käyttöönotosta säästö vai kustannus.

• Yksi lähde totuudelle. Päätä, mistä ohjeista botti vastaa, ja poista vanhat versiot. Kaksi rinnakkaista ohjetta tuottaa kaksi eri vastausta.
• Rajattu tehtävä. Kerro botille kirjallisesti, mihin se vastaa ja mihin se ei vastaa. Hinnat, sopimusehdot, terveys ja raha ovat tyypillisiä alueita, jotka kannattaa ohjata ihmiselle.
• Näkyvä ilmoitus. Kerro heti keskustelun alussa, että vastaaja on tekoäly. Tämä on velvoite, mutta se on myös odotusten hallintaa.
• Toimiva siirto ihmiselle. Siirron pitää toimia myös silloin, kun asiakas ei osaa käyttää oikeaa sanaa, ja aukioloajan ulkopuolella on kerrottava milloin vastaus tulee.
• Lokit ja tallennus. Säilytä keskustelut niin, että virheen syy voidaan jälkikäteen selvittää. Kerro asiakkaalle, mitä tallennetaan ja kuinka kauan.
• Mittari, joka ei ole tyytyväisyys. Seuraa, kuinka moni keskustelu johtaa uuteen yhteydenottoon samasta asiasta. Se paljastaa väärät vastaukset paremmin kuin hymynaamat.
• Suunnitelma virheen varalle. Kun botti on neuvonut väärin, tieto pitää saada nopeasti ohjeisiin ja asiakkaille, joita virhe koski.

Viimeinen kohta on se, joka erottaa hyvin hoidetun botin huonosti hoidetusta. Virheitä tulee kummallekin. Ero syntyy siitä, kuinka nopeasti sama virhe lakkaa toistumasta.