Miksi tekoäly keksii asioita? Hallusinaatiot selitettynä

Tekoälyn keksimät asiat eivät näytä virheiltä. Ne näyttävät vastauksilta: oikean mittaisia, oikean sävyisiä ja oikeassa muodossa. Juuri siksi ne menevät läpi.

Tämä artikkeli selittää mekanismin, luokittelee tyypilliset keksinnät ja antaa tarkistusrutiinin, joka toimii ilman erityisosaamista. Taustalla on hyvä ymmärtää, miten kielimalli toimii, koska hallusinaatio on saman koneiston kääntöpuoli.

Mikä hallusinaatio on ja miksi termi ontuu

Hallusinaatiolla tarkoitetaan tekoälyn tuottamaa väitettä, joka on esitetty faktana mutta ei pidä paikkaansa. Se voi olla keksitty tutkimus, väärä vuosiluku, olematon lain pykälä tai henkilölle sepitetty ansioluettelo.

Termi on lainattu psykiatriasta ja se johtaa harhaan kahdella tavalla. Ensinnäkin se vihjaa poikkeustilaan, ikään kuin malli toimisi normaalisti ja välillä sekoaisi. Todellisuudessa malli tekee koko ajan täsmälleen samaa asiaa: ennustaa todennäköistä jatkoa. Toiseksi se vihjaa aistiharhaan, eli siihen että jokin havaintokoneisto pettää. Mallilla ei ole havaintoja eikä käsitystä todellisuudesta, jota vastaan väitettä voisi peilata.

Malli ei erota tapausta "tiedän tämän" tapauksesta "tämä kuulostaa oikealta". Kummassakin se tuottaa parhaan arvauksensa samalla itsevarmuudella.

Täsmällisempi sana olisi konfabulaatio tai yksinkertaisesti sepite. Termi hallusinaatio on kuitenkin vakiintunut, joten sitä käytetään myös tässä.

Mekanismi: sujuvuus on optimoitu, totuus ei

Kielimalli laskee jokaisessa kohdassa todennäköisyysjakauman seuraavalle tekstinpalalle ja poimii siitä yhden. Opetuksessa palkitaan siitä, että ennuste osuu aineiston tekstiin, ja hienosäädössä siitä, että vastaus miellyttää ihmisarvioijaa.

Missään vaiheessa ei ole erillistä askelta, jossa väite tarkistettaisiin. Malli ei tallenna faktoja erillisinä tietueina, joita voisi hakea, vaan säännönmukaisuuksina miljardeissa parametreissa. Kysymys "onko tämä totta" ei ole mallille edes esitettävissä.

Kun kysyt asiaa, josta aineistossa oli paljon johdonmukaista tietoa, jakauma on terävä ja vastaus yleensä oikein. Kun kysyt asiaa, josta aineistossa oli vähän tai ristiriitaista tietoa, jakauma on lattea. Ulos tulee silti yksi sujuva vastaus, koska mallilla ei ole tapaa tuottaa tyhjää. Sama koneisto, joka kirjoittaa hyvän tiivistelmän, kirjoittaa myös uskottavan sepitteen. Tämä on syvempi versio siitä havainnosta, että tekoäly vaikuttaa ymmärtävän enemmän kuin ymmärtää.

Hallusinaatioiden viisi lajia

Keksinnät eivät ole satunnaisia. Ne jakautuvat toistuviin lajeihin, ja lajin tunnistaminen kertoo, mihin tarkistus kannattaa kohdistaa.

Faktaväite. Malli esittää tapahtuman, ominaisuuden tai syy-yhteyden, jota ei ole. Tyypillisesti aihe on oikea ja yksityiskohta väärä: oikea laki mutta väärä sisältö, oikea organisaatio mutta väärä perustamisvuosi.

Lähdeviite. Malli tuottaa kirjallisuusviitteen, tutkimuksen, uutisen tai verkko-osoitteen, jota ei ole olemassa. Tämä on yleisin ja hankalin laji, ja siihen palataan seuraavassa osiossa.

Henkilötieto. Malli liittää nimettyyn ihmiseen tehtäviä, teoksia, työpaikkoja tai tapahtumia, joita hänellä ei ole. Riski on suurin vähän julkisuudessa olleiden henkilöiden kohdalla, koska aineistossa on aukko täytettäväksi. Tästä seuraa myös tietosuojaongelma, koska kyse on virheellisestä henkilötiedosta.

Luku ja päivämäärä. Malli tuottaa tarkalta näyttävän luvun, prosentin tai päivämäärän. Numerot ovat erityisen alttiita, koska ne pilkkoutuvat paloiksi eikä mallilla ole laskuyksikköä. Tarkka luku näyttää luotettavammalta kuin pyöristetty, mikä pahentaa vaikutelmaa.

Koodikirjasto ja funktio. Malli ehdottaa ohjelmointikirjastoa, komentoa tai funktiota, jonka nimi noudattaa täydellisesti kyseisen ekosysteemin nimeämiskäytäntöä mutta jota ei ole olemassa. Ohjelmistokehityksessä tästä on syntynyt myös tietoturvariski, koska hyökkääjä voi julkaista paketin sillä nimellä, jota mallit toistuvasti ehdottavat.

Miksi keksityt lähdeviitteet näyttävät niin aidoilta

Lähdeviite on muodoltaan äärimmäisen säännönmukainen: tekijä, vuosi, otsikko, julkaisu, sivunumerot. Malli on nähnyt satojatuhansia viitteitä ja oppinut niiden rakenteen erittäin hyvin.

Kun se tuottaa viitteen, se täyttää rakenteen todennäköisimmillä paloilla. Alan tyypillinen tutkijanimi, uskottava vuosi, aiheeseen sopiva otsikko, oikea lehti. Jokainen osa on tilastollisesti oikeaan osunut, mutta yhdistelmää ei ole olemassa. Lopputulos läpäisee silmämääräisen tarkastuksen paremmin kuin moni oikea viite, koska se on liiankin siisti.

Sama pätee verkko-osoitteisiin. Malli osaa domainin ja polkurakenteen, joten se rakentaa uskottavan näköisen syvän osoitteen sivustolle, jolla sitä ei ole. Tästä seuraa yksi kirkkaimmista säännöistä: älä koskaan siirrä tekoälyn antamaa lähdeviitettä eteenpäin avaamatta sitä ensin.

Riskitaulukko: milloin tarkistat ja miten

Hallusinaatioriski ei ole vakio. Se riippuu kysymystyypistä ja on siksi ennustettavissa. Taulukko on tämän artikkelin päätössääntö: etsi kysymyksesi rivi ja toimi sen mukaan.

Kaksi riviä yhdistää kaikkia korkean riskin tapauksia: kysymys koskee tarkkaa yksityiskohtaa, ja oikea vastaus esiintyi opetusaineistossa harvoin. Kun molemmat pätevät, oleta oletusarvoisesti, että vastaus on väärä, kunnes tarkistat.

Miksi riski on suomeksi keskimäärin suurempi

Suomenkielisessä kysymyksessä on kolme riskiä nostavaa tekijää yhtä aikaa.

Ensinnäkin aineiston määrä. Mallien esikoulutusaineisto on verkkotekstiä, jossa englanti on ylivoimaisesti suurin kieli. Suomenkielinen aineisto on murto-osa, joten suomalaisia yksityiskohtia koskevat jakaumat ovat latteampia. Lattea jakauma tarkoittaa suurempaa todennäköisyyttä, että ulos tulee uskottava sepite.

Toiseksi erisnimien harvinaisuus. Suomalaiset henkilön-, yritys- ja paikannimet esiintyvät globaalissa aineistossa harvoin, ja ne taipuvat: Kilpailu- ja kuluttajaviraston, Traficomilta, Kyberturvallisuuskeskukselle. Malli näkee näistä pirstoutuneita paloja, joten se sekoittaa helpommin samankaltaiset nimet toisiinsa.

Kolmanneksi kotimainen sääntely ja käytännöt. Suomen laki, viranomaisrakenne ja etuusjärjestelmä ovat kapea erikoisalue, josta englanninkielistä aineistoa on hyvin vähän. Malli täydentää aukkoja usein muiden maiden mallilla ja tuottaa vastauksen, joka on rakenteeltaan oikean näköinen mutta sisällöltään väärän maan.

Käytännön kikka: jos aihe on kansainvälinen, kysy sama kysymys myös englanniksi. Jos vastaukset eroavat sisällöllisesti, ainakin toinen on väärä. Jos aihe on suomalainen, älä oleta englanninkielisen vastauksen olevan parempi, vaan mene suoraan viralliselle lähteelle.

Hakuun kytketty malli pienentää riskiä mutta ei poista sitä

Monet palvelut hakevat verkosta tai tietokannasta aineistoa ja liittävät sen mallin syötteeseen ennen vastausta. Menetelmää kutsutaan hakuun kytketyksi generoinniksi (RAG, retrieval-augmented generation).

Se auttaa aidosti. Malli ei enää nojaa pelkkään parametreihin painuneeseen muistiin, vaan sillä on edessään ajantasainen teksti, ja vastauksen voi merkitä lähteillä. Tuoreiden tapahtumien ja rajatun dokumenttijoukon kanssa ero on suuri.

Neljä syytä pitää ongelma silti hengissä.

1. Haku voi epäonnistua. Jos hakusanat osuvat huonosti tai aiheesta ei ole aineistoa, malli saa käteensä epäolennaista tekstiä ja täydentää lopun itse.
2. Lähde voi olla väärässä. Malli ei arvioi lähteen luotettavuutta. Keskustelupalstan väite ja viranomaisohje näyttävät sille samalta tekstiltä.
3. Tiivistäminen tuottaa uusia virheitä. Vastaus kirjoitetaan silti mallin omin sanoin. Lukujen, ehtojen ja poikkeusten siirtyminen väärin on tavallista, vaikka lähde olisi oikea.
4. Lähdemerkintä ei todista mitään. Linkki voi olla oikea sivu, jolla ei lue sitä, mitä vastauksessa väitetään. Tämä on yleisempää kuin täysin keksitty linkki, ja sitä on vaikeampi huomata.

Sääntö säilyy: lähdemerkinnällä varustettu vastaus on tarkistettavampi, ei tarkistettu.

Miksi mallin oma varmuudenilmaisu ei ole luotettava

Kun kysyt "kuinka varma olet", saat luvun tai sanamuodon. Se ei ole mittaus. Se on ennustettua tekstiä siitä, miltä varmuuden ilmaisu tyypillisesti näyttää tällaisessa yhteydessä.

Mallilla on kyllä sisäinen todennäköisyys jokaiselle tuottamalleen palalle, mutta tavallinen käyttöliittymä ei näytä sitä, eikä se muutenkaan vastaa väitteen totuudellisuutta. Malli voi tuottaa keksityn viitteen korkealla sisäisellä todennäköisyydellä, koska viitteen muoto on hyvin ennustettava.

Ihmispalautteella tehty hienosäätö pahentaa asiaa. Arvioijat suosivat selkeitä ja avuliaita vastauksia, joten mallit oppivat kuulostamaan varmoilta. Sama vaihe tekee malleista myötäileviä: jos väität vastausta vääräksi, moni malli vaihtaa kantaansa riippumatta siitä, olitko oikeassa. Mallin myöntyminen ei ole todiste, ja mallin itsevarmuus ei ole todiste.

Näin tarkistat vastauksen: neljä askelta

Rutiini vie muutaman minuutin ja poistaa valtaosan riskistä.

1. Erottele väitteet. Merkitse vastauksesta ne kohdat, jotka ovat tarkistettavia väitteitä: luvut, päivämäärät, nimet, pykälät, lähteet. Loppu on yleensä selitystä, jossa riski on pieni.
2. Sijoita väite riskitaulukkoon. Matalan riskin väitteet voi jättää, korkean riskin väitteet tarkistetaan aina.
3. Avaa alkuperäinen lähde. Ei hakukoneen tiivistelmää eikä mallin siteerausta vaan itse sivu. Säädökset Finlexistä tai EUR-Lexistä, viranomaisohjeet viraston omilta sivuilta, tutkimukset julkaisijalta.
4. Kysy uudelleen erikseen. Esitä sama kysymys uudessa keskustelussa ilman aiempaa kontekstia. Jos vastaus muuttuu, jakauma oli lattea ja väite on heikko. Tämä on karkea mutta halpa mittari.

Prompti kannattaa myös muotoilla niin, että se vähentää painetta keksiä. Pyydä mallia sanomaan suoraan, jos se ei tiedä, ja kieltämään arvaukset. Se ei poista ongelmaa mutta laskee sen määrää. Käytännön muotoilut löytyvät artikkelista hyvän promptin rakenne ja tiivistettynä promptin tarkistuslistasta.

Jos taas arvioit jonkun muun tuottamaa tekstiä, hallusinaation tunnusmerkit ovat osa laajempaa kuviota, jota käsitellään artikkelissa tekoälysisällön tunnistaminen. Käsitteiden määritelmät löytyvät digisanastosta.