Näin tunnistat tekoälyllä tehdyn kuvan, videon tai tekstin

Tekoälysisällön tunnistamisesta on tehty taitolaji, jota se ei ole. Suurin osa netissä jaetuista vinkeistä on lista tekoälykuvien vanhoista virheistä, ja nämä virheet katoavat mallisukupolvi kerrallaan. Kuusi sormea oli hyvä merkki vuonna 2023. Se ei ole enää.

Tässä artikkelissa käydään läpi, mitä kuvasta kannattaa yhä katsoa, mitä alkuperämerkinnät oikeasti kertovat, miksi tekstintunnistimet ovat vaarallisia, ja miten ääniväärennöksiin varaudutaan käytännössä. Loppuosassa on päätössääntö, joka toimii silloinkin, kun tekniikka on ohittanut kaikki tarkistuslistat.

Miksi vanhat tunnistusvinkit vanhenevat nopeasti

Generatiivinen malli tuottaa sen, mitä sitä on opetettu tuottamaan. Kun jokin virhe on tarpeeksi näkyvä ja siitä valitetaan tarpeeksi usein, se päätyy seuraavan sukupolven opetus- ja arviointiaineistoon korjattavaksi ongelmaksi. Julkinen tunnistusvinkki on siis samalla julkinen tehtävälista.

Tämä koskee kaikkia klassisia merkkejä: käsien sormia, kuvassa olevaa tekstiä, korujen ja silmälasien epäjatkuvuuksia, epäloogisia varjoja. Ne toimivat yhä joissakin halvoissa tai vanhoissa työkaluissa, joten niitä kannattaa katsoa. Mutta niiden puuttuminen ei todista, että kuva olisi aito. Tästä syntyy väärä turvallisuudentunne, joka on huonompi kuin ei mitään.

Toinen syy on se, että sisältö kulkee harvoin sellaisenaan. Ruutukaappaus, uudelleenpakkaus ja alustan oma skaalaus hävittävät hienovaraiset artefaktit. Sama käsittely hävittää usein myös merkinnät, joiden pitäisi paljastaa tekoäly. Kummallekin osapuolelle jää siis huonompi työkalupakki.

Mitä artefakteja kannattaa yhä katsoa

Vaikka yksittäiset virheet korjaantuvat, tietyt ongelmat seuraavat menetelmästä eivätkä katoa yhtä nopeasti.

Toisto ja symmetria. Malli tuottaa taustan tilastollisesti todennäköisillä muodoilla. Väkijoukossa toistuvat kasvot, samanlaiset ikkunat epäluonnollisen tarkassa rytmissä ja kuviot, jotka jatkuvat sinne minne ne eivät fysiikan mukaan jatkuisi, ovat yhä yleisiä.

Fysiikan jatkuvuus liikkeessä. Videolla vaikeinta on jatkuvuus: esineet, jotka vaihtavat kokoa tai kättä ruutujen välillä, hiukset jotka sulautuvat taustaan liikkeessä, nesteet ja savu, jotka eivät noudata omaa liikerataansa.

Reunat ja rajapinnat. Kasvon ja hiusten raja, silmälasien sanka poskella, käden ja esineen kosketuskohta. Näissä on eniten yksityiskohtaa suhteessa pinta-alaan.

Ääni ja huulisynkronointi erikseen. Katso video kerran ilman ääntä ja kuuntele se kerran ilman kuvaa. Aivot paikkaavat epäsuhdan automaattisesti, kun molemmat ovat päällä.

Sääntö näiden käytölle: artefakti on todiste väärennöksestä, mutta artefaktin puuttuminen ei ole todiste aitoudesta. Todistus kulkee vain yhteen suuntaan.

Alkuperätiedot: C2PA ja Content Credentials

Kuvan tunnistamisen sijaan alalla on siirrytty todistamaan alkuperää. C2PA (Coalition for Content Provenance and Authenticity) on avoin tekninen määrittely, joka liittää tiedostoon kryptografisesti allekirjoitetun manifestin: millä laitteella tai ohjelmalla sisältö on luotu, mitä muokkauksia siihen on tehty ja kuka allekirjoituksen takaa. Content Credentials on tämän käyttäjälle näkyvä nimi ja merkki.

Idea on hyvä, koska se kääntää kysymyksen ympäri. Sen sijaan että yrittäisit todistaa jonkin olevan väärennös, tarkistat onko jollain sisällöllä uskottava ketju alkuperäänsä. Kameravalmistajat, kuvankäsittelyohjelmat ja osa generatiivisista palveluista kirjoittavat merkinnän tulokseen.

Rajoitteet ovat kuitenkin merkittävät. Manifesti on metatietoa, ja metatieto katoaa ruutukaappauksessa, monissa uudelleenpakkauksissa ja useiden alustojen kuvankäsittelyssä. Merkinnän puuttuminen on siis täysin normaalia myös aidolle kuvalle. Lisäksi allekirjoitus todistaa vain sen, että joku tietty taho on tehnyt tietyt muokkaukset, ei sitä että kuvan sisältö vastaa todellisuutta: aito kamera voi kuvata lavastetun tilanteen.

Käytännön johtopäätös: läsnä oleva ja tarkistettavissa oleva alkuperäketju on vahva positiivinen todiste. Sen puuttuminen ei ole todiste mistään.

Näkymättömät vesileimat ja miksi ne katoavat

Toinen tekninen lähestymistapa on upottaa merkki itse sisältöön: pikselien arvoihin, äänen taajuuksiin tai kielimallin sanavalintojen tilastolliseen kuvioon. Google DeepMindin SynthID on julkisesti dokumentoitu esimerkki tästä. Toisin kuin metatieto, tällainen vesileima kestää ruutukaappauksen ja kohtuullisen pakkauksen.

Rajat ovat silti selvät. Vesileima kestää huonosti rajua rajausta, voimakasta uudelleenpakkausta, kuvan uudelleenpiirtämistä toisella mallilla ja tarkoituksellista poistoyritystä. Tekstissä vesileima haurastuu, kun tekstiä muokataan tai käännetään toiselle kielelle, ja lyhyestä pätkästä ei löydy tilastollista signaalia lainkaan.

Ratkaisevin rajoite on kuitenkin ekosysteemi. Vesileima löytyy vain, jos sinulla on pääsy juuri sen tuottajan tunnistintyökaluun. Avoimen lähdekoodin mallit, jotka pyörivät jonkun omalla koneella, eivät ole velvoitettuja tuottamaan mitään merkintää, ja juuri niitä käytetään tahallisiin väärennöksiin. Merkintävelvoitteet, joista kerrotaan artikkelissa EU:n tekoälyasetus, nostavat rehellisten toimijoiden merkintätasoa mutta eivät tavoita rikollisia.

Miksi tekstintunnistimiin ei voi luottaa

Tekoälytekstin tunnistimet lupaavat prosenttiluvun siitä, kuinka todennäköisesti teksti on koneen kirjoittama. Luku on epäluotettava, ja sen käyttö päätöksenteossa on suoraan haitallista.

Syy on menetelmässä. Tunnistimet mittaavat, kuinka ennustettavaa teksti on: tasainen, yksinkertainen ja kieliopillisesti säännöllinen teksti saa korkean tekoälypisteen. Tämä on kuvaus myös huolellisesta, mutta rajallisella sanavarastolla kirjoittavasta ihmisestä. Stanfordin tutkijoiden vuonna 2023 julkaistussa tutkimuksessa yleiset tunnistimet luokittelivat systemaattisesti väärin sellaisten kirjoittajien tekstejä, joiden äidinkieli ei ollut englanti, kun taas äidinkielisten tekstit tunnistettiin oikein.

Suomessa tämä tarkoittaa käytännössä kahta riskiryhmää: suomeksi kirjoittavat, joiden teksti käännetään tai analysoidaan englanninkielisellä työkalulla, ja ne jotka kirjoittavat englanniksi vieraana kielenä. Väärä positiivinen syytös plagioinnista tai vilpistä on vakava seuraus mittarille, jonka epävarmuutta ei voi kvantifioida.

Käänteinen ongelma on yhtä paha: kevyt uudelleenmuotoilu tai kehotus kirjoittaa mutkikkaammin laskee pistettä merkittävästi. Tunnistin siis rankaisee rehellistä ja päästää läpi sen, joka yrittää kiertää. Jos tarvitset varmuutta tekstin alkuperästä, kysy kirjoittajalta prosessista, luonnoksista ja lähteistä. Se toimii, koska kielimalli ei muista omaa työtään ja koska se myös keksii lähteitä, joita ei ole olemassa.

Ääniväärennökset, puhelinhuijaukset ja videopuhelut

Äänen kloonaus on halventunut nopeammin kuin video. Muutaman kymmenen sekunnin näyte julkisesta haastattelusta, videosta tai vastaajaviestistä riittää tuottamaan puhetta, joka kuulostaa tutulta puhelinlinjan yli. Puhelimen kaistanleveys peittää juuri niitä yksityiskohtia, joista ihmiskorva erottaisi eron.

Tyypillinen käyttö on kiireen ja auktoriteetin yhdistelmä: läheinen on pulassa ja tarvitsee rahaa heti, tai toimitusjohtaja pyytää poikkeuksellista maksua ohi normaalin prosessin. Rakenne on sama kuin tietojenkalastelussa, mutta luottamus rakennetaan äänellä eikä lähettäjäkentällä.

Videopuhelut ovat seuraava askel. Reaaliaikainen kasvojen ja äänen korvaaminen videokokouksessa on teknisesti mahdollista, ja huijaus voi sisältää useita väärennettyjä osallistujia, jotka kaikki vahvistavat toisiaan. Tämän takia videokuva ei ole henkilöllisyyden todiste sen enempää kuin ääni.

Käytännön testejä reaaliaikaisessa puhelussa: pyydä toista kääntämään päänsä sivuprofiiliin, viemään käsi kasvojen eteen tai poimimaan jotain lattialta. Reaaliaikaiset menetelmät kompastuvat yhä usein voimakkaisiin kulmiin ja peittoihin. Nämä testit vanhenevat samalla tavalla kuin sormien laskeminen, joten älä rakenna niiden varaan.

Käänteinen kuvahaku ja sosiaalinen konteksti

Ennen teknistä analyysia kannattaa tehdä halvin tarkistus: etsi sama kuva muualta. Käänteinen kuvahaku kertoo usein heti, että kuva on vuosia vanha, otettu toisessa maassa tai peräisin elokuvasta. Iso osa "tekoälyväärennöksistä" on vanhoja aitoja kuvia väärässä yhteydessä, mikä on halvempaa ja tehokkaampaa kuin uuden generoiminen.

Kuvan lisäksi tarkista tili, joka jakoi sen. Milloin tili on luotu, mitä se on julkaissut ennen tätä, ovatko sen seuraajat aitoja, onko nimimerkissä epätavallisia merkkejä. Uusi tili, joka julkaisee ensimmäisenä dramaattisen kuvan uutistapahtumasta, on hälytysmerkki riippumatta siitä, miltä kuva näyttää.

Kolmas konteksti on ajallinen. Aito iso tapahtuma tuottaa useita riippumattomia kuvia eri kuvakulmista muutamassa tunnissa. Yksi ainoa kuva, joka leviää kymmeniä tuhansia kertoja ilman toista lähdettä, on todennäköisemmin väärennös tai irrotettu asiayhteydestä. Suomessa liikkuvien huijausten tunnusmerkkejä ja ilmoituskanavia käsitellään erikseen artikkelissa huijausviestit Suomessa.

Päätössääntö: älä tunnista kuvasta vaan lähteestä

Tämä on artikkelin tärkein osio. Se korvaa tarkistuslistat säännöllä, joka ei vanhene mallien mukana.

Älä kysy näyttääkö tämä tekoälyltä. Kysy mistä tämä tuli ja kuka hyötyy siitä, että uskon sen.

Kysymys "onko tämä tekoälyä" edellyttää, että pysyt teknisesti generointimenetelmien edellä. Et pysy. Kysymys "mistä tämä tuli" ei edellytä sitä, koska aitokin sisältö ilman lähdettä on yhtä hyödytön kuin väärennös.

Nelivaiheinen tarkistusketju

Käy vaiheet järjestyksessä ja pysähdy heti, kun jokin vaihe antaa selvän vastauksen.

Vaiheet 1 ja 2 ratkaisevat valtaosan tapauksista. Vaihe 3 on lisätodiste, ei tuomio. Vaihe 4 on se, joka pysäyttää parhaiten, koska väärennös tehdään aina jotain tarkoitusta varten: väärennöstä, joka ei pyydä mitään, ei kannata tehdä.

Perhesopimus koodisanasta

Ääniväärennöstä vastaan ei ole teknistä suojaa, joka toimisi puhelimessa reaaliajassa. Sosiaalinen suoja toimii. Sovi lähipiirisi kanssa kolme asiaa, mieluiten samalla kertaa kun asennatte kaksivaiheisen tunnistautumisen.

1. Koodisana. Yksi sana tai lyhyt kysymys, jonka vastausta ei löydy sosiaalisesta mediasta. Ei lemmikin nimeä, ei syntymäpaikkaa. Jotain arkista ja jaettua, esimerkiksi mikä oli kesämökin veneen väri.
2. Takaisinsoittosääntö. Rahaa koskevaan pyyntöön ei koskaan vastata siinä puhelussa, jossa se esitetään. Katkaise ja soita itse numeroon, joka on omassa puhelinluettelossasi. Väärennös ei kestä sitä, että kanava vaihtuu sinun valitsemaasi.
3. Ei häpeää. Sovi etukäteen, että koodisanan kysyminen on normaalia eikä loukkaus. Huijaus toimii juuri siksi, että kiireessä tuntuu kiusalliselta epäillä läheistä.

Sama rakenne toimii yrityksessä: maksupyyntö vahvistetaan aina toista kanavaa pitkin ja tunnetusta yhteystiedosta, riippumatta siitä kuka pyytäjä näyttää olevan videokuvassa. Tekoälyn perusteista ja siitä, miksi mallit tuottavat vakuuttavan näköistä tulosta ilman ymmärrystä, kerrotaan artikkelissa mitä tekoäly oikeasti on.