Syväväärennökset selitettynä: näin ne tehdään ja tunnistetaan

Syväväärennös eli deepfake on generatiivisella mallilla tuotettu kuva, video tai ääni, jossa todellinen ihminen esitetään sanomassa tai tekemässä jotain, mitä hän ei ole tehnyt. Tekninen ero aiempaan kuvankäsittelyyn on siinä, kuka työn tekee: ennen jälki syntyi käsityönä ruutu kerrallaan, nyt malli tuottaa sen näytteiden perusteella.

Tämä artikkeli käy läpi tekemisen puolen, koska se selittää tunnistamisen rajat. Kun tiedät, mitä väärennös vaatii ja mitä se ei vaadi, osaat arvioida oikein sen, mihin oma silmä ja korva riittävät. Yleiset tunnistuskeinot on käsitelty erikseen artikkelissa tekoälysisällön tunnistaminen.

Mikä on syväväärennös ja mikä ei ole

Kaikki tekoälyllä tehty sisältö ei ole syväväärennös. Rajaus on käyttökelpoinen vain, jos se pysyy kapeana.

Syväväärennös

Sisältö, jossa esiintyy tunnistettava todellinen henkilö tavalla, joka ei vastaa todellisuutta. Tähän kuuluvat kasvojenvaihto, huulisynkronointi ja äänen kloonaus.

Generoitu sisältö

Kokonaan malliin perustuva kuva tai video, jossa ei esitetä tiettyä olemassa olevaa ihmistä. Voi olla harhaanjohtavaa, mutta ei kohdistu kenenkään henkilöllisyyteen.

Muokattu aito tallenne

Aito video, jota on leikattu, nopeutettu tai irrotettu asiayhteydestä. Tavallisin ja vaikuttavin harhautuskeino, eikä siihen tarvita tekoälyä lainkaan.

Erottelulla on väliä kahdesta syystä. Ensinnäkin torjuntakeinot ovat erilaiset. Toiseksi arkikeskustelussa ”deepfake” on venynyt tarkoittamaan mitä tahansa epäilyttävää sisältöä, mikä johtaa toiseen ongelmaan: aitokin tallenne voidaan kiistää väittämällä sitä väärennökseksi.

Näin kuva- ja videoväärennös tehdään

Nykyiset kuvamallit ovat diffuusiomalleja. Ne on opetettu poistamaan kohinaa kuvasta, ja tuotantovaiheessa ne aloittavat puhtaasta kohinasta ja puhdistavat siitä askel askeleelta kuvan, jota ohjaa tekstikehote tai esimerkkikuva. Sama perusidea toimii videossa, jossa malli tuottaa perättäisiä ruutuja ja pyrkii pitämään ne yhtenäisinä ruudusta toiseen. Malli ei siis leikkaa ja liimaa palasia olemassa olevista kuvista, vaan tuottaa jokaisen kuvapisteen alusta niin, että lopputulos vastaa opittua tilastollista säännönmukaisuutta siitä, miltä kasvot, valo ja liike näyttävät.

Videoväärennökset syntyvät käytännössä kolmella eri tavalla, joiden vaatimukset eroavat toisistaan selvästi.

Kolme asiaa on muuttunut viime vuosina. Aineistoa tarvitaan vähemmän, koska mallit yleistävät paremmin. Osaamista tarvitaan vähemmän, koska valmiit palvelut tekevät työn. Ja tuotantoaika on lyhentynyt niin, että väärennöksen voi tehdä uutistapahtuman aikana eikä vasta jälkikäteen. Kustannustaso vaihtelee ilmaisesta muutamiin kymmeniin euroihin, mutta luvut vanhenevat nopeasti, joten niitä ei kannata opetella ulkoa.

Äänikloonaus on nyt se, joka kannattaa tuntea

Ääni on väärentäjän kannalta helpoin kohde. Kloonaus vaatii vain puhenäytteitä, ja niitä on julkisesti tarjolla yllättävän monesta ihmisestä: haastattelut, podcastit, videopalvelujen tallenteet, yrityksen esittelyvideot ja vastaajaviestin tervehdys.

Ratkaisevaa on kuitenkin laatuvaatimus. Puhelinlinja rajaa äänen kapeaksi ja lisää häiriötä, joten juuri ne pienet virheet, joista väärennöksen tunnistaisi, katoavat kuuluvista. Väärennöksen ei tarvitse olla hyvä, sen pitää olla riittävän hyvä huonolla linjalla ja kiireessä.

Suomen kieli antaa jonkin verran suojaa. Suomenkielisen puheen aineistoa on vähemmän, joten kloonatussa äänessä kuulee useammin oudon painotuksen, tasaisen rytmin tai kummallisen taivutuksen. Tämä etu on kuitenkin kutistumassa, eikä siihen voi rakentaa varmistusta. Sama kielivaikutus näkyy laajemmin siinä, miten kielimallit käsittelevät suomea.

Rikollisen näkökulmasta laskelma on yksinkertainen. Väärennös ei ole päämäärä vaan keino saada uhri toimimaan nopeasti, ja se korvaa työläämmät valmistelut, kuten kohteen tapojen pitkän seurannan. Siksi ääntä käytetään useimmiten vain lyhyessä aloituksessa, jonka jälkeen keskustelu siirretään viestiin tai maksulomakkeelle, jossa väärennöstä ei enää tarvita.

Huijaukset, joissa ääntä ja kuvaa käytetään

Käytännön tapaukset asettuvat neljään ryhmään, ja ne on helpompi tunnistaa kuviona kuin yksittäisinä väärennöksinä.

Toimitusjohtajahuijaus. Talousasioita hoitavalle työntekijälle tulee viesti tai puhelu johtajalta, joka pyytää kiireellistä maksua tai tilinumeron muutosta. Kyberturvallisuuskeskus on kuvannut tapauksia, joissa apuna on käytetty kloonattua ääntä. Kuvio on aina sama: kiire, poikkeus normaalista menettelystä ja perustelu sille, miksi asiaa ei voi varmistaa muualta.

Läheinen hädässä. Puhelu tai ääniviesti, jossa tuttu ääni kertoo onnettomuudesta tai pidätyksestä ja pyytää rahaa heti. Tunnereaktio on tässä varsinainen työkalu, ei tekniikka.

Viranomaiseksi tai pankiksi tekeytyminen. Ääniväärennös yhdistetään väärennettyyn soittajanumeroon. Toimintalogiikka on sama kuin muissakin huijausviesteissä Suomessa, ja tunnistaminen perustuu samoihin merkkeihin.

Julkisuuden henkilön nimissä tehty mainos. Video, jossa tunnettu henkilö suosittelee sijoituskohdetta. Tavoite on ohjata sivustolle, joka kerää tunnuksia tai maksuja, eli sama päämäärä kuin tietojenkalastelussa. Omaa tunnistuskykyään voi harjoitella huijausviestien tunnistustestillä.

Tunnistaminen sisällöstä: mitä se antaa ja mitä ei

Havaittavat virheet ovat yhä olemassa mutta ne ovat katoava luonnonvara. Kuvissa kannattaa katsoa varjojen suuntaa, heijastuksia silmissä ja laseissa, korujen ja hiusrajan tarkkuutta sekä tekstiä taustalla. Videoissa huulten ja äänteiden epätahtia, kaulan ja leuan rajaa sekä epäluonnollista silmien liikettä. Äänessä tasaista rytmiä, puuttuvia hengityksiä ja outoa painotusta.

Kolme rajoitusta pitää sanoa ääneen. Vinkit vanhenevat, koska juuri näitä virheitä korjataan uusissa malleissa. Pakkaus hävittää jälkiä, joten sosiaalisen median läpi kulkenut tallenne näyttää huonommalta riippumatta aitoudesta. Ja tekoälytunnistimet erehtyvät molempiin suuntiin: ne merkitsevät aitoa sisältöä väärennökseksi ja päästävät väärennöksiä läpi.

Siksi päätössääntö on toinen: älä yritä ratkaista aitoutta katsomalla, vaan selvittämällä alkuperä. Kuka julkaisi ensimmäisenä, löytyykö sama tallenne organisaation omalta kanavalta ja kertooko tapahtumasta jokin riippumaton lähde. Sama tarkistuslogiikka toimii myös tekstin kanssa, ja se on kuvattu artikkelissa tekoälyn vastauksen tarkistaminen.

Mitä laki vaatii merkinnöiltä

EU:n tekoälyasetuksen läpinäkyvyysvelvoitteet koskevat suoraan syväväärennöksiä. Sisällön julkaisijan on ilmaistava, että aineisto on keinotekoisesti tuotettu tai muokattu, ja tekoälyjärjestelmän tarjoajan on merkittävä tuottamansa synteettinen sisältö koneluettavaan muotoon. Taiteelliselle, satiiriselle ja fiktiiviselle käytölle on kevennetty velvoite, jossa merkintä tehdään tavalla, joka ei häiritse teoksen esittämistä.

Aikataulussa on syytä olla tarkkana. Läpinäkyvyysvelvoitteita sovelletaan asetuksen oman aikataulun mukaan elokuusta 2026 alkaen, mutta asetuksen soveltamisaikatauluun on tehty muutoksia kesällä 2026, ja osa määräajoista on siirtynyt. Ajantasainen tilanne kannattaa tarkistaa komission tekoälyasetusta koskevalta sivulta. Kokonaisuus on selitetty artikkelissa EU:n tekoälyasetus selitettynä.

Merkintävelvoite auttaa rehellisessä käytössä ja tekee mainoksista ja tiedotuksesta läpinäkyvämpiä. Rikolliseen käyttöön se ei vaikuta, koska huijari ei merkitse mitään. Merkinnän puuttuminen ei siis ole todiste aitoudesta.

Varmistaminen toimii, tunnistaminen ei aina

Koska sisällön tutkiminen on epävarmaa, suoja rakennetaan menettelyistä. Kolme sääntöä kattaa suurimman osan tapauksista.

1. Vaihda kanavaa. Katkaise puhelu ja soita takaisin numeroon, jonka olet itse hakenut. Älä käytä soittajan antamaa numeroa tai viestissä ollutta linkkiä.
2. Sovi tunnistautumistapa etukäteen. Perheessä yhteinen sana, jota ei ole kirjoitettu mihinkään verkkoon. Työpaikalla erillinen hyväksymisketju, jossa maksut ja tilinumeromuutokset vahvistetaan toisella kanavalla.
3. Poista kiireen mahdollisuus. Sääntö ”kiireellisiä maksupyyntöjä ei toteuteta yhden yhteydenoton perusteella” toimii riippumatta siitä, kuinka hyvä väärennös on.

Tilien puolella suoja on erilainen. Ääniväärennös ei auta ohittamaan kaksivaiheista tunnistautumista, mutta se voi saada ihmisen kertomaan kertakäyttökoodin puhelimessa. Koodia ei kerrota kenellekään, ei myöskään tutulta kuulostavalle äänelle.

Jos joudut kohteeksi Suomessa

Toimintajärjestys on käytännössä sama riippumatta siitä, onko kyseessä huijaus vai maineeseen kohdistuva väärennös.

Tallenna todisteet ensin. Ota kuvakaappaukset, kopioi osoitteet, kirjaa julkaisuajat ja mahdolliset tilinumerot ylös. Poistopyyntö voi hävittää aineiston ennen kuin sitä ehditään dokumentoida.

Tee rikosilmoitus poliisille. Kiireettömissä tapauksissa se onnistuu poliisin sähköisessä asioinnissa, joka on suljettu yöaikaan, ja kiireellisessä tilanteessa soitetaan hätänumeroon 112. Ilmoitukseen kirjataan mitä tapahtui, miten, missä ja milloin sekä mahdolliset tiedot tekijästä.

Ilmoita sisällöstä myös alustalle, jolla se on julkaistu, ja käytä sen omaa ilmoituslomaketta. Jos tapaus liittyy tietoturvaloukkaukseen, huijaukseen tai tunnusten väärinkäyttöön, ilmoita lisäksi Kyberturvallisuuskeskukselle, joka kokoaa tilannekuvaa ja voi auttaa teknisessä selvittämisessä. Jos rahaa on ehtinyt siirtyä, ota yhteys pankkiin heti.

Suomen rikoslaissa ei ole erillistä syväväärennösrikosta. Teko arvioidaan sen mukaan, mitä sillä tavoiteltiin: kysymykseen voivat tulla esimerkiksi petos, kunnianloukkaus, yksityiselämää loukkaava tiedon levittäminen, identiteettivarkaus tai seksuaalirikoksia koskevat säännökset. Nimikkeen valinta kuuluu poliisille ja syyttäjälle, joten ilmoitusta ei kannata jättää tekemättä siksi, ettei tiedä miksi tekoa kutsutaan.

Mitä tämä ei ratkaise

Väärennösten torjunta ei ratkaise kolmea asiaa, ja niiden myöntäminen on osa realistista kuvaa.

Nopeus on epäsymmetrinen. Väärennöksen tekeminen vie minuutteja, sen kumoaminen päiviä, eikä oikaisu tavoita samaa yleisöä kuin alkuperäinen. Toiseksi seuraukset eivät katoa poistolla, koska tallenne on jo kopioitu. Kolmanneksi vaikutus kohdistuu myös aitoon aineistoon: kun kaikki tietävät väärennösten olevan mahdollisia, aidon tallenteen voi kiistää väittämällä sitä tekaistuksi. Tätä pidetään monissa arvioissa suurempana yhteiskunnallisena riskinä kuin yksittäisiä väärennöksiä.

Käytännön johtopäätös on rauhallinen. Yksittäisen ihmisen kannalta tärkeintä ei ole oppia tunnistamaan väärennöksiä silmällä vaan pitää kiinni menettelyistä, jotka eivät nojaa siihen, tunnistaako ääntä tai kasvoja.