Vesileimat ja C2PA: näin tekoälykuvan alkuperä merkitään

Kun sanotaan, että tekoälykuva on merkitty, tarkoitetaan yleensä kolmea eri tekniikkaa, joilla ei ole juuri mitään yhteistä. Yksi kirjoittaa merkin kuvan päälle, toinen piilottaa signaalin kuvapisteiden arvoihin ja kolmas liittää tiedoston mukaan allekirjoitetun selvityksen siitä, miten se on syntynyt. Ne kestävät jakamista eri tavoin, ja niitä luetaan eri työkaluilla.

Tässä artikkelissa käsitellään tekniikkaa: miten merkinnät tehdään, mikä niistä säilyy tiedoston matkalla ja miten voit tarkistaa merkinnän itse. Lakisääteinen velvoite merkitä sisältö on eri asia, ja se käydään läpi artikkelissa tekoälysisällön merkintä.

Kolme tekniikkaa, kolme eri paikkaa

Merkinnän kohtalo ratkeaa sillä, mihin se on tallennettu. Tämä yksi kysymys selittää suurimman osan siitä, miksi merkinnät katoavat.

Kaksi ensimmäistä ovat merkintöjä itse sisällössä. Kolmas on tiedoston mukana kulkeva liite. Ero on sama kuin kirjeen tekstin ja kirjekuoren välillä: kuoren voi vaihtaa, tekstiä ei saa pois vahingoittamatta sisältöä.

Näkyvä merkintä on yksinkertaisin ja haurain

Näkyvä merkintä on kuvaan piirretty teksti tai tunnus, tai videossa kulmassa oleva merkki. Se on ainoa merkintä, jonka tavallinen katsoja huomaa ilman työkaluja, ja siksi se on käytännössä tärkein niissä tilanteissa, joissa merkinnän tarkoitus on kertoa yleisölle sisällön luonteesta.

Heikkoudet ovat ilmeisiä. Merkki sijaitsee jossain kohtaa kuvaa, ja se kohta voidaan rajata pois. Kuvan voi myös venyttää, peittää tai käsitellä niin, että merkki katoaa. Poistaminen ei vaadi erikoisosaamista.

Toinen ongelma on väärinkäyttö toiseen suuntaan. Koska näkyvä merkki on vain kuvapintaa, kuka tahansa voi lisätä sen mihin tahansa kuvaan. Aidon valokuvan voi merkitä tekoälyllä tehdyksi yhtä helposti kuin päinvastoin, ja tätä käytetään aitojen tallenteiden uskottavuuden horjuttamiseen. Näkyvä merkintä on siis ilmoitus, ei todiste.

Tilastollinen vesileima kuvassa

Toinen tapa on upottaa merkki itse sisältöön niin, ettei ihminen näe sitä. Kuvassa tämä tarkoittaa, että generointia ohjataan tuottamaan kuvapisteiden arvoihin tai taajuuksiin heikko kuvio, joka on hajautettu koko kuva-alalle. Kuvion muoto on tuottajan tiedossa, ja tunnistin etsii juuri sitä.

Menetelmä toimii, koska generointi on joka tapauksessa satunnaista. Diffuusiomalli lähtee liikkeelle kohinasta ja poistaa sitä vaiheittain, kuten artikkelissa miten tekoäly tekee kuvan kuvataan. Kun lähtökohina valitaan tietyn säännön mukaan, lopputulokseen jää tilastollinen jälki, joka ei näy silmälle mutta joka löytyy laskemalla. Kuvanlaatu ei kärsi havaittavasti.

Vesileiman vahvuus on se, että se on osa kuvaa. Kuvakaappaus, kohtuullinen pakkaus, koon muutos ja tavanomaiset suodattimet eivät välttämättä hävitä sitä. Rajat tulevat vastaan kolmessa tilanteessa: raju rajaus poistaa suuren osan signaalista, voimakas uudelleenpakkaus tai skaalaus hukuttaa sen, ja kuvan piirtäminen uudelleen toisella mallilla tuottaa uuden kuvan, jossa alkuperäistä signaalia ei ole.

Vesileimasta puhuttaessa kannattaa erottaa kaksi eri tavoitetta. Toinen on kestävyys, eli se että merkki säilyy tavanomaisessa käsittelyssä. Toinen on huomaamattomuus, eli se ettei merkki näy eikä heikennä laatua. Nämä vetävät vastakkaisiin suuntiin: mitä voimakkaammin signaali upotetaan, sitä paremmin se kestää ja sitä helpommin se myös löytyy ja poistetaan. Kaikki käytössä olevat menetelmät ovat kompromisseja tällä janalla.

Ratkaiseva rajoite on kuitenkin ekosysteemi. Vesileiman löytää vain työkalulla, joka tuntee juuri sen kuvion. Käytännössä tämä tarkoittaa, että tunnistuspalvelu on saman tahon hallussa kuin kuvien tuottaja. Malli, jonka joku ajaa omalla koneellaan, ei ole velvollinen upottamaan mitään, eikä juuri sitä joukkoa, joka tekee tahallisia väärennöksiä, tavoiteta merkintävelvoitteilla.

Vesileima tekstissä perustuu sanavalintoihin

Tekstissä ei ole kuvapisteitä, joihin signaalin voisi piilottaa. Siksi tekstin vesileima tehdään valintahetkellä. Kielimalli tuottaa tekstiä token kerrallaan ja valitsee joka askeleella yhden vaihtoehdon todennäköisimpien joukosta. Vesileima ohjaa tätä valintaa: sanasto jaetaan salaisen säännön avulla kahteen joukkoon, ja malli suosii hienovaraisesti toista joukkoa aina kun useampi vaihtoehto on suunnilleen yhtä hyvä.

Yksittäisestä sanasta ei näe mitään, koska valinta on aina uskottava. Pitkässä tekstissä suositun joukon osuus nousee kuitenkin selvästi yli sen, mitä sattuma tuottaisi, ja tunnistin laskee juuri tämän osuuden. Tekstin merkintä on siis tilastollinen väite pituudesta riippuen, ei ominaisuus yksittäisessä lauseessa.

Tästä seuraa kolme rajoitusta, jotka kannattaa tuntea. Lyhyt katkelma ei sisällä riittävästi tokeneita, joten muutaman lauseen pituinen teksti ei ole tarkistettavissa lainkaan. Muokkaaminen hävittää merkintää sitä mukaa kuin sanoja vaihdetaan, ja kääntäminen toiselle kielelle poistaa sen käytännössä kokonaan. Lisäksi merkintä heikkenee, jos tekstin muoto on tiukasti sidottu, esimerkiksi ohjelmakoodissa tai lyhyessä listassa, koska mallilla ei ole vaihtoehtoja joista valita.

C2PA on allekirjoitettu historia, ei piilomerkintä

C2PA on avoin tekninen määrittely, jolla tiedostoon liitetään koneluettava selvitys sen alkuperästä. Käyttäjälle näkyvä nimi tälle on usein Content Credentials. Selvityksessä kerrotaan esimerkiksi, millä laitteella tai ohjelmalla sisältö on luotu, onko siihen käytetty generatiivista työkalua ja mitä muokkauksia sille on tehty.

Rakenne on kolmiosainen. Ensin tiedostosta lasketaan tiiviste, joka muuttuu jos yksikin kuvapiste vaihtuu. Sitten tiiviste ja väitteet sisällöstä kootaan yhdeksi paketiksi. Lopuksi paketti allekirjoitetaan varmenteella, jonka takana on jokin taho: kameravalmistaja, ohjelmisto tai palvelu. Allekirjoituksen tarkistaminen toimii samalla periaatteella kuin verkkosivujen varmenteet, joita käsitellään artikkelissa HTTPS ja varmenteet.

Kun kuvaa muokataan C2PA:ta tukevalla ohjelmalla, uusi vaihe lisätään ketjuun ja allekirjoitetaan uudelleen, ja aiempi vaihe jää näkyviin lähtöaineistona. Näin syntyy ketju, jota voi lukea taaksepäin. Tämä on menetelmän vahvuus: se ei yritä paljastaa väärennöstä vaan todistaa aitoutta.

Sama rakenne toimii myös videossa ja äänessä, ja periaatteessa millä tahansa tiedostomuodolla, joka sallii metatietokentät. Kuvien lisäksi merkintää käytetään esimerkiksi uutiskuvien ja virallisten tallenteiden todentamisessa, jossa julkaisijalla on syytä pitää ketju katkeamattomana alusta loppuun.

Kaksi rajoitusta on ymmärrettävä. Ensinnäkin allekirjoitus todistaa vain sen, että nimetty taho on vastuussa nimetyistä vaiheista. Se ei todista, että kuvan sisältö vastaa todellisuutta, koska aidolla kameralla voi kuvata lavastetun tilanteen. Toiseksi alkuperätieto on metatietoa, ja metatieto elää tiedoston mukana. Kun tiedosto muuttuu toiseksi, tieto katoaa.

Mitä kuvakaappaus ja uudelleenpakkaus tekevät

Tämä on koko aiheen käytännön ydin. Kuva harvoin päätyy sinulle sellaisena kuin se syntyi.

• Kuvakaappaus luo kokonaan uuden tiedoston näytön kuvapisteistä. Kaikki metatieto ja siten koko C2PA-ketju katoaa. Kuvapintaan upotettu vesileima ja näkyvä merkki voivat säilyä, jos kaappaus kattaa koko kuvan.
• Uudelleenpakkaus tapahtuu joka kerta, kun kuva ladataan palveluun, joka pakkaa sen omilla asetuksillaan. Voimakas pakkaus hävittää hienovaraisia yksityiskohtia ja heikentää vesileimaa, mutta yleensä ei poista sitä kokonaan.
• Rajaus ja skaalaus poistavat osan signaalista. Näkyvä merkintä häviää, jos se osuu rajattavalle alueelle, ja vesileima heikkenee suhteessa poistettuun pinta-alaan.
• Alustan käsittely. Moni palvelu poistaa kuvista metatiedot latauksen yhteydessä joko tilan säästämiseksi tai yksityisyyssyistä. Sama käsittely poistaa C2PA-tiedon, vaikka sitä ei olisi tarkoitettu poistettavaksi. Ilmiö on tuttu myös valokuvien sijaintitiedoista, joita käsitellään artikkelissa kuvien jakaminen ja metatiedot.
• Uudelleenpiirtäminen toisella mallilla tuottaa uuden kuvan. Mikään alkuperäinen merkintä ei siirry siihen.

Johtopäätös on epämukava mutta selkeä: mitä laajemmalle kuva on levinnyt, sitä epätodennäköisemmin siinä on enää merkintöjä jäljellä. Merkinnät toimivat parhaiten lähellä lähdettä.

Näin tarkistat merkinnän itse

Tarkistus kannattaa tehdä tässä järjestyksessä, koska ensimmäinen askel ratkaisee, onko myöhemmillä mitään mahdollisuutta onnistua.

1. Hanki alkuperäinen tiedosto. Lataa kuva sen alkuperäisestä julkaisupaikasta tai pyydä se lähettäjältä tiedostona. Kuvakaappauksesta tai keskustelusovelluksen kautta kulkeneesta versiosta ei löydy alkuperätietoa.
2. Katso tiedoston tiedot. Käyttöjärjestelmän tiedostotiedoista näkee peruskentät, kuten laitteen ja aikaleiman. Tämä ei ole C2PA, mutta puuttuvat tai ristiriitaiset perustiedot kertovat jo jotain käsittelyhistoriasta.
3. Avaa tiedosto alkuperätiedon lukijassa. C2PA-tietoa lukevia katselimia on saatavilla verkossa, ja osa kuvankäsittelyohjelmista näyttää tiedon suoraan. Lähdeluettelossa on osoite yhteen julkiseen tarkistustyökaluun.
4. Lue mitä merkinnässä oikeasti sanotaan. Katso, väitetäänkö sisällön olevan generoitua, muokattua vai kameralla kuvattua, ja mitä vaiheita ketjussa on.
5. Katso kuka on allekirjoittanut. Merkinnän arvo riippuu allekirjoittajasta. Tuntematon allekirjoittaja on eri asia kuin tunnettu kameravalmistaja tai palvelu.
6. Jos merkintää ei ole, älä päättele siitä mitään. Siirry alkuperän jäljittämiseen: etsi sama kuva muualta ja katso vanhin esiintymä, kuten artikkelissa kuvan alkuperän tarkistus neuvotaan.

Mitä merkinnästä voi päätellä ja mitä ei

Merkintäjärjestelmien arvo on siinä, että ne kääntävät kysymyksen ympäri. Sen sijaan että yrittäisit todistaa jonkin olevan väärennös, tarkistat onko sisällöllä uskottava ketju alkuperäänsä. Todistelu on tässä suunnassa paljon helpompaa, koska aitouden voi näyttää mutta väärennöstä ei voi näyttää poissaolevalla todisteella.

Pidä kuitenkin nämä kolme sääntöä mielessä. Merkinnän löytyminen kertoo alkuperästä, ei siitä että kuvan sisältö olisi totta. Merkinnän puuttuminen on normaalia myös aidossa aineistossa, koska merkintöjä ei ole kaikkialla eivätkä ne kestä jakamista. Ja se, joka tekee väärennöksen tahallaan, valitsee työkalun joka ei merkitse mitään.

Merkintä ei myöskään korvaa tavallista lähdekritiikkiä. Kuvan kohdalla ratkaisevat kysymykset ovat edelleen kuka julkaisi, milloin ja löytyykö samasta tapahtumasta riippumatonta aineistoa, kuten artikkelissa tekoälysisällön tunnistaminen kuvataan.

Käytännössä merkintä on siis yksi todiste muiden joukossa. Se on vahvimmillaan silloin, kun tarvitset varmuutta oman aineistosi alkuperästä tai kun arvioit julkaisijaa, jolla on syytä pitää ketju kunnossa. Väärennösten tunnistamiseen se ei riitä, ja siihen tarkoitukseen kannattaa lukea syväväärennöksistä ja niiden tunnistamisen rajoista.