Kielletyt tekoälykäytännöt: mitä EU kieltää kokonaan

Kieltoluettelo esitetään usein pyramidin huippuna, ikään kuin se olisi korkean riskin luokan tiukempi versio. Vertaus johtaa harhaan. Muissa luokissa velvoite riippuu siitä, kuinka paljon vahinkoa järjestelmä voi aiheuttaa ja miten riskiä hallitaan: kun dokumentaatio, testaus ja valvonta ovat kunnossa, järjestelmää saa käyttää. Kieltoluettelossa hallintakeinoilla ei ole merkitystä. Jos käyttötapa osuu artiklan 5 kohtaan, sitä ei saa tehdä, vaikka jokainen päätös tarkistettaisiin käsin.

Tämä artikkeli käsittelee vain kieltoluokkaa. Riskiluokat kokonaisuutena, soveltamisala ja voimaantulon aikataulu on selitetty artikkelissa EU:n tekoälyasetus, ja seuraava luokka alaspäin on avattu artikkelissa korkean riskin tekoäly. Teksti kertoo, mitä laki sanoo, eikä ole oikeudellista neuvontaa yksittäiseen tilanteeseen.

Miksi kielto toimii eri logiikalla kuin muut luokat

Artiklan 5 kiellot koskevat kolmea tekoa kerralla: järjestelmää ei saa saattaa markkinoille, ottaa käyttöön eikä käyttää. Tämä on olennainen ero muuhun asetukseen, jossa velvoitteet on jaettu tarjoajan ja käyttöönottajan kesken. Kiellon rikkoo yhtä lailla se, joka myy työkalun, ja se, joka ottaa sen omaan toimintaansa.

Toinen ero on ajoituksessa. Kiellot olivat asetuksen ensimmäinen sovellettavaksi tullut osa, ja niitä on sovellettu helmikuusta 2025 alkaen. Ne olivat siis voimassa jo silloin, kun korkean riskin vaatimuksista käytiin vasta keskustelua. Kieltoluetteloa on myös täydennetty asetuksen voimassaoloaikana, joten luettelo kannattaa tarkistaa ajantasaisesta säädöstekstistä eikä vanhasta esityksestä.

Kolmanneksi kiellot on kirjoitettu käyttötavan, ei tekniikan varaan. Mikään niistä ei kiellä tiettyä mallityyppiä. Ne kieltävät tietyn päättelyn tietyssä ympäristössä tai tiettyä tarkoitusta varten. Tästä seuraa, että sama tekninen kyky voi olla kielletty yhdessä käytössä ja korkean riskin luokassa toisessa.

Kieltoluettelo on myös lyhyt. Se on tarkoituksella rajattu tilanteisiin, joissa lainsäätäjä on katsonut, ettei riskiä voi hallita millään suojatoimella, koska käyttötapa itsessään loukkaa perusoikeuksia. Siksi kieltojen sanamuodot ovat yksityiskohtaisia ja täynnä ehtoja. Luetteloa ei kannata lukea otsikkotasolla, koska yksittäinen ehto ratkaisee usein sen, kummalle puolelle rajaa käyttötapa kaatuu.

Manipulointi ja haavoittuvan aseman hyväksikäyttö

Ensimmäinen kielto koskee järjestelmiä, jotka käyttävät alitajuisia, tarkoituksellisesti manipuloivia tai harhauttavia tekniikoita. Kiellon ydin ei ole vaikuttaminen sinänsä vaan se, että järjestelmä heikentää tuntuvasti ihmisen kykyä tehdä tietoon perustuva päätös ja saa hänet toimimaan tavalla, jota hän ei muuten valitsisi. Lisäksi vaaditaan, että teko aiheuttaa tai todennäköisesti aiheuttaa merkittävää haittaa.

Toinen kielto on saman idean sovellus haavoittuvaan asemaan. Se kieltää hyväksikäyttämästä ihmisen ikään, vammaan tai erityiseen sosiaaliseen tai taloudelliseen tilanteeseen liittyvää haavoittuvuutta samalla tavalla vääristäen. Tyyppiesimerkki on lelu tai sovellus, joka houkuttelee lasta vaaralliseen tekoon, tai palvelu, joka kohdistuu velkaantuneisiin ja ohjaa heitä taloudellisesti tuhoisiin valintoihin.

Raja tavanomaiseen suostutteluun kulkee merkittävän haitan kohdalla. Mainonta, suositusalgoritmi ja kaupallinen vaikuttaminen eivät ole kiellettyjä sillä perusteella, että ne toimivat. Ne arvioidaan kuluttajansuojan ja tietosuojan sääntöjen mukaan. Painostavat käyttöliittymäratkaisut, jotka ohjaavat ostamaan tai hyväksymään enemmän kuin ihminen aikoi, kuuluvat ensisijaisesti kuluttajansuojan piiriin, eivät artiklan 5 alle, ellei kyse ole juuri tuosta tuntuvasta päätöskyvyn heikentämisestä ja merkittävästä haitasta.

Merkittävällä haitalla tarkoitetaan terveyteen, henkiseen hyvinvointiin tai talouteen kohdistuvaa vahinkoa, joka on muutakin kuin harmia tai ärsytystä. Haitan ei tarvitse olla toteutunut, vaan riittää, että se on kohtuudella todennäköinen. Käytännössä tämä tarkoittaa, että arvio tehdään ennakolta suunnitteluvaiheessa eikä vasta silloin, kun joku on jo vahingoittunut.

Sosiaalinen pisteytys ja rikosennuste yksittäisestä ihmisestä

Sosiaalisen pisteytyksen kielto koskee järjestelmiä, jotka arvioivat tai luokittelevat ihmisiä pidemmän ajan kuluessa heidän sosiaalisen käyttäytymisensä tai henkilökohtaisten ominaisuuksiensa perusteella. Kielto laukeaa, kun pistemäärä johtaa epäedulliseen kohteluun asiayhteydessä, jolla ei ole tekemistä tiedon alkuperäisen keruutarkoituksen kanssa, tai kun kohtelu on perusteetonta tai suhteetonta suhteessa käyttäytymiseen.

Nämä kaksi ehtoa selittävät, miksi tavallinen luottoluokitus ei ole kielletty. Kun maksukäyttäytymisen perusteella arvioidaan maksukykyä, tieto ja päätös ovat samassa asiayhteydessä. Luotonanto onkin nimenomaan luokiteltu korkean riskin käytöksi, jolloin siihen sovelletaan dokumentointi- ja valvontavaatimuksia. Kielletyksi tilanne muuttuu, jos esimerkiksi harrastuksista, sukulaisuussuhteista tai someaktiivisuudesta koottu yleinen kunnollisuuspiste alkaisi vaikuttaa vaikkapa päivähoitopaikan saamiseen.

Neljäs kielto koskee järjestelmiä, jotka ennustavat yksittäisen ihmisen rikosriskiä pelkän profiloinnin tai persoonallisuuspiirteiden perusteella. Poikkeuksena on järjestelmä, joka tukee ihmisen tekemää arviota ja perustuu objektiivisiin ja todennettavissa oleviin tosiseikkoihin, jotka liittyvät suoraan rikolliseen toimintaan. Kielto ei myöskään koske paikkaan kohdistuvaa analyysia, kuten arviota siitä, missä kaupunginosassa murtoja tapahtuu.

Tunnetilojen päättely työpaikalla ja oppilaitoksessa

Tämä kielto on rajattu ympäristön mukaan. Tunnetilojen päättely on kielletty työpaikalla ja oppilaitoksissa, ei kaikkialla. Kielto kattaa järjestelmät, jotka päättelevät ihmisen tunteita tai aikomuksia biometrisen tiedon, kuten kasvonilmeiden, äänensävyn tai kehon liikkeiden, perusteella.

Käytännössä kielto osuu esimerkiksi videohaastatteluun, joka pisteyttää hakijan innostusta ilmeistä, asiakaspalvelun puheluiden analyysiin, joka mittaa työntekijän tunnetilaa, ja luokkahuoneen kameraan, joka arvioi oppilaiden keskittymistä. Poikkeus koskee lääketieteellisiä ja turvallisuussyitä: väsymyksen havaitseminen turvallisuuskriittisessä työssä on eri asia kuin motivaation pisteytys.

Kiellolle on myös tieteellinen peruste. Tunnetilan päättely ulkoisista merkeistä on menetelmänä kiistanalainen, ja sama ilme tarkoittaa eri asioita eri ihmisillä ja eri kulttuureissa. Kun epävarma päättely yhdistyy valta-asetelmaan, jossa arvioitava ei voi kieltäytyä, virheiden seuraukset kasautuvat samoille ryhmille. Sama ilmiö tunnetaan laajemmin tekoälyn vinoumista.

Biometrinen luokittelu ja kasvokuvien haravointi

Biometrisen luokittelun kielto ei koske kaikkea luokittelua vaan sitä, että biometrisen tiedon perusteella päätellään ihmisen rotu, poliittiset mielipiteet, ammattiliittoon kuuluminen, uskonnollinen tai filosofinen vakaumus, sukupuolielämä tai seksuaalinen suuntautuminen. Poikkeuksena mainitaan laillisesti hankittujen biometristen aineistojen merkitseminen ja suodattaminen sekä lainvalvonnan käyttö.

Kasvokuvien haravoinnin kielto puolestaan koskee kohdentamatonta keräämistä: kasvokuvia ei saa kaapia internetistä tai valvontakamera-aineistosta kasvojentunnistustietokantojen luomiseksi tai laajentamiseksi. Kohdentamattomuus on tässä avainsana. Kielto ei estä sitä, että ihminen rekisteröi oman kasvonsa puhelimensa avaukseen, koska kyse on yksittäisen ihmisen omasta tunnistautumisesta. Se, mitä biometrinen tunnistus ylipäätään suojaa ja mitä ei, on käsitelty artikkelissa sormenjälki ja kasvojentunnistus.

Biometriset tiedot ovat samalla tietosuoja-asetuksen erityisiin henkilötietoryhmiin kuuluvaa aineistoa. Vaikka jokin käyttö ei osuisi tekoälyasetuksen kieltoon, se voi olla laiton tietosuojasäännösten nojalla. Kaksi säädöstä sovelletaan rinnakkain, ja rekisteröidyn oikeudet ovat voimassa riippumatta siitä, mihin riskiluokkaan järjestelmä kuuluu.

Reaaliaikainen etätunnistus julkisissa tiloissa

Viimeinen ja monimutkaisin kielto koskee biometrista etätunnistusta reaaliajassa yleisölle avoimissa tiloissa lainvalvontatarkoituksessa. Kiellon soveltuminen edellyttää kaikkia neljää osaa yhtä aikaa: tunnistus on biometristä, se tapahtuu etäältä, se tapahtuu reaaliajassa ja se tehdään lainvalvontaa varten. Jos yksikin osa puuttuu, kysymys ei ratkea artiklalla 5 vaan muualla asetuksessa tai tietosuojalainsäädännössä.

Poikkeuksia on kolme, ja ne on kirjoitettu kapeasti.

Poikkeus ei ole automaattisesti käytettävissä. Jäsenvaltion on ensin sallittava se kansallisessa laissaan, ja käytön on perustuttava tuomioistuimen tai riippumattoman viranomaisen ennakkolupaan, jota kiireellisessä tilanteessa voi hakea heti käytön alettua. Lisäksi vaaditaan perusoikeusvaikutusten arviointi, järjestelmän rekisteröinti ja ilmoitus valvontaviranomaisille. Jos jäsenvaltio ei ole säätänyt asiasta, poikkeusta ei voi käyttää.

Jälkikäteinen tunnistus tallenteesta ei kuulu tämän kiellon piiriin. Se on luokiteltu korkean riskin käytöksi, ja siihen liittyy omat lupamenettelynsä.

Kielto on rajattu tilanteeseen, ei laitteeseen. Sama kamera on laiton väline yhdessä käyttötavassa ja sallittu toisessa, koska ratkaisevaa on se, mitä aineistosta päätellään ja kuka päättelyn tekee.

Rajatapaukset: sama tekniikka, eri lopputulos

Suurin osa käytännön epäselvyyksistä ratkeaa vertaamalla kiellettyä muotoa siihen, mikä muuten muistuttaa sitä.

Huomaa myös, että kieltoluettelo ei ole ainoa este. Väärennetyn videon tai äänen tekeminen ei sinänsä ole artiklan 5 kielto, mutta syväväärennöksiin liittyy merkintävelvoite, ja aineiston sisällöstä riippuen kyse voi olla rikoksesta.

Näin tarkistat, osuuko oma käyttötapasi luetteloon

1. Selvitä, onko kyseessä asetuksen tarkoittama tekoälyjärjestelmä. Kiinteä sääntöpohjainen laskuri ei yleensä ole, mutta rajanveto kannattaa tehdä huolella eikä olettaa.
2. Kirjoita käyttötarkoitus yhdellä lauseella: mitä järjestelmästä päätellään ja mitä päätöstä varten. Kiellot on kirjoitettu tarkoituksen, ei tekniikan varaan.
3. Tarkista ympäristö. Työpaikka, oppilaitos ja yleisölle avoin tila laukaisevat omat kieltonsa, joita ei sovelleta muualla.
4. Tarkista päättelyn kohde. Jos järjestelmä päättelee tunnetiloja tai arkaluonteisia ominaisuuksia ihmisestä, olet lähellä kieltoa.
5. Arvioi seuraus. Syntyykö merkittävää haittaa tai epäedullista kohtelua asiayhteydessä, joka on irrallaan tiedon alkuperäisestä keruusta.
6. Jos vastaus on kyllä, älä yritä korjata tilannetta sopimusehdolla tai suostumuslomakkeella. Kielto ei ole ehdollinen, ja seuraamukset on mitoitettu asetuksen ankarimpaan päähän. Vastuunjako on avattu artikkelissa tekoälyasetuksen seuraamukset.
7. Jos vastaus on ei, siirry tarkistamaan korkean riskin luokka ja läpinäkyvyysvelvoitteet. Useimmat epäilyttävät käyttötavat päätyvät sinne, eivät kieltoluetteloon.

Jos epäilet, että jokin markkinoilla oleva palvelu rikkoo kieltoa, asia kuuluu markkinavalvonnalle. Suomen valvontarakenne ja ilmoituskanavat on kuvattu artikkelissa kuka valvoo tekoälyasetusta Suomessa.