Tekoäly rekrytoinnissa: mitä hakijan ja työnantajan on tiedettävä

Rekrytointiohjelmiston myyntipuhe kuuluu yleensä niin, että työkalu vain nopeuttaa hakemusten läpikäyntiä ja lopullisen valinnan tekee ihminen. Tämä pitää paikkansa harvemmin kuin ostaja luulee. Jos järjestelmä järjestää sata hakemusta paremmuusjärjestykseen ja rekrytoija katsoo niistä viisitoista, kone on tehnyt karsinnan ja ihminen on tehnyt valinnan jäljelle jääneistä. Lain kannalta olennaista ei ole, kuka painoi viimeistä nappia, vaan kenen arvio tosiasiassa ratkaisi hakijan pääsyn eteenpäin.

Toinen yleinen väärinkäsitys on, että vastuu jää ohjelmiston toimittajalle. Hakijan henkilötietojen rekisterinpitäjä on työnantaja. Työnantaja on myös tekoälyasetuksen tarkoittama käyttöönottaja. Kummastakaan roolista ei pääse eroon sopimuksella, vaikka toimittaja lupaisi hoitaa vaatimustenmukaisuuden.

Mihin tekoälyä rekrytoinnissa oikeasti käytetään

Sana tekoäly kattaa rekrytoinnissa hyvin erilaisia asioita, joilla on eri sääntely ja eri riski. Kannattaa erottaa toisistaan tekstin jäsentäminen, hakijoiden arviointi ja ilmoituksen kohdentaminen.

Kohdennettu ilmoittelu jää usein keskustelun ulkopuolelle, koska se ei tunnu rekrytointipäätökseltä. Se on silti mainittu tekoälyasetuksen työelämää koskevassa kohdassa, ja hyvästä syystä: jos ilmoitus näytetään järjestelmällisesti vain tietyn ikäisille tai tietyn kieliselle yleisölle, hakijajoukko on vinoutunut ennen kuin yksikään hakemus on saapunut.

Osa käyttötavoista on kokonaan kiellettyjä. Tekoälyasetus kieltää tunnetilojen päättelyn työpaikalla ja oppilaitoksissa lukuun ottamatta lääketieteellisiä ja turvallisuussyitä, samoin biometrisen luokittelun, jolla päätellään esimerkiksi etnistä alkuperää, poliittisia mielipiteitä, ammattiliiton jäsenyyttä tai uskonnollista vakaumusta. Rekrytointihaastattelu ei ole aivan sama asia kuin työpaikka, eikä sanamuodon rajaa ole vielä ratkaistu käytännössä, mutta hakijan tunnetilojen arvioinnille kannattaa etsiä toinen menetelmä. Nämä kiellot on käyty läpi artikkelissa kielletyt tekoälykäytännöt.

Milloin kyse on automaattisesta päätöksestä ja milloin ei

Tietosuoja-asetuksen sääntö on kapea mutta terävä. Se koskee päätöstä, joka perustuu yksinomaan automaattiseen käsittelyyn ja jolla on oikeusvaikutuksia tai joka vaikuttaa vastaavalla tavalla merkittävästi. Työhakemuksen hylkääminen kuuluu tähän joukkoon, kun se tapahtuu ilman ihmisen tosiasiallista arviota.

Sana yksinomaan on se, josta kiistellään. Vakiintunut tulkinta on, että ihmisen osallistumisen pitää olla aitoa. Kolme kysymystä erottaa aidon valvonnan muodollisesta:

1. Onko valvojalla pätevyys arvioida, onko koneen tuottama arvio järkevä juuri tässä tehtävässä?
2. Onko hänellä valtuus poiketa suosituksesta ilman, että poikkeamista pitää erikseen puolustella?
3. Onko hänellä käytössään se aineisto, jonka perusteella poikkeaminen olisi mahdollista, eli itse hakemus eikä vain pistemäärä?

Jos vastaus johonkin näistä on ei, päätös on käytännössä koneen tekemä, vaikka sen olisi kuitannut ihminen. Unionin tuomioistuin on samaan tapaan katsonut, että automaattisesti tuotettu pisteytys voi itsessään olla tietosuoja-asetuksen tarkoittama päätös silloin, kun ratkaisu tosiasiassa nojaa siihen.

Poikkeuksia kieltoon on kolme: päätös on tarpeen sopimuksen tekemistä varten, se sallitaan laissa, tai siihen on annettu nimenomainen suostumus. Työnhaussa suostumukseen ei kannata nojata, koska hakijan ja työnantajan välinen asetelma on epätasainen eikä suostumusta voi pitää aidosti vapaaehtoisena. Ja vaikka poikkeus soveltuisi, hakijalle on silti turvattava oikeus ihmisen suorittamaan arviointiin, oman näkemyksen esittämiseen ja päätöksen riitauttamiseen.

Mitä hakijalle on kerrottava ja missä vaiheessa

Tiedonantovelvollisuus tulee kolmesta suunnasta, ja ne täydentävät toisiaan.

Tietosuoja-asetus vaatii kertomaan etukäteen, jos automaattista päätöksentekoa tai profilointia käytetään, sekä antamaan merkitykselliset tiedot käsittelyyn liittyvästä logiikasta ja käsittelyn merkityksestä ja seurauksista. Käytännössä tämä kuuluu hakijan tietosuojaselosteeseen ja työpaikkailmoitukseen, ei vasta hylkäysviestiin. Logiikan kuvaus tarkoittaa ymmärrettävää selostusta siitä, mitä tietoja arvioidaan ja mikä niissä painaa, ei mallin sisältöä.

Tekoälyasetus lisää tähän kaksi asiaa. Käyttöönottajan on kerrottava ihmiselle, kun häntä koskevassa päätöksenteossa käytetään korkean riskin järjestelmää. Työnantajan on lisäksi ennen käyttöönottoa kerrottava asiasta työntekijöiden edustajille ja niille työntekijöille, joita käyttö koskee.

Suomen työelämän tietosuojasääntely tuo kolmannen kerroksen. Työnantaja saa käsitellä vain sellaisia hakijan tietoja, jotka ovat välittömästi tarpeellisia työsuhteen kannalta, eikä tästä vaatimuksesta voi poiketa edes hakijan suostumuksella. Tiedot on lisäksi kerättävä ensisijaisesti hakijalta itseltään. Tämä rajoittaa sitä, mitä hakijasta saa kaivaa muualta verkosta koneen avulla, ja aihetta käsitellään tarkemmin artikkelissa some ja työnhaku.

Korkean riskin luokka työnantajan kannalta

Korkea riski ei tarkoita kieltoa vaan ehtoja. Tarjoajan velvoitteet, luokittelun logiikka ja liitteen III rakenne on käsitelty artikkelissa korkean riskin tekoäly, joten tässä katsotaan vain sitä, mikä jää työnantajan itsensä hoidettavaksi.

• Järjestelmää on käytettävä sen käyttöohjeen mukaisesti. Jos ohje sanoo, että työkalu on tarkoitettu hakemusten esilajitteluun eikä soveltuvuuden arviointiin, sitä ei saa käyttää soveltuvuuden arviointiin.
• Valvonta on annettava henkilölle, jolla on siihen pätevyys, koulutus ja valtuus, ja jolla on tuki asian hoitamiseen.
• Syötetietojen on oltava käyttötarkoitukseen nähden merkityksellisiä ja riittävän edustavia siltä osin kuin työnantaja niistä päättää.
• Järjestelmän toimintaa on seurattava, ja havaitusta riskistä tai vakavasta poikkeamasta on ilmoitettava tarjoajalle ja valvontaviranomaiselle.
• Automaattisesti syntyviä lokeja on säilytettävä, jotta jälkikäteen voidaan selvittää mitä tapahtui.
• Henkilöstölle on varmistettava riittävä tekoälyä koskeva osaaminen, jotta valvonta ei jää nimelliseksi.

Yksi ansa kannattaa tuntea. Jos työnantaja laittaa järjestelmään oman nimensä tai muuttaa sen käyttötarkoitusta, hän voi muuttua käyttöönottajasta tarjoajaksi ja saada kaikki raskaammat velvoitteet. Kevyempi poikkeus taas koskee järjestelmiä, jotka tekevät vain kapean menettelyllisen tai valmistelevan tehtävän. Hakemusten lajittelu saapumisjärjestykseen on valmistelevaa. Hakijoiden pisteyttäminen soveltuvuuden mukaan ei ole, ja profilointi vie järjestelmän aina korkean riskin luokkaan.

Miksi seulonta vinoutuu, vaikka kukaan ei halua syrjiä

Seulontamalli opetetaan tyypillisesti aiemmilla valinnoilla: näistä hakijoista tuli hyviä työntekijöitä, näistä ei. Malli oppii siis toistamaan sen valintakäytännön, joka organisaatiolla jo oli, mukaan lukien sen vinoumat. Jos aiemmin on palkattu tietyn taustaisia ihmisiä, malli oppii pitämään juuri sitä taustaa merkkinä onnistumisesta.

Suojattua tietoa ei tarvitse olla syötteessä lainkaan. Malli löytää korvaavia piirteitä: postinumero, harrastus, opiskelupaikkakunta, työhistorian katko, kirjoitustyylin sävy tai äidinkielelle tyypillinen lauserakenne. Yksikään näistä ei ole laiton tieto, mutta yhdessä ne voivat ennustaa suojattua ominaisuutta hyvin tarkasti. Ilmiön synty on avattu artikkelissa tekoälyn vinoumat.

Suomessa on lisäksi kielikysymys. Moni seulontatyökalu on rakennettu englanninkielisen aineiston varaan, ja suomen taivutus, yhdyssanat ja tutkintonimikkeet käyttäytyvät eri tavalla. Avainsanahaku, joka etsii sanaa "projektipäällikkö", ei välttämättä osu sanaan "projektipäällikkönä". Tämä ei ole syrjintää mutta se on virhe, joka osuu järjestelmällisesti tiettyihin hakijoihin.

Oikeudellisesti kyse on välillisestä syrjinnästä: näennäisesti neutraali peruste asettaa jonkun epäedulliseen asemaan ilman hyväksyttävää tavoitetta. Syrjintää epäiltäessä todistustaakka jakautuu niin, että jos hakija esittää selvitystä, jonka perusteella syrjintää voidaan olettaa, työnantajan on osoitettava ettei kieltoa ole rikottu. Ilman lokeja ja dokumentoitua arviota tuo osoittaminen on vaikeaa.

Rehellisyyden nimissä: ihmisen tekemä seulonta on sekin vinoutunutta, ja siitä on tutkimusnäyttöä vuosikymmenten ajalta. Koneen etu on, että sen sääntö on periaatteessa mitattavissa ja korjattavissa. Haitta on, että sama sääntö toistuu tuhanteen hakemukseen samanlaisena ja näyttää objektiiviselta juuri siksi, että se on kone.

Näin hakija pyytää perustelun ja oikaisun

Hakijan keinot ovat olemassa, mutta ne pitää osata kohdistaa oikein ja oikealle taholle.

1. Ota talteen tosiasiat. Työpaikkailmoitus, hakemuksen vahvistusviesti, mahdollinen testilinkki ja hylkäysviesti aikaleimoineen. Nämä ovat myöhemmin ainoa dokumentaatio siitä, mitä haettiin ja milloin.
2. Tee tietopyyntö työnantajalle. Pyydä itseäsi koskevat henkilötiedot ja erikseen tieto siitä, käytettiinkö automaattista päätöksentekoa tai profilointia sekä mitä on kerrottu käsittelyn logiikasta ja seurauksista. Pyyntö osoitetaan rekisterinpitäjälle eli työnantajalle. Käytännön muoto löytyy artikkelista tietopyyntö omista tiedoista.
3. Pyydä ihmisen tekemä uudelleenarviointi, jos päätös näyttää syntyneen ilman ihmisen arviota. Kerro samalla oma näkemyksesi ja ne seikat, joita järjestelmä ei ole voinut ottaa huomioon.
4. Pyydä selitys järjestelmän roolista. Tekoälyasetus antaa oikeuden saada selkeä ja merkityksellinen selitys siitä, mikä rooli järjestelmällä oli päätöksessä ja mitkä olivat päätöksen pääkohdat. Oikeus koskee järjestelmän roolia, ei mallin sisäisiä yksityiskohtia.
5. Aseta kohtuullinen määräaika. Tietopyyntöön on vastattava ilman aiheetonta viivytystä ja pääsääntöisesti kuukauden kuluessa.
6. Vie asia eteenpäin, jos vastaus jää tulematta tai se on tyhjä. Henkilötietojen käsittelystä voi kannella tietosuojavaltuutetun toimistoon. Jos epäilet syrjintää, työelämän yhdenvertaisuutta valvovat työsuojeluviranomaiset ja yhdenvertaisuusvaltuutettu. Tekoälyasetuksen valvonnan työnjako Suomessa on selitetty artikkelissa kuka valvoo tekoälyasetusta.

Kannattaa säilyttää realistinen odotus. Yksittäisen hakuprosessin lopputulos ei yleensä muutu, koska paikka on jo täytetty. Vaikutus syntyy siitä, että työnantajan on kaivettava esiin, miten järjestelmä toimi, ja se korjaa käytäntöä seuraavaa hakua varten.

Mitä työnantajan on kirjattava ennen käyttöönottoa

Suurin osa ongelmista syntyy siitä, että käyttötarkoitusta ei ole rajattu kirjallisesti. Nämä kohdat kannattaa olla kirjattuna ennen ensimmäistä hakua, ja ne kannattaa liittää samaan asiakirjaan muiden tekoälyn käyttöä koskevien pelisääntöjen kanssa. Yleisemmät oikeutesi tietojen käsittelyssä on koottu artikkeliin GDPR ja rekisteröidyn oikeudet.

• Mihin järjestelmää käytetään ja mihin sitä ei käytetä, tehtävätasolla.
• Kuka on nimetty valvoja, mikä on hänen valtuutensa ja miten poikkeaminen kirjataan.
• Mitkä tiedot syötetään, mitkä eivät missään tapauksessa, ja kuinka kauan niitä säilytetään.
• Miten hakijalle kerrotaan käytöstä ja missä teksti sijaitsee.
• Miten oikaisu- ja selityspyyntö käsitellään ja kuka siihen vastaa.
• Miten lokit säilytetään ja kuka pääsee niihin.
• Miten järjestelmän tuottamia lopputuloksia seurataan, esimerkiksi vertaamalla läpimenoa eri hakijaryhmissä.
• Mitä tehdään, jos toimittaja vaihtuu, palvelu lopetetaan tai mallia päivitetään kesken haun.

Jos jokin kohta tuntuu mahdottomalta täyttää, se on hyödyllinen tulos. Se tarkoittaa yleensä, että järjestelmää oltiin ottamassa käyttöön tehtävään, johon se ei sovi.