Ystävällinen tekoäly on tekoälyn (AI) tutkijoiden käyttämä termi viittaamaan tekoälyjärjestelmiin, jotka yleensä suorittavat toimia, jotka ovat hyödyllisiä ihmiskunnalle pikemminkin kuin neutraaleja tai haitallisia. Tämä ei tarkoita sokeaa tottelevaisuutta – päinvastoin, termiä käytetään kuvaamaan tekoälyjärjestelmiä, jotka ovat ystävällisiä siksi, että he haluavat olla, eivät ulkopuolisen pakotetun voiman vuoksi. Valmiisiin järjestelmiin viittaamisen lisäksi ystävällinen tekoäly on myös sen teoreettisen ja teknisen kurinalaisuuden nimi, jota käytettäisiin tällaisten järjestelmien onnistuneeseen luomiseen.
Termi “ystävällinen tekoäly” sai alkunsa Eliezer Yudkowskylta Tekoälyn singulaarisuusinstituutista, jonka tavoitteena on luoda ystävällinen tekoäly, joka on tarpeeksi älykäs parantamaan omaa lähdekoodiaan ilman ohjelmoijan väliintuloa. Hänen kirjaa käsittelevä teoksensa aiheesta Creating Friendly AI, joka julkaistiin verkossa vuonna 2001, on luultavasti ensimmäinen tiukka aiheen käsittely missä tahansa. Yudkowsky käyttää evoluutiopsykologian ja muiden kognitiivisten tieteiden argumentteja tukeakseen lähestymistapaansa ystävällisen tekoälyn ongelmaan.
Ystävällistä tekoälyä pidetään tärkeänä akateemisena kurinalaisuutena, koska aiemmat yritykset “vastata” kelvottoman tekoälyn ongelmaan ovat yleensä vedonneet tiukkoihin ohjelmallisiin rajoituksiin, jotka varmasti romahtavat vaihtoehtoisten tulkintojen mukaan, kun tekoäly tulee ihmisiä älykkäämmäksi tai yksinkertaisesti saavutettuaan kyky ohjelmoida itsensä uudelleen. Antropomorfismi on myös tekoälyn ongelma. Koska evoluutio rakentaa organismeja, joilla on taipumus olla itsekkäitä, monet ajattelijat olettavat, että kaikella rakentamallamme AI: lla olisi sama taipumus joko heti tai riittävän älykkääksi tulon jälkeen.
Evoluutio rakentaa organismeja itsekeskeisillä tavoitejärjestelmillä, koska muuta tapaa ei ole. Altruististen tavoitejärjestelmien kehittyminen kesti useita miljoonia vuosia, ja se tapahtui vain olosuhteissa, joissa saman heimon jäsenillä oli paljon voitettavaa auttamalla toisiaan ja paljon menettämättä jättämällä se tekemättä. Mutta jos suunnittelemme mielen tyhjästä, voisimme rakentaa sen ilman itsekeskeistä tavoitejärjestelmää. Tämä ei olisi “tekoälyn rajoittamista” – se olisi yksinkertaisesti tekoälyn luomista, joka on luonteeltaan epäitsekästä.
Yllä oleva havainto on yksi monista, jotka edistävät ystävällisen tekoälyn alaa, joka on erittäin uusi ja vaatii vielä paljon työtä. Jotkut tekoälyn tutkijat väittävät, että emme voi määrittää ystävällisen tekoälyn toteuttamiseen tarvittavia suunnitteluominaisuuksia ennen kuin meillä on älykkäämpiä tekoälyjärjestelmiä kokeiltavaksi. Toiset väittävät, että puhtaasti teoreettinen lähestymistapa on paitsi mahdollinen myös eettisesti välttämätön, ennen kuin aloitetaan vakava yritys yleiseen tekoälyyn.