Mikä on Salomonoffin induktio?

Solomonoffin induktio on matemaattisesti tiukka, idealisoitu induktion muoto, eli ennustaa, mitä tapahtuu tulevaisuudessa aiempien kokemusten perusteella. Se on osa algoritmista informaatioteoriaa. Tämä induktiokaavio on teoreettisesti optimaalinen, eli riittävästi dataa käytettäessä se pystyy aina määrittämään todennäköisyydet tuleville tapahtumille mahdollisimman suurella tarkkuudella. Ainoa ongelma Solomonoffin induktiossa on se, että se ei ole laskettavissa – eli se vaatii tietokoneen, jolla on ääretön prosessointiteho. Kaikki onnistuneet induktiiviset suunnitelmat ja koneet – eläimet ja ihmiset mukaan lukien – ovat kuitenkin likimääräisiä Solomonoffin induktioista.

Jokainen sanallinen argumentti, joka sisältää neuvoja parempaan induktioon siinä määrin kuin se todellisuudessa toimii, houkuttelee kuuntelijan muuttamaan induktiivista strategiaansa siten, että se lähentää paremmin teoriaa. Ajatus siitä, että induktio voidaan muodostaa tällä tavalla matemaattisesti, on varsin syvällinen, ja monet loogikoiden ja filosofien sukupolvet sanoivat, että sitä ei voida tehdä. Teoria kasvoi Ray Solomonoffin, Andrey Kolmolgorovin ja Gregory Chaitinin työstä 1960 -luvulla. Heidän taustallaan oli virallistaa todennäköisyysteoria ja induktio aksioomien avulla samalla tavalla kuin algebra ja geometria. Teoria perustuu induktiiviseen sääntöön, jota kutsutaan Bayesin lauseeksi, joka kuvaa tarkan matemaattisen tavan päivittää uskomukset saapuvan datan perusteella.

Yksi heikkous Bayesin lauseessa on se, että se riippuu tietyn tapahtuman aikaisemmasta todennäköisyydestä. Esimerkiksi todennäköisyys, että asteroidi osuu maapalloon seuraavien 10 vuoden aikana, voidaan antaa asteroidien vaikutuksia koskevien historiallisten tietojen perusteella. Kuitenkin, kun aikaisempien tapahtumien otoskoko on pieni, kuten kuinka monta kertaa neutrino on havaittu neutriinolukossa, on erittäin vaikeaa ennustaa tapahtuman toistumisen todennäköisyyttä pelkästään aiemman kokemuksen perusteella.

Tässä kohtaa Solomonoffin induktio tulee sisään. Käyttämällä objektiivista monimutkaisuusmittaria, nimeltään Kolmogorovin monimutkaisuus, teoria voi tehdä perustellun arvion jonkin tulevan tapahtuman todennäköisyydestä. Kolmogorovin monimutkaisuus perustuu periaatteeseen nimeltä Minimum Description Length (MDL), joka arvioi bittijonon monimutkaisuuden lyhyimmän algoritmin perusteella, joka voi tuottaa kyseisen merkkijonon. Vaikka Kolmogorovin monimutkaisuus koski alun perin vain bittijonoja, se voidaan kääntää kuvaamaan tapahtumien ja objektien monimutkaisuutta.

Salomonoffin induktio yhdistää Kolmogorovin monimutkaisuuden Bayesin päättelyyn ja antaa meille perusteltuja prioriteetteja tapahtumille, joita ei ehkä ole koskaan edes tapahtunut. Mielivaltaisen tapahtuman aikaisempi todennäköisyys arvioidaan sen yleisen monimutkaisuuden ja spesifisyyden perusteella. Esimerkiksi kahden satunnaisen sadepisaran todennäköisyys myrskyssä osuu samaan neliömetriin on melko pieni, mutta paljon suurempi kuin todennäköisyys, että kymmenen tai sata satunnaista sadepisaraa osuu kyseiseen neliömetriin.

Jotkut tutkijat ovat tutkineet teoriaa neuroanatomian yhteydessä ja osoittaneet, kuinka optimaalinen induktio on organisoiva periaate sellaisten eläinten kehityksessä, jotka tarvitsevat tarkan induktion selviytyäkseen. Kun todellinen tekoäly luodaan, periaatteet ovat todennäköinen inspiraatio sen rakentamisessa.