9 artikkelia
Mitä tekoäly on
Tekoälyn peruskäsitteet: koneoppiminen, syväoppiminen, generatiivinen tekoäly, AGI, mallit ja palvelut. Mistä oikeasti puhutaan, kun puhutaan tekoälystä.
Suuret kielimallit (LLM)
Mikä LLM on, miten se ennustaa seuraavan tokenin ja mitä perusmalli, chat-malli, päättelymalli ja avoimet painot tarkoittavat.
Artikkelit
- Miten kielimalli toimii? Tokenit, huomio ja todennäköisyysKielimalli pilkkoo tekstin tokeneiksi ja ennustaa seuraavan tokenin todennäköisyysjakaumasta. Näin syntyy vastaus, ja näin syntyvät myös sen virheet.
- Konteksti-ikkuna selitettynä: miksi tekoäly unohtaa asioitaKonteksti-ikkuna on tokenimäärä, jonka malli näkee kerralla. Näin tieto katoaa keskeltä, miksi suomi täyttää ikkunan nopeammin ja mitä tehdä.
- Avoimet mallit ja avoimet painot: mitä avoimuus tarkoittaaAvoimet painot eivät ole sama asia kuin avoin lähdekoodi. Näin avoimuuden neljä tasoa eroavat, mitä ne mahdollistavat ja mitä ne eivät takaa.
- Tokenit ja suomen kieli: miksi suomeksi kysyminen maksaa enemmänKielimalli ei näe sanoja vaan tokeneita. Näin taivutus ja yhdyssanat pilkkoutuvat moneksi palaksi, mitä se maksaa ja miten se näkyy vastausten laadussa.
- Näin kielimalli koulutetaan: esiopetus, hienosäätö ja palauteValmis assistentti syntyy kolmessa vaiheessa. Näin esiopetus, ohjattu hienosäätö ja ihmispalaute muuttavat mallia ja miksi viimeinen vaihe määrää sen luonteen.
- Päättelymallit: mitä tapahtuu kun malli miettii ennen vastaustaPäättelymalli tuottaa välivaiheita ennen vastausta ja käyttää siihen enemmän aikaa. Näin se auttaa, mitä se maksaa ja milloin tavallinen malli riittää yhtä hyvin.
- Mallin koko ja parametrit: kertooko miljardien määrä laadustaParametrien määrä ei ole laatumittari. Näin koko, opetusaineiston määrä ja hienosäätö vaikuttavat tulokseen ja miksi pieni malli voittaa suuren joissakin tehtävissä.
- RAG vai hienosäätö: näin tekoäly saa omat tietosi käyttöönMalliin ei tarvitse opettaa omia dokumentteja. Näin tiedonhaku eli RAG toimii vaihe vaiheelta, milloin hienosäätö kannattaa ja kumpi ratkaisee minkäkin ongelman.
- Lämpötila ja muut asetukset: näin säädät vastauksen luonnettaLämpötila ei säädä älykkyyttä vaan satunnaisuutta. Näin lämpötila, top-p ja pituusraja vaikuttavat vastaukseen ja mitä asetuksia kannattaa ylipäätään koskea.
Suuri kielimalli laskee, mikä tekstinpala jatkaa annettua syötettä todennäköisimmin, lisää sen jatkoksi ja laskee saman uudelleen. Lopputulos näyttää vastaukselta, mutta syntytapa on tämä. Malli ei hae valmiita lauseita tietokannasta eikä tarkista väitteitä, vaan tuottaa jatkoa, joka sopii yhteen opetusaineiston säännönmukaisuuksien kanssa.
Yhdestä mekanismista seuraa yllättävän suuri osa arjen havainnoista: miksi vastaus muuttuu, kun kysymyksen muotoilun vaihtaa, miksi pitkä keskustelu alkaa unohtaa alkuaan, miksi sama kysymys tulee suomeksi kalliimmaksi kuin englanniksi ja miksi malli kuulostaa yhtä varmalta ollessaan oikeassa ja väärässä.
Tämän kokonaisuuden ajatus on, että kielimallin käyttö helpottuu, kun tietää mihin sen rajat perustuvat. Rajat eivät ole satunnaisia vikoja, jotka korjataan seuraavassa versiossa. Ne seuraavat siitä, miten malli on rakennettu, miten se on koulutettu ja kuinka paljon tekstiä se pystyy pitämään kerralla käsittelyssä.
Missä järjestyksessä kannattaa lukea
Aloita artikkelista miten kielimalli toimii, joka käy läpi tokenit, huomiomekanismin ja todennäköisyysjakauman. Sen jälkeen tokenit ja suomen kieli tekee saman asian konkreettiseksi: suomen taivutusmuodot pilkkoutuvat useampaan palaan kuin englannin sanat, mikä näkyy sekä hinnassa että vastausten laadussa. Kolmanneksi konteksti-ikkuna selittää mallin lyhytkestoisen muistin ja sen, mitä tapahtuu kun ikkuna täyttyy.
Kun toimintaperiaate on selvä, kannattaa katsoa mallin syntyä. Näin kielimalli koulutetaan erottaa esiopetuksen, hienosäädön ja ihmispalautteen toisistaan. Päättelymallit kertoo, mitä tapahtuu kun malli tuottaa välivaiheita ennen vastausta ja miksi se auttaa toisissa tehtävissä eikä toisissa. Mallin koko ja parametrit käy läpi sen, mitä parametrien määrä kertoo laadusta ja mitä se ei kerro.
Lopuksi käytäntö. RAG vai hienosäätö vertaa kahta tapaa saada omat aineistot mallin ulottuville, lämpötila ja muut asetukset näyttää mitä säätimet oikeasti tekevät vastauksen luonteelle, ja avoimet mallit ja avoimet painot kertoo, missä mielessä omalle koneelle ladattava malli on avoin ja missä ei.
Nyrkkisääntö: tarkistamisen hinta ratkaisee
Kielimallin hyöty ei ratkea sillä, kuinka usein se on oikeassa, vaan sillä, kuinka helposti huomaat sen olevan väärässä. Jos vastauksen voi tarkistaa muutamassa minuutissa, virhe maksaa vähän. Jos tarkistaminen vaatii saman työn kuin tehtävän tekeminen alusta, hyöty on pienempi kuin miltä näyttää, vaikka vastaus olisi useimmiten kunnossa.
Tämä jakaa tehtävät kahteen. Oman tekstin tiivistäminen, muotoilun siistiminen, sähköpostin luonnostelu ja koodinpätkä, jonka voi ajaa, ovat tehtäviä, joissa tarkistus on halpaa ja riski pieni. Lääkitys, sopimusehto, viranomaisen määräaika ja mikä tahansa luku, joka päätyy eteenpäin raporttiin, ovat tehtäviä, joissa lähde on katsottava joka tapauksessa. Näissä kielimalli voi olla luonnostelija, ei lähde.
Sääntö on käyttökelpoinen siksi, ettei se vanhene mallien mukana. Vaikka virheet harvenisivat, ne eivät katoa, koska keksityt vastaukset ovat saman mekanismin toinen puoli eivätkä erillinen vika. Harvinainen virhe on jopa kiusallisempi kuin usein toistuva, koska siihen ei ehdi tottua eikä sitä siksi osaa odottaa.
Muut aihekokonaisuudet
9 artikkelia
Promptit ja prompt engineering
Promptin rakenne, esimerkit, rajaukset, tulostemuodot, ketjutus ja iterointi. Miten kysyt niin, että saat käyttökelpoisen vastauksen.
8 artikkelia
Hallusinaatiot ja virheet
Miksi tekoäly keksii asioita, keksityt lähteet, tietokatkos, laskuvirheet ja kalibraatio. Miten tarkistat vastauksen käytännössä.
7 artikkelia
Tekoäly ja yksityisyys
Mitä syöttämällesi datalle tapahtuu: säilytys, opetuskäyttö, muisti, poisto, EU-siirrot ja yrityskäytön erot.
7 artikkelia
EU:n tekoälyasetus
AI Act: riskiluokat, kielletyt käytännöt, GPAI-velvoitteet, läpinäkyvyys, merkintä, sakot ja aikataulu Suomessa.
7 artikkelia
Tekoälysisällön tunnistaminen
Voiko AI-tekstin, -kuvan tai -äänen tunnistaa? Tunnistimet, vesileimat, C2PA-alkuperätieto ja väärät positiiviset.
7 artikkelia
Mallien ja palveluiden valinta
Miten valitset mallin: päättely, nopeus, hinta, konteksti, työkalut, tietosuoja ja suomen kieli. Myös tunnetuimmat palvelut selitettynä.
5 artikkelia
Kuva-, ääni- ja videogeneraattorit
Miten tekoäly tekee kuvan, äänen ja videon? Näin diffuusiomalli, kuvakehote, äänen kloonaus ja valmiin tiedoston käyttöoikeudet toimivat selkokielellä.
6 artikkelia
Tekoäly työssä ja opiskelussa
Mihin tekoäly sopii työssä ja opinnoissa, mitä sen käytöstä pitää kertoa muille ja kuka vastaa virheistä. Ohjeet kokouksiin, rekrytointiin ja opiskeluun.