selitetty.com

Suuret kielimallit (LLM)

Avoimet mallit ja avoimet painot: mitä avoimuus tarkoittaa

Avoimet painot eivät ole sama asia kuin avoin lähdekoodi. Näin avoimuuden neljä tasoa eroavat, mitä ne mahdollistavat ja mitä ne eivät takaa.

Lyhyt vastaus

Avoin malli voi tarkoittaa neljää eri asiaa: julkaistuja painoja, julkaistua koodia, julkaistua opetusaineistoa tai sallivaa lisenssiä. Yleisin tapaus on avoimet painot, eli parametritiedosto on ladattavissa mutta opetusaineistoa ei ole kerrottu ja lisenssi rajoittaa käyttöä. Se ei täytä avoimen lähdekoodin määritelmää, vaikka mallia usein niin markkinoidaan. Avoimuus tuo mahdollisuuden ajaa mallia itse ja tutkia sitä, mutta se ei takaa laatua, turvallisuutta eikä sitä, että malli olisi ilmainen käyttää.

Sisällys
  1. Neljä osaa, joista avoimuus koostuu
  2. Kolme tasoa ja mitä ne sallivat
  3. Miksi termi on kiistelty
  4. Mitä avoimuus mahdollistaa käyttäjälle
  5. Mitä avoimuus ei takaa
  6. Koko ja kvantisointi: mikä mahtuu omalle koneelle
  7. Avoimuus EU:n tekoälyasetuksessa
  8. Näin tarkistat, kuinka avoin malli oikeasti on
  9. Usein kysytyt kysymykset
  10. Lähteet ja lisälukemista

Kun mallia kutsutaan avoimeksi, sana voi tarkoittaa neljää eri asiaa, jotka eivät seuraa toisistaan. Painot voivat olla ladattavissa. Koodi voi olla julkaistu. Opetusaineisto voi olla kerrottu. Lisenssi voi sallia vapaan käytön. Useimmiten toteutuu vain ensimmäinen.

Ero ei ole saivartelua, koska siitä riippuu, mitä sinä saat tehdä. Yhdessä tapauksessa mallia voi ajaa omalla koneella ilman että syötteet lähtevät mihinkään, toisessa lisenssi kieltää kaupallisen käytön ja kolmannessa julkaisija saa muuttaa ehtoja seuraavassa versiossa. Tämä artikkeli erittelee tasot ja kertoo, mitä kukin niistä mahdollistaa ja mitä ei. Mallien toimintaperiaate on kuvattu erikseen artikkelissa miten kielimalli toimii.

Neljä osaa, joista avoimuus koostuu

Valmiiseen malliin liittyy neljä erillistä osaa, ja jokainen niistä voidaan julkaista tai jättää julkaisematta toisistaan riippumatta.

Painot. Opetuksen tuottamat parametrit yhtenä tiedostona tai tiedostojoukkona. Tämä on se osa, jota tarvitaan mallin ajamiseen.

Koodi. Ohjelmat, joilla malli ajetaan ja joilla se on opetettu. Ajamiseen tarvittava koodi on nykyään lähes aina avointa, koska se on yleiskäyttöistä. Opetuskoodi ja opetuksen asetukset julkaistaan paljon harvemmin.

Opetusaineisto. Se, mistä teksteistä malli on opetettu, ja millä säännöillä aineisto on suodatettu. Tämä on käytännössä avoimuuden harvinaisin osa, ja syyt ovat sekä kilpailullisia että tekijänoikeudellisia.

Lisenssi. Ehdot, joilla saat käyttää mallia ja sen tuotoksia. Lisenssi ratkaisee lopulta sen, mitä kolme edellistä ovat sinulle arvoltaan.

Kolme tasoa ja mitä ne sallivat

Käytännössä mallit asettuvat kolmeen ryhmään.

Taso Mitä julkaistaan Mitä se mahdollistaa
Suljettu palvelu Ei mitään, vain rajapinta tai sovellus Käyttö palveluntarjoajan ehdoilla ja hinnalla
Avoimet painot Parametritiedosto, ajokoodi, rajoittava lisenssi Ajaminen omalla laitteella, hienosäätö, tarkastelu
Avoin lähdekoodi Painot, koodi, aineiston kuvaus, salliva lisenssi Tutkiminen, muokkaus ja jakelu ilman lupaa

Valtaosa julkisuudessa avoimiksi kutsutuista suurista malleista kuuluu keskimmäiseen ryhmään. Painot saa ladata, mutta lisenssi voi rajoittaa kaupallista käyttöä, asettaa käyttäjämääräkaton, kieltää tiettyjä käyttötarkoituksia tai vaatia julkaisijan nimen näkymistä johdannaisissa. Nämä ehdot ovat oikeutettuja julkaisijan näkökulmasta, mutta ne eivät täytä avoimen lähdekoodin määritelmää, jonka mukaan käytön saa rajata vain hyvin kapeasti.

Miksi termi on kiistelty

Avoimen lähdekoodin määritelmä on ollut ohjelmistoissa vakiintunut yli kaksikymmentä vuotta, ja sen ylläpitäjä Open Source Initiative julkaisi vuonna 2024 vastaavan määritelmän tekoälylle. Sen mukaan avoimen tekoälyn pitää antaa neljä vapautta: käyttää mihin tahansa tarkoitukseen, tutkia miten järjestelmä toimii, muokata sitä ja jakaa muokattuja versioita.

Riita koskee erityisesti opetusaineistoa. Määritelmä ei vaadi aineiston julkaisemista sellaisenaan, koska se olisi usein juridisesti mahdotonta, mutta se vaatii riittävän tarkan kuvauksen siitä, mistä aineisto koostuu ja miten vastaava voitaisiin koota. Osa alan toimijoista pitää tätä liian tiukkana, osa liian löysänä. Yksimielisyyttä ei ole, ja siksi mallin kuvaus sanalla ”avoin” ei kerro yksinään mitään.

Toinen kiistan aihe on markkinointi. Sana avoin tuo mielikuvan läpinäkyvyydestä ja yhteisöllisyydestä, ja siksi sitä käytetään myös malleista, joiden ehdot ovat lähempänä perinteistä ohjelmistolisenssiä. LF AI and Data Foundationin Model Openness Framework vastaa tähän kolmiportaisella luokituksella, joka käy läpi 17 mallin elinkaaren osaa ja kertoo, mitkä niistä on julkaistu ja millä lisenssillä. Stanfordin Foundation Model Transparency Index mittaa samaa asiaa sadalla indikaattorilla. Molempien tulokset ovat vaihdelleet vuosittain paljon, joten yksittäistä pistelukua kannattaa lukea suuntaa antavana.

Mitä avoimuus mahdollistaa käyttäjälle

Neljä hyötyä on konkreettisia ja koskevat myös tavallista käyttäjää.

Malli voidaan ajaa itse. Tämä on merkittävin ero. Kun malli pyörii omalla koneella tai oman organisaation palvelimella, syötteet eivät lähde palveluntarjoajalle lainkaan. Terveystiedot, asiakastiedot ja liikesalaisuudet pysyvät siellä missä ne muutenkin ovat. Aihetta käsitellään laajemmin artikkelissa tekoäly ja tietosuoja.

Malli ei katoa alta. Suljettu palvelu voi poistaa mallin, muuttaa sen käytöstä tai nostaa hintaa. Ladattu painotiedosto toimii samalla tavalla vuosia myöhemmin, mikä on tärkeää tutkimuksessa ja pitkissä projekteissa, joissa tulosten pitää olla toistettavissa.

Mallia voi hienosäätää omaan käyttöön. Suomenkielisen erikoisalan sanaston tai organisaation oman kirjoitustyylin opettaminen on mahdollista, kun painot ovat käytettävissä.

Mallia voi tutkia. Tutkijat voivat mitata vinoumia, testata turvamekanismeja ja verrata malleja keskenään ilman että julkaisija päättää mitä saa mitata. Suomessa tästä on käytännön esimerkkejä avoimissa suomea osaavissa malleissa, joiden aineistot ja arvioinnit on julkaistu tutkimusryhmien toimesta.

Pienten kielten kannalta viimeinen kohta on tärkein. Suuret kaupalliset mallit opetetaan aineistolla, jossa suomi on häviävän pieni osuus, eikä ulkopuolinen voi tarkistaa kuinka pieni. Avoimesti julkaistut suomea varten opetetut mallit tekevät näkyväksi, paljonko suomenkielistä aineistoa on käytetty ja miten tulokset on mitattu. Se ei tee malleista automaattisesti parempia, mutta se tekee vertailusta mahdollisen ja antaa kotimaisille toimijoille pohjan, jonka päälle rakentaa ilman riippuvuutta yhdestä palveluntarjoajasta.

Mitä avoimuus ei takaa

Yhtä tärkeää on tietää, mitä sana ei lupaa.

Avoimuus ei ole laadun mittari. Avoin malli voi olla selvästi heikompi kuin suljettu, ja järjestys vaihtelee tehtävittäin ja kuukausittain. Vertailuja kannattaa lukea samalla varauksella kuin muitakin, kuten tekoälyassistenttien vertailussa kuvataan.

Avoimuus ei ole turvatae. Painojen julkaisemisen jälkeen kuka tahansa voi poistaa mallista turvarajoitukset hienosäätämällä sitä. Tämä on tunnettu ja mitattu ilmiö, eikä siihen ole toimivaa teknistä estettä. Avoin malli tarkoittaa siis myös sitä, että liikkeellä on versioita, jotka eivät kieltäydy mistään.

Avoimuus ei ole ilmaisuus. Lataaminen voi olla maksutonta, mutta ajaminen vaatii laitteistoa ja sähköä, ja suuren mallin ajaminen tuotannossa on usein kalliimpaa kuin saman kokoluokan palvelun ostaminen valmiina.

Avoimuus ei myöskään poista vinoumia, hallusinaatioita eikä tietoaukkoja. Ne seuraavat siitä, miten mallit toimivat, eivät julkaisutavasta. Avoimuus vain tekee niiden mittaamisesta mahdollista ulkopuoliselle.

Koko ja kvantisointi: mikä mahtuu omalle koneelle

Painojen lataaminen on helppoa. Ajaminen on se kohta, jossa avoimuuden lupaus joko toteutuu tai ei.

Mallin muistintarve seuraa karkeasti parametrien määrästä ja siitä, kuinka tarkkoina luvut tallennetaan. Täydellä tarkkuudella yksi parametri vie kaksi tavua, joten kahdeksan miljardin parametrin malli vaatii noin 16 gigatavua pelkkiin painoihin, ja sen päälle tulee kontekstin käsittelyyn tarvittava muisti. Kvantisointi tarkoittaa lukujen tallentamista karkeammalla tarkkuudella, tyypillisesti neljällä tai kahdeksalla bitillä. Sama malli kutistuu murto-osaan, ja vastineeksi tarkkuus heikkenee jonkin verran. Kuinka paljon, riippuu mallista ja tehtävästä, eikä siihen ole yleispätevää lukua.

Käytännössä tämä tarkoittaa kolmea asiaa. Pienet ja kvantisoidut mallit toimivat tavallisella tehokkaalla kannettavalla ja riittävät tiivistämiseen, kääntämiseen ja muotoiluun. Keskikokoiset vaativat näytönohjaimen, jossa on runsaasti omaa muistia. Kaikkein suurimmat eivät ole tavallisen käyttäjän ulottuvilla lainkaan, joten niiden kohdalla avoimuuden hyöty jää tutkijoille ja organisaatioille.

Muistia kuluttaa myös se, kuinka pitkän syötteen malli käsittelee kerralla. Pitkä konteksti-ikkuna kasvattaa laitevaatimuksia erikseen painojen päälle, joten paikallisesti ajettavan mallin käytännön ikkuna on usein selvästi lyhyempi kuin sen teoreettinen maksimi.

Laitevaatimukset ja saatavilla olevat mallikoot muuttuvat niin nopeasti, että tarkat luvut vanhenevat kuukausissa. Suuruusluokka on kuitenkin pysynyt: painojen tavumäärä on parametrien määrä kerrottuna tallennustarkkuudella, ja siitä voi arvioida oman koneen riittävyyden ennen latausta.

Avoimuus EU:n tekoälyasetuksessa

Sääntelyssä avoimuudella on oma erityisasemansa. EU:n tekoälyasetus vapauttaa osasta yleiskäyttöisten mallien velvoitteita ne mallit, jotka julkaistaan vapaalla ja avoimella lisenssillä ja joiden parametrit sekä arkkitehtuuritiedot ovat julkisia.

Poikkeus on rajattu kahdella tavalla. Se ei koske malleja, jotka luokitellaan systeemisen riskin malleiksi, eikä se poista velvollisuutta laatia tiivistelmä opetusaineistosta ja noudattaa tekijänoikeussääntöjä. Poikkeus ei myöskään koske tilannetta, jossa avointa mallia käytetään osana korkean riskin järjestelmää: silloin velvoitteet kohdistuvat siihen, joka järjestelmän ottaa käyttöön.

Käytännön seuraus organisaatiolle on, että avoimen mallin valitseminen ei siirrä vastuuta pois. Se siirtää sen itselle.

Näin tarkistat, kuinka avoin malli oikeasti on

Kuusi kysymystä riittää useimmissa tapauksissa, ja vastaukset löytyvät mallin lisenssitiedostosta ja mallikortista.

  1. Mitä on julkaistu? Painot, ajokoodi, opetuskoodi, aineiston kuvaus, arviointitulokset. Merkitse ylös mikä puuttuu.
  2. Mikä lisenssi ja onko se hyväksytty avoimeksi? Vertaa nimeä Open Source Initiativen hyväksymien lisenssien luetteloon. Jos lisenssi on julkaisijan oma, lue se kokonaan.
  3. Saako kaupalliseen käyttöön? Moni salliva kuulostava ehto sulkee kaupallisen käytön tai asettaa sille rajan.
  4. Saako mallista tehdä johdannaisia ja jakaa niitä? Tarkista myös, mitä ehtoja johdannaiseen siirtyy.
  5. Kuka omistaa tuotoksen? Erikseen lisenssistä kannattaa katsoa, mitä mallilla tuotetulla tekstillä tai kuvalla saa tehdä.
  6. Mitä aineistosta kerrotaan? Jos aineistoa ei kuvata lainkaan, mallin sokeita pisteitä ei voi arvioida etukäteen.

Lopuksi kannattaa muistaa, että tilanne muuttuu nopeasti. Lisenssiehdot vaihtuvat versioittain, uusia malleja julkaistaan kuukausittain ja määritelmistä kiistellään edelleen. Yksittäisiä mallikohtaisia lukuja ei kannata jättää muistiin, vaan tarkistaa ne julkaisijan sivulta silloin, kun päätös tehdään. Käsitteet löytyvät tiiviisti digisanastosta.

Usein kysytyt kysymykset

Mitä ero on avoimilla painoilla ja avoimella lähdekoodilla?

Avoimet painot tarkoittavat, että mallin opitut parametrit ovat ladattavissa. Avoin lähdekoodi tarkoittaa Open Source Initiativen määritelmän mukaan sitä, että myös järjestelmän tutkiminen, muokkaaminen ja jakaminen on sallittua ja että muokkaamiseen tarvittavat osat, kuten koodi ja riittävä tieto opetusaineistosta, ovat saatavilla. Pelkät painot eivät riitä tähän.

Voiko avointa mallia ajaa omalla tietokoneella?

Pieniä ja tiivistettyjä malleja voi ajaa tavallisella tehokkaalla kannettavalla, ja niitä varten on valmiita ohjelmia. Suurten mallien ajaminen vaatii huomattavasti muistia ja käytännössä näytönohjaimen tai palvelinlaitteistoa. Laitevaatimukset muuttuvat nopeasti, joten ne kannattaa tarkistaa mallin omasta kuvauksesta eikä vanhoista ohjeista.

Onko avoin malli turvallisempi kuin suljettu?

Tietosuojan kannalta paikallisesti ajettu avoin malli on selkeästi parempi, koska syötteet eivät lähde ulos. Sisällön ja käytöksen kannalta avoimuus ei tarkoita turvallisuutta: rajoituksia on usein vähemmän ja ne on helpompi poistaa. Avoimuus siirtää vastuun tarkistamisesta käyttäjälle.

Miksi avoin malli on ilmainen?

Painojen lataaminen voi olla maksutonta, mutta ajaminen ei ole ilmaista. Kustannus siirtyy laitteistoon, sähköön ja ylläpitoon. Julkaisijoiden syyt vaihtelevat tutkimuksesta ekosysteemin rakentamiseen ja kilpailuasetelmiin, ja lisenssiehdot voivat muuttua uusissa versioissa.

Miten tarkistan, kuinka avoin jokin malli on?

Lue lisenssiteksti ja mallikortti. Tarkista erikseen, onko kaupallinen käyttö sallittu, saako mallilla tuotettua sisältöä käyttää vapaasti, saako mallista tehdä johdannaisia ja onko opetusaineisto kuvattu. Model Openness Framework ja Foundation Model Transparency Index tarjoavat valmiit tarkistuslistat samaan tarkoitukseen.

Takaisin ylös