Promptit ja prompt engineering
Esimerkit kehotteessa: näin näytät mallille halutun lopputuloksen
Adjektiivit ovat huono ohje: "ytimekäs" tarkoittaa eri asiaa jokaiselle. Näytetty esimerkki poistaa tulkinnanvaran kerralla, kunhan valitset esimerkin oikein.
Lyhyt vastaus
Esimerkki toimii, koska kielimalli tunnistaa kaavoja paremmin kuin se tulkitsee ohjeita. Yksi näytetty pari, eli tällainen syöte ja tällainen vastaus, kertoo pituuden, rakenteen, sävyn ja välimerkit yhdellä kertaa. Käytännössä yhdestä kolmeen esimerkkiä riittää lähes aina, ja tärkeintä on, että esimerkit ovat keskenään samanmuotoisia ja että mukana on yksi hankala tapaus.
Sisällys
"Kirjoita ytimekkäästi ja asiallisesti." Ohje kuulostaa selvältä, mutta se ei ole sitä. Ytimekäs voi tarkoittaa kolmea riviä tai kolmea kappaletta, ja asiallinen voi tarkoittaa virastokieltä tai selkeää yleiskieltä. Malli ei kysy tarkennusta vaan valitsee keskiarvon kaikesta siitä, mitä se on nähnyt näillä sanoilla kuvattavan.
Esimerkki poistaa koko ongelman. Kun näytät yhden valmiin vastauksen, olet kertonut pituuden, rakenteen, sävyn, otsikkotyylin ja välimerkit yhdellä kertaa ja ilman tulkinnanvaraa.
Tätä kutsutaan esimerkkiohjaukseksi, ja englanniksi siitä käytetään nimeä few-shot prompting. Kehotteen muut osat käydään läpi artikkelissa hyvän promptin rakenne, ja valmiita runkoja tavallisiin tehtäviin on koottu artikkeliin promptipohjat. Tässä opetellaan tekemään omat esimerkit, koska juuri ne ovat se osa, jota ei voi kopioida keneltäkään toiselta.
Miksi esimerkki toimii paremmin kuin kuvaus
Kielimalli ennustaa, mikä teksti jatkaa annettua tekstiä uskottavimmin. Kun kehotteessa on kaksi paria muotoa "syöte, vastaus", uskottavin jatko kolmannelle syötteelle on samaa kaavaa noudattava vastaus. Malli ei siis ymmärrä sääntöäsi vaan tunnistaa kaavan ja jatkaa sitä.
Ohje ja esimerkki eivät siis toimi samalla tavalla. Ohje on väite siitä, millainen vastauksen pitäisi olla, ja malli tulkitsee sen omien keskiarvojensa kautta. Esimerkki on näyte itse lopputuloksesta, eikä siinä ole mitään tulkittavaa.
Tästä seuraa kaksi käytännön asiaa. Ensinnäkin esimerkki ohjaa vahvemmin kuin sanallinen ohje, ja ristiriitatilanteessa esimerkki voittaa yleensä ohjeen. Jos kirjoitat "vastaa enintään kahdella virkkeellä" mutta esimerkkivastauksesi on kuuden virkkeen mittainen, saat kuusi virkettä.
Toiseksi esimerkki siirtää mallille kaiken sen, mitä se sisältää, myös ne piirteet joita et huomannut. Tämä on esimerkkiohjauksen sekä voima että ansa, ja loput tästä artikkelista käsittelee molempia.
Montako esimerkkiä tarvitaan
Määrälle on vakiintuneet nimitykset sen mukaan, montako näytettä kehotteessa on.
| Esimerkkejä | Milloin riittää | Mitä se ei ratkaise |
|---|---|---|
| Ei yhtään | Tavallinen kysymys, vapaamuotoinen teksti, tuttu tehtävätyyppi | Tarkka muoto ja pituus jäävät mallin oletusten varaan |
| Yksi | Selkeä ja toistuva muoto, esimerkiksi vakiomuotoinen tiivistelmä tai rivi taulukkoon | Poikkeustapaukset ja se, mitä tehdään kun tieto puuttuu |
| Kaksi tai kolme | Luokittelu, poiminta aineistosta, oma tyyli, tapaukset joissa on selvä poikkeus | Ei ratkaise sitä, ettei mallilla ole tietoa aiheesta |
| Enemmän kuin viisi | Harvoin tarpeen käsityössä, hyödyllinen koneellisessa käsittelyssä | Vie tilaa aineistolta ja maksaa tokeneina joka kerta |
Nyrkkisääntö: mitä tarkempi muoto, sitä enemmän esimerkeistä on hyötyä. Vapaamuotoiseen kysymykseen esimerkkejä ei tarvita lainkaan, koska ne vain kaventavat vastausta turhaan. Toistuvaan tehtävään, jonka tulos menee taulukkoon tai valmiiseen pohjaan, yksikin esimerkki muuttaa lopputuloksen käyttökelpoiseksi.
Hyöty kasvaa jyrkästi ensimmäisistä esimerkeistä ja tasaantuu nopeasti. Ensimmäinen esimerkki muuttaa vastausta eniten, toinen vahvistaa kaavan ja kolmas näyttää, että kaava pätee myös poikkeukseen. Neljäs ja viides tuovat harvoin lisää.
Muista myös hinta. Esimerkit ovat tekstiä, joka lähetetään mallille joka kerta uudelleen, ja ne vievät tilaa samasta konteksti-ikkunasta kuin varsinainen aineistosi. Pitkä esimerkkisarja lyhyen aineiston kanssa on väärä painotus.
Millainen on hyvä esimerkki
Hyvä esimerkki on tyypillinen, ei hienoin mahdollinen. Moni valitsee näytteeksi parhaan tekemänsä tekstin, joka on usein poikkeuksellisen pitkä ja huoliteltu. Malli lukee sen kuvauksena normaalista ja tuottaa jatkossa kaiken samalla painolla.
Neljä ominaisuutta erottaa toimivan esimerkin.
Se on täydellinen, ei katkelma. Näytä koko vastaus alusta loppuun, myös otsikko ja lopetus. Katkelmasta malli päättelee, että vastaus saa jäädä kesken.
Se on muodoltaan täsmälleen se, mitä haluat. Isot alkukirjaimet, välimerkit, luetelman merkki, päivämäärän kirjoitusasu. Kaikki nämä siirtyvät sellaisenaan.
Se on lyhyt suhteessa tehtävään. Jos haluat kolmen rivin vastauksia, esimerkin pitää olla kolme riviä.
Se sisältää saman verran tietoa kuin todellisessa tilanteessa on käytettävissä. Jos esimerkkivastauksessa on yksityiskohtia, joita ei näy sen syötteessä, opetat mallin täydentämään tietoja omasta päästään. Tämä on suora reitti hallusinaatioihin: malli oppii esimerkistä, että aukot täytetään.
Jos esimerkkisi ovat oikeita asiakasviestejä tai potilastietoja, poista tunnistetiedot ennen kuin liität ne kehotteeseen. Ne ovat henkilötietoja myös silloin, kun ne ovat vain esimerkkinä, ja niiden käsittelyä koskevat oikeudet on koottu artikkeliin GDPR ja rekisteröidyn oikeudet.
Reunatapaus on tärkein esimerkki
Yleisin virhe on näyttää pelkkiä onnistumisia. Kolme esimerkkiä, joissa kaikki tieto löytyy siististi, opettavat mallille, että vastaus löytyy aina. Kun oikeassa aineistossa tieto puuttuu, malli tuottaa silti täyden rivin, koska niin esimerkeissäkin tehtiin.
Ota siis mukaan yksi tapaus, jossa jokin menee toisin. Poimintatehtävässä se on rivi, jossa lukee "ei mainittu asiakirjassa". Luokittelutehtävässä se on rajatapaus, jonka olet luokitellut tietoisesti tietyllä tavalla. Kääntämisessä se on kohta, jossa termi jätetään kääntämättä.
Reunatapaus kannattaa valita omasta aineistosta eikä kuvitella. Käy läpi kymmenen todellista tapausta ja katso, mikä niistä oli hankalin ratkaista itse. Juuri se on se kohta, jossa malli tekee virheen ilman ohjausta, ja juuri sen ratkaisun haluat näyttää sille valmiiksi.
Tämä yksi esimerkki tekee enemmän vastauksen luotettavuudelle kuin mikään muu kehotteen osa. Se antaa mallille konkreettisen mallin siitä, miltä rehellinen tyhjä kohta näyttää.
Mitä malli kopioi huomaamattasi
Malli ei erottele muotoa ja sisältöä samalla tavalla kuin sinä. Se jäljittelee kaikkea, mikä esimerkeissä toistuu. Neljä tavallista sudenkuoppaa.
- Aihe tarttuu. Jos kaikki kolme esimerkkiäsi käsittelevät logistiikkaa, malli tuo logistiikan sanastoa myös neljänteen tapaukseen, joka koski henkilöstöasiaa. Vaihtele esimerkkien aihepiiriä, vaikka muoto pysyy samana.
- Sisältö tarttuu. Malli saattaa lainata esimerkistä lukuja, nimiä tai kokonaisia lauseita uuteen vastaukseen. Erottele esimerkit selvästi, esimerkiksi riveillä "ESIMERKIT ALKAVAT" ja "ESIMERKIT LOPPUVAT", ja lisää loppuun ohje: "Käytä esimerkkejä vain muodon mallina. Sisältö tulee alla olevasta aineistosta."
- Vinouma tarttuu. Jos esimerkeissäsi vastaus on aina myönteinen tai luokka on aina sama, malli suosii sitä myös jatkossa. Pidä esimerkkien vastaukset tasapainossa, kun tehtävä on luokittelu.
- Epäjohdonmukaisuus tarttuu. Jos yhdessä esimerkissä on piste luetelman lopussa ja toisessa ei, malli päättelee, että kummin vain käy, ja tuottaa sekalaista jälkeä. Tarkista esimerkkien muoto merkki merkiltä.
Nämä eivät ole mallin vikoja vaan suora seuraus siitä, miten se toimii. Se etsii syötteestä toistuvan kaavan eikä tiedä, mitkä toistuvat piirteet olivat sinun tarkoituksesi ja mitkä sattumaa. Ainoa keino erottaa nämä on vaihdella kaikkea sitä, minkä et halua toistuvan.
Järjestyksellä on myös merkitystä. Malli painottaa kehotteen loppupäätä, joten sijoita tärkein tai edustavin esimerkki viimeiseksi. Jos teet luokittelua, älä laita samaa luokkaa peräkkäin kaikkiin esimerkkeihin, koska tuloksena voi olla se, että malli valitsee jatkossakin viimeisenä nähdyn luokan.
Oman tyylin siirtäminen näytteillä
Esimerkkiohjauksen hyödyllisin arkikäyttö on oman kirjoitustyylin siirtäminen. Adjektiiveilla se ei onnistu, koska et itsekään osaa kuvata tyyliäsi tarkasti. Näytteillä se onnistuu yllättävän hyvin.
Toimiva tapa on tämä. Valitse kolme lyhyttä omaa tekstiä, jotka edustavat sitä tyyliä, jota haluat: eri aiheista, mutta samasta tekstilajista. Liitä ne kehotteeseen otsikolla "näytteitä kirjoitustyylistäni" ja pyydä mallia ensin kuvaamaan, mikä niissä on yhteistä. Korjaa kuvausta, jos se osuu ohi. Vasta sitten pyydä uutta tekstiä sen kuvauksen ja näytteiden mukaisesti.
Näytteiden valinta ratkaisee lopputuloksen enemmän kuin niiden määrä. Valitse tekstejä, jotka ovat oikeasti sinun kirjoittamiasi ja jotka olet itse hyväksynyt. Toimeksiannosta muokattu tai toisen käsissä käynyt teksti tuo mukanaan jonkun muun tyylin, ja malli jäljittelee sitä yhtä uskollisesti.
Välivaihe on tärkeä, koska se paljastaa, mitä malli luulee tyylistäsi. Jos se kuvaa tekstisi "innostuneeksi ja monisanaiseksi" etkä ole samaa mieltä, tiedät ennen kuin saat kymmenen väärää luonnosta.
Kun kuvaus on kunnossa, siirrä se ja yksi lyhyt näyte pysyvään ohjeeseen. Silloin tyyli on mukana joka keskustelussa ilman, että liität näytteitä uudelleen. Muotoiluvaatimukset, kuten taulukko tai valmis pohja, kannattaa pitää erillään tyylistä, ja niitä käsitellään artikkelissa tulostemuodon pyytäminen.
Näin rakennat oman esimerkkisarjan
- Tee ensin yksi vastaus itse. Kirjoita käsin se, minkä haluaisit mallin tuottavan. Tämä on ensimmäinen esimerkkisi ja samalla ainoa luotettava mittari lopputulokselle.
- Karsi esimerkki riisutuksi. Poista siitä kaikki, mikä on tämän yhden tapauksen erityispiirre. Jäljelle jää muoto.
- Lisää toinen esimerkki eri aiheesta. Sama rakenne, eri sisältö. Näin muoto erottuu aiheesta.
- Lisää kolmanneksi reunatapaus. Näytä, mitä tehdään kun tieto puuttuu tai kun tapaus on rajalla.
- Erottele esimerkit ja aineisto selvästi. Käytä otsikkorivejä ja kerro lopuksi, kumpaa käytetään muotona ja kumpaa sisältönä.
- Testaa tapauksella, jonka vastauksen tiedät. Jos malli tuottaa oikean muodon mutta väärän sisällön, esimerkit ovat kunnossa ja ongelma on aineistossa tai tehtävänannossa.
- Tallenna sarja talteen. Toimiva esimerkkisarja on arvokkaampi kuin mikään yksittäinen kehote, koska se kelpaa sellaisenaan seuraavalla kerralla.
Jos vastaus vaihtelee esimerkeistä huolimatta ajokerrasta toiseen, syy ei ole esimerkeissä vaan siinä, että mallit valitsevat sanoja osittain satunnaisesti. Satunnaisuuden säätämistä käsitellään artikkelissa lämpötila ja muut asetukset.
Usein kysytyt kysymykset
Mitä few-shot tarkoittaa suomeksi?
Se tarkoittaa esimerkkiohjausta: kehotteeseen liitetään muutama valmis esimerkki halutusta lopputuloksesta. Nolla esimerkkiä on zero-shot eli pelkkä ohje, yksi esimerkki on one-shot. Kyse ei ole mallin opettamisesta vaan siitä, mitä tekstiä sille annetaan kysymyksen mukana.
Montako esimerkkiä kehotteeseen kannattaa laittaa?
Yhdestä kolmeen riittää lähes aina tavallisessa työkäytössä. Ensimmäinen esimerkki muuttaa vastausta eniten, ja hyöty tasaantuu nopeasti sen jälkeen. Useampi esimerkki vie tilaa varsinaiselta aineistolta ja lisää riskiä, että malli kopioi esimerkkien sisältöä.
Miksi tekoäly kopioi esimerkkini sisällön uuteen vastaukseen?
Koska malli ei erottele muotoa ja sisältöä samalla tavalla kuin ihminen. Se jäljittelee kaikkea, mikä esimerkeissä toistuu. Merkitse esimerkit ja aineisto eri osioiksi selvillä otsikkoriveillä ja lisää ohje, että esimerkkejä käytetään vain muodon mallina.
Opettavatko kehotteeseen liitetyt esimerkit mallia pysyvästi?
Eivät. Mallin parametrit eivät muutu keskustelussa, joten esimerkit vaikuttavat vain niin kauan kuin ne ovat mukana lähetettävässä tekstissä. Pysyvyys syntyy siitä, että tallennat esimerkit pysyvään ohjeeseen tai promptipohjaan ja lähetät ne uudelleen.
Kannattaako esimerkkeihin laittaa oikeita asiakastietoja?
Ei ilman harkintaa. Oikeat viestit ja asiakirjat sisältävät henkilötietoja, ja ne siirtyvät palveluntarjoajan palvelimille kehotteen mukana. Muuta nimet, osoitteet ja tunnisteet keksityiksi ennen kuin käytät tekstiä esimerkkinä, tai noudata työpaikkasi ohjetta siitä, mitä palveluun saa syöttää.
Miten saan tekoälyn kirjoittamaan minun tyylilläni?
Anna kolme lyhyttä omaa tekstiä näytteiksi, pyydä mallia ensin kuvaamaan niiden yhteiset piirteet ja korjaa kuvaus, jos se osuu ohi. Vasta sen jälkeen pyydä uutta tekstiä kuvauksen ja näytteiden mukaisesti. Näytteet toimivat paremmin kuin adjektiivit, koska tyyliä on vaikea kuvata sanoilla tarkasti.
Toimivatko esimerkit myös kuvien tekemisessä?
Kuvageneraattoreissa toimii sama periaate mutta eri keinoin: siellä ohjataan sanallisella kuvauksella ja joissakin palveluissa referenssikuvalla. Tekstikehotteen esimerkkipari ei siirry sellaisenaan kuvapuolelle, koska syöte ja tuloste ovat eri muotoa.