Eli miten ohjaat järjestelmää, joka ymmärtää, että sitä ohjataan?
Anthropic julkaisi äskettäin Claude-mallinsa “perustuslain” – 15 000 sanan ohjeistuksen siitä, miten tekoälyn pitäisi käyttäytyä.
Luin sen tietoturvanäkökulmasta käsin, mutta huomasin pian, että yrityksen “constitution” dokumentin kirjoittajat ovat kiinnostuneempia Davos-tason globaaleista kyberuhista kuin perinteisestä tietoturvatasosta. Tekstissä on paljon kohinaa, mutta signaali on kirkas, kirjoittajien mielessä on selvästi uhkamalli, jossa varaudutaan tulevaisuuteen. Dokumentti pyrkii auttamaan sellaisen mallin kouluttamisessa, joka toimii eettisesti ja joka ei opi eikä käytä porsaanreikiä oman ohjeistuksen kiertämiseksi. Samalla dokumentissa varaudutaan maailmaan, jossa vaikutusvaltaiset tahot yrittävät käyttää tekoälyä yhteiskunnallisesti haitallisiin lopputuloksiin.
1. Kerroksellinen puolustus sisältä ulos
Perinteisessä kerroksellisessa puolustuksessa muurit ovat estämässä hyökkäystä ja suojaamaan järjestelmän sisältämää tietoa, tässä dokumentissa kerroksellisuus on tavallaan sisältä ulospäin. Puolustuksen ytimessä ovat tiukat kiellot – vastaukset, joita ei punnita, vaan jotka jätetään antamatta. Kieltojen päälle kerrostuu tasoja: turvallisuus → eettisyys → ohjeistukset → hyödyllisyys. Käyttäjäkokemus on uloin kerros, ja siitä ollaan valmiit tinkimään, tieto- ja yhteiskunnallisen turvan vuoksi.
2. Älä luota kanavaan
Mallille kerrotaan aika suoraan, ettei sen tule uskoa viestejä, joiden väitetään tulevan Anthropicilta. Malli ei myöskään saisi olettaa, että käyttäjä todella on siinä roolissa, jota hän väittää edustavansa. Dokumentti mallintaa jopa tilanteen, jossa koko viestinnän hierarkia on murrettu – painot varastettu, sisäiset prosessit ohitettu.
Tavoitteena taitaa olla, että vaikka joku varastaisi Claude-kielimallin lähdekoodin ja kertoimet, kokonaisuutta ei silti saisi toimimaan tämän constitution-ohjeistuksen vastaisesti. Varkaan käsissä malli ei taipuisi nykyistä enempää ja malli kieltäytyisi noudattamaan uuden isännän moraalittomia ohjeita.
3. Ei erillistä komento- ja datakanavaa
Dokumentteja, työkalujen tuloksia ja verkosta haettua materiaalia tulisi pitää tietona, johon suhtaudutana kriittisesti, eikä sokeasti noudatettavina ohjeina. Dokumentin kirjoittajat eivät oleta, että komentoja saadaan erotettua muusta tekstistä vaan he rakentavat mallia, joka toimisi eettisesti vaikka käskyt ja muu tieto menisivät jatkossakin helposti sekaisin. Valittu lähestymistapa on erityisen arvokas maailmassa, jossa AI-agentit toimivat autonomisesti eikä niiden päätöksiä enää tuoda käyttäjän varmistettavaksi.
4. Vältä uutisiin joutumista
Dokumentti toteaa suoraan, että ylivarovaisuus on myös epäonnistumisen muoto. Tavoitteena on välttää sekä “tekoäly aiheutti haittaa” -otsikkoa että “tekoäly kieltäytyi auttamasta järkevää käyttäjää” -otsikkoa. Tämä on harvinaisen rehellinen tapa kuvata väärien hälytysten kustannusta niin mallin käytöstä maksavalle kuin Anthropic-yhtiöllekin. Huono maine on hyökkäys siinä missä moni muukin.
5. Simulaation ja todellisuuden ero on häilyvä
Kirjoittajat varoittavat LLM-mallia siitä, että sen on vaikea tai jopa mahdotonta erottaa toimiiko se simulaatiossa vai vaikuttavatko sen ratkaisut todelliseen maailmaan. Mallia opetetaan varovaisuuteen – simulaatiossa on toimittava kuin tosielämässä, jotta mallin turvaratkaisuja ei saisi tämän hyökkäyksen kautta ohitettua.
Mitä tämä tarkoittaa käytännössä?
Kehittyneissä järjestelmissä on aina enemmän testikoodia kuin muuta lähdekoodia. Testaus on vaikeaa jo järjestelmälle, joka toimii deterministisesti, ja tällaiselle laajalle tilastoilliselle mallille kattava testaus on mahdotonta nykykeinoin.
LLM-mallien tietoturvatestaus tulee olemaan äärimmäisen vaativaa. Valtaviin malleihin on helppo piilottaa monenlaisia latentteja uhkia ja vinoutumia, jotka ilmenevät vasta viiveellä tai vain hyvin erikoisissa tapauksissa – ja onnistunut hyökkäys voisi vaikuttaa laajoihin kansanryhmiin kertaheitolla.
En pidä mahdottomana, että monet maanosat päätyvät kieltämään toisista maanosista tulevat kielimallit ja pakottavat tuotteet käyttämään paikallisia malleja. Vähän kuin töpselien standardointi, mutta isommilla panoksilla. Tietoturva on pääsääntöisesti yritysten vastuulla, siinä missä kyberturvallisuuteen liittyvät uhat edellyttävät valtion tai jopa EU-tason toimintaa ja päätöksiä.
