Suomalaisasiantuntijan mukaan tekoälytutkijan huoli maailmanlopusta pitää ottaa tosissaan.
Claude-tekoälyä kehittäneestä Anthropicista irtaantunut huippututkija Jacob Coxon, 27, sai tällä viikolla aikaan valtavan mylläkän, kun hän kertoi tekoälyn tuhoavan ihmiskunnan pian.
Tutkija kertoi, että ilman tarvittavia toimia "ensi vuoden lopulla tilanne voi olla jo hallitsematon". Coxonin mukaan valtava kilpailu saa aikaan sen, että yritykset tinkivät turvallisuudesta. Sillä voi olla järisyttäviä seurauksia.
– Olen huolestunut, ettei kukaan ole valmistautunut keinoälyn jatkuvan kasvun seurauksiin, Coxon kertoo.
Tekoälyjätit reagoivat Coxonin ulostuloon nopeasti. Muun muassa OpenAI:n johtaja Sam Altman kertoi myöhemmin, että yritys on valmis hidastamaan tekoälymallien kehitystä turvallisuus silmällä pitäen. Altman totesi odottavansa samaa myös muilta yrityksiltä.
"Tekoäly on saavuttamassa ihmisen kyvyt"
Onko Coxonin kommenteissa perää? Pitääkö meidän aidosti olla huolissaan?
Tekoälyn parissa jo pitkään työskennellyt asiantuntija ja hakkeri Mikko Alasaarela toteaa MTV Uutisten haastattelussa heti kättelyssä, että Coxonin huoli katastrofista on aiheellinen, eikä lainkaan tuulesta temmattu.
– Täytyy ymmärtää, että me ollaan semmoisessa vaiheessa, jossa tekoäly on saavuttamassa ihmisen kyvyt ja menemässä niistä ohi hyvin monilla eri osa-alueilla. Varsinainen vaara tulee sitä kautta, että tekoäly pystyy itse kehittämään itseään, Alasaarela selittää.
Alasaarela käyttää aiheen tiimoilta termiä "recursive self-improvement" eli rekursiivinen itsensä parantaminen. Toisin sanottuna tekoäly ei tulevaisuudessa tarvitse enää välttämättä ihmistä kehittyäkseen seuraavalle tasolle.
Kun tämä lähtee rajusti liikkeelle, on lopputulemaa mahdoton ennustaa.
– Kun tähän päästään, ei ole enää mitään arviota siitä, kuinka nopeasti se tapahtuu. Kun tällainen kierre lähtee liikkeelle, on hyvin vaikeaa arvioida lopullisia seurauksia, hän selittää.
Alasaarelan mukaan alan parissa työskentelevät ovat nyt huolissaan siitä, että hetki tekoälyn "irtiottoon" lähestyy kovaa vauhtia, eikä tällaista skenaariota varten ole rakennettu juuri minkäänlaisia "turvaraiteita".
Turvaraiteilla hän tarkoittaa sitä, että joku voisi ikään kuin katkaista tekoälyltä virrat, kun se ajautuu tekemään vääriä asioita.
– Kyllä mä olen huolissani siitä, että kehitys menee niin nopeasti eteenpäin, ettei minkäännäköisiä varmistuksia ehditä tehdä. Vaikeus on siinä, ettei oikein ole ketään sellaista tahoa, koska tämä vaatisi globaalia koordinointia, hän tuumii.
Asiantuntija: Maailmanloppu on mahdollinen
Jos Alasaarelan pitäisi arvioida, hän ei odota ensi vuodelle maailmanloppua.
Siitä huolimatta ihmiskunnan on pidettävä mielessä ja varauduttava niihin teoreettisiin katastrofipolkuihin, jonne tekoäly voisi periaatteessa eksyä.
– Voisiko se luoda viruksen, joka tuhoaa koko ihmiskunnan? Saisiko se haltuun koodeja, joilla laukaistaan ydinaseet?
– Jos ensi vuonna lähtisi käyntiin tällainen rekursiivinen kierre, joka voi seuraavissa vaiheissa johtaa negatiivisiin lopputuloksiin, niin se on minun mielestäni täysin mahdollista. Siihen on varauduttava, hän tuumii.
Vauhti on uhka
Esimerkkinä tekoälyn kehityshurjasta vauhdista Alasaarela mainitsee sen toiminta- ja ajatteluhorisontin, joka on ottanut viime aikoina valtavia harppauksia kehittyneempään suuntaan.
Horisontti tarkoittaa sitä, kuinka pitkä muisti tekoälyllä on ja kuinka pitkän sisällä se pystyy toimimaan.
– Vain muutama vuosi sitten pystyimme ajamaan prosesseja noin neljä sekuntia kerrallaan. Tekoäly siis vastasi kysymykseen ja saattoi jo seuraavan kysymyksen kohdalla unohtaa, mitä olit aikaisemmin kysynyt.
– Nyt aikahorisontti voi olla jopa 16 tuntia. OpenAI kehittää parhaillaan seuraavaa mallia, joka yltää jopa 80 tuntiin. Ensi vuonna se voi olla kuukausia tai vuosia. Aikahorisontti pitenee nyt eksponentiaalisella käyrällä.
Tällainen pitkän aikajänteen toimijuus tekee tekoälystä itsenäisen toimijan.
– Se ei vaadi esimerkiksi minuutin välein ihmiseltä palautetta. Se voi toimia itsenäisesti hyvin pitkään.
Tekoäly tulee pääsemään irti – riippuu meistä millainen se on
Alasaarelan mukaan on tärkeää, että se tekoäly, jonka tulemme päästämään irti, täytyy olla sellainen, joka toimii meidän omien tarkoitusperien mukaisesti.
Tekoälyn ympärille on rakennettu valtavasti myös valtiollisia pyrkimyksiä. Se, että Eurooppa on kehityksestä auttamatta jäljessä, povaa huolestuttavaa tulevaisuutta.
– Huolestuttavaa on, ettei meillä Euroopassa ole tällä hetkellä sanansijaa tässä kehityksessä. Meidän pitää tehdä valtavasti töitä, että Euroopassa osallistuttaisiin enemmän eturintaman kehitykseen.
– Paras skenaario olisi, että eurooppalaisilla ja pohjoismaisilla arvoilla oleva tekoäly olisi se, joka lopulta pääsisi irti. Tähän pitää pyrkiä.
