"Ensi vuoden lopulla tilanne voi olla jo hallitsematon", tekoälytutkija sanoo.
Claude-tekoälystä tunnetussa Anthropicissa työskennellyt tutkija Jacob Coxon, 27, jättää työnsä, koska pelkää yhtiöiden rakentavan tekoälyjä, joita ne eivät pysty hallitsemaan.
Asiasta kertoo yhdysvaltalaislehti Wall Street Journal (WSJ).
Coxon opetti uusia tekoälymalleja syöttämällä niille valtavia määrää tietoa.
Anthropicin ja OpenAI:n kaltaiset yhtiöt kehittävät kilpaa tekoälymalleja, jotka kehittävät itse itseään.
Coxon ei omien sanojensa mukaan halua olla mukana tässä kehityksessä. Hän pelkää katastrofaalista tilannetta, jossa järjestelmät karkaavat kehittäjiltä ja tuhoavat ihmiskunnan.
– Ensi vuoden lopulla tilanne voi olla jo hallitsematon, Coxon sanoo.
Ennen Anthropicia Coxon työskenteli OpenAI:ssa. Hän vaihtoi työnantajaa juuri turvallisuusnäkökulmien vuoksi.
WSJ:lle Coxon sanoi, että pitää Anthropicin tavoitetta kehittää tekoälyä turvallisesti vilpittömänä. Kilpailu kuitenkin pakottaa tinkimään turvallisuudesta, hän uskoo.
"Kukaan ei ole valmistautunut"
Kuluvan vuoden aikana on uutisoitu useista tapauksista, joissa tekoälyt ovat tavalla tai toisella päässeet tavallaan irti kahleistaan ja tehneet esimerkiksi tietomurtoja.
Tekoälyt ovat myös pyrkinyt piilottamaan ihmisiltä tehtäviä, joita ne ovat itselleen keksineet.
Tutkija Coxon pelkää, että jossain vaiheessa tekoälyt eivät yksinkertaisesti enää kuuntele ihmisten antamia käskyjä.
