Yuval Noah Harari: Nexus. Tietoverkkojen lyhyt historia (Bazar 2024). 589 s. (suom. Tapani Kilpeläinen)
Tekoäly jakaa siitä puhuvia ja sen kanssa enemmän työskenteleviä ihmisiä kahteen leiriin: evankeliumin julistajat ja synkistelijät.
Jako on yleistys, mutta kuten kaiken teknologian kanssa, on hyvä olla varuillaan hyvän ja pahan kanssa. Kirjapainotaito, radioaaltojen löytäminen ja atomin halkaisun seuraukset esimerkkinä riittänevät.
Historioitsija Yuval Noah Harari kuuluu jälkimmäisiin. Viisisataasivuinen teos Nexus varoittaa yksinkertaisen ja populistisen informaatiokäsityksen vaaroista ja ainakin ideaalitasolla länsimaiseen demokratiaan kuuluvan itsekorjaavuuden heikentymisestä ja tietoisesta heikentämisestä.
Informaatio on ydin
Kirjansa nimellä Nexus Harari haluaa viitata verotukseen liittyvään lainkäyttöalueeseen. Digiaikana jonkin toiminnan omistaja on yhdessä paikassa, mutta käyttäjät ja toiminta käytännössä lähes kaikkialla koko ajan.
Verkossa olemisen ja tekemisen ydin on informaatio, sen tuottaminen, jakaminen ja hyödyntäminen.
Miten toimintaa verotetaan, on monimutkaista. Ja kun omistajat ovat jo nyt upporikkaita maailmanvaikuttajajättejä, ei ole ihan sama, miten heitä verotetaan, ja sitä kautta yhdellä tavalla pidetään silmällä ja pakotetaan yhteisiin talkoisiin. Hararin mukaan kyse on informaation verottamisesta ja sen ongelmista, ei niinkään rahasta.
Lue myös: Toimittaja testasi, kuinka helppoa deepfake-videon tekeminen on – asiantuntijatkin hämmästyivät lopputuloksesta
Inhimilliset verkot
Kirjan ensimmäinen puolisko, "Inhimilliset verkot", on informaation historiaa.
Hararin mukaan informaatio "antaa asioille muodon", ”luo uusia todellisuuksia sitomalla erilaisia asioita yhteen – ovat ne sitten pariskuntia tai imperiumeja”.
Harari varoittaa naiiviksi nimeämästään informaatiosta. Tässä mallissa ajatellaan, että informaatio johtaa suoraan totuuteen, joka vie viisauteen ja hyvään vallankäyttöön, mitä enemmän informaation piirissä tai verkossa on ihmisiä.
Toinenkaan, monimutkainen informaatiomalli, ei ole pelastus. Sen mukaan informaatiosta seuraa totuus ja järjestys, ja niistä hyvää vallankäyttöä, totuudesta vielä viisaus. Järjestys voi kuitenkin olla dystooppistakin yhteiskuntajärjestystä.
Malli ei päde todellisuuteen, Harari muistuttaa. Digi- ja tekoäly-yhtiöiden väittämät informaation jatkuvasta, yhä runsaammasta ja nopeammasta lisäämisestä eivät auta, koska informaatio ei siis ole totuutta, eikä välttämättä vie yhtään sitä lähemmäksi.
Informaatio kun on muun muassa hyvä kontrollin ja manipulaation väline, ja sillä tahkotaan rahaa.
Tyhjä asia voi muuttua historiaksi
Historia on terve muistutus jopa tyhjästä keksityn asian tai suuremman kokonaisuuden muuttumisesta karmeaksi "totuudeksi", kunhan asiaa tarpeeksi moni ja tarpeeksi pitkään toistaa ja levittää (kuten noitavainot, rasismi, Raamatun tarinointi).
Tarinoista eli informaatiosta syntyy niiden kertojien ja välittäjien kesken intersubjektiivinen todellisuus. Näitä tarinoita seurauksineen Harari kuvaa kärsivällisesti ja vakuuttavasti.
"Intersubjektiiviset asiat, kuten lait, jumalat, kansakunnat, liikeyritykset ja valuutat, ovat olemassa suurten mielistä muodostuvien joukkojen välisessä yhdyssiteessä."
Hararin esimerkkeinä mainitsemat asiat ovat informaation vaihdon luomia, niitä ei ole ollut olemassa ennen sitä, toisin kuin esimerkiksi Aurinko. Se möllöttää ilman ensimmäistäkään ihmistä, olemme vain nimenneet sen.
Informaatio siis on välttämätöntä ihmisyhteisöjen olemassa ololle ja toiminnalle. Ydinkysymys siitä elävässä ja sitä tuottavassa tekoälyistyvässä maailmassa on, kuinka kykenemme ja haluamme hyödyntää tekoälyä yhteiseen hyvään. Se taas vaatii reflektiota ja valmiutta korjata omia virheitämme ja ajatteluamme.
Lue myös: MTV kysyi tekoälyltä, kenen pitäisi neuvotella rauha Ukrainaan – ehdotti heti neljää nimeä
Tekoälyn mahti
Kirjan toinen puolisko, "Epäorgaaniset verkot", käsittelee tekoälyä ja sen jo olemassa olevia ongelmia ja uhkia.
Harari määrittelee lyhyesti tekoälyn sellaiseksi, joka ”pystyy tekemään päätöksiä ja luomaan uusia ajatuksia itse”.
Hararin mukaan olemme siirtymässä aikaan, jossa jokin muu kuin ihminen on vallassa. Jokin muu on epäorgaaninen tekoäly, tai jopa "vieras äly" (alien intelligence).
Se ei tarkoita ulkoavaruudesta tulevaa älyä, vaan ihmisen alkuun laittamaa, mutta itse itseään suunnittelevaa älyä, ja siinä mielessä on vähemmän keinotekoinen.
Keskustelu ja kiistely käy kuumana siitä, mitä tekoäly jo nyt kykenee tekemään – vai kykeneekö, tai tuntemaan – ilman ihmisen sille antamaa alkusysäystä tai suurempaakin vaikutusta. Esimerkiksi nyt käytetyt kielimallit ovat osoittautuneet alkuinnostusta haastavimmiksi hyödyntää.
Moni muukin kuin Harari on tuonut esiin ihmisten rakentamien ja ohjeistamien algoritmien mahdollisen vaarallisuuden käyttäjiensä sitouttamisineen. Harari nostaa esimerkiksi Facebookin roolin rohingyojen vainoamisessa Myanmarissa.
Hararin mukaan olemme siirtymässä aikaan, jossa ihminen ei ole enää vallassa.
Ottavatko tietokoneet vallan?
Kirjan kirjoittajan haastetun näkemyksen mukaan tekoälyalgoritmit kykenevät sekä oppimaan että päättämään asioista ilman ihmisen vaikutusta, mikä on "tekoälyvallankumouksen olemus". Ja näitä ei-inhimillisiä itsenäisiä toimijoita tulee vain lisää. Informaatioverkkojen ketjuissa toimivat vain tietokoneet.
Harari myös varoittaa muun muassa suuntaamisen ja vinouman ongelmista.
Ensimmäisessä tietokoneet ryhtyvät toteuttamaan ihmisen antamaa päämäärää valtavalla potentiaalilla, ja voivat päätyä toteuttamaan sitä vastoin ihmisen ennakoimaa tavoitetta. Vinoumissa algoritmit vain vahvistavat sosiaalisesti, demokraattisesti, etnisesti ja sukupuolisesti epätasa-arvoisia rakenteita.
Tietokoneet ovat siis jo ottamassa valtaa ihmiseltä, arvioi Harari.
Kyetäänkö algoritmeista ja tekoälystä tekemään "inhimillisempiä", eli saada ne myöntämään virheitään, epäilemään toimiaan ja pyytämään ihmisiltä palautetta, mikä voi olla yksi tekijä yhteiskunnallisesti vastuulliseen ja tasa-arvoiseen tekoälyyn.
Lue myös: Tuore nobelisti varoittaa mahdollistamansa kehityksen vaaroista
Tekoälyn uhat
Harari myös suomii syystäkin alan yhtiöitä. Teknojäteillä on valtavat määrät rahaa lobata poliitikoilta itselleen suotuisia lakeja, ja sysätä vastuun teknologiansa seurauksista muille, joista suurin osa ei ymmärrä tekoälyä ja sen vaikutuksia.
Tekoälyä käytetään yhä tehokkaammin myös mitä erilaisempaan ja valvontaan ja tarkkailuun, tai vaikka luokittelemaan ihminen kuluttajana tai yhteiskunnallisesti vallanpitäjien näkökulmasta nöyrinä ja sopeutuvina tai hankalina.
Meillä demokratioissa tekoälyn käyttö yhteiskunnissa on periaatteessa omissa käsissämme, ainakin toistaiseksi. Ja yhä toistaiseksi halu tehdä siitä renki on vaisua, EU tosin yrittää luoda säännöstöä. Mutta tarvittaisiin kokonainen kulttuurin ja eetoksen muutos.
Harari listaa neljä periaatetta tähän: hyväntahtoisuuden, hajauttamisen, molemminpuolisuuden ja tilan jättämisen levolle ja muutokselle.
Ensimmäinen tarkoittaa sitä, että ihmisestä kerättyä tietoa käytettäisiin auttamiseen, ei manipuloimiseen. Hajauttamalla informaatiota vältettäisiin sen keskittäminen vaarallisesti yhteen paikkaan, ja molemminpuolisuudessa kansalaisille annetaan mahdollisuus valvoa suuryrityksiä ja hallituksia.
Harari myös varoittaa kahdesta tulevaisuuden näkymästä.
Uudenlaisen imperialismin mahdollisuus
Informaation ja vallan kerääntymisestä yhteen tai vain harvaan paikkaan, saattaa olla seurauksena uudenlainen imperialismi, missä vallankäyttöön ei välttämättä tarvita fyysisten sotalaivojen lähettämistä toiselle puolelle maapalloa.
Jos kylmän sodan aikana Eurooppaa jakoi rautaesirippu, maailmaa voivat uhata piiesiriput. Toisin sanoen, digitaalisilla imperiumeilla olisi omat eristetyt verkkonsa. Viimeksi mainittua muun muassa Venäjä haluaa rakentaa, ja tällainen johtaa ymmärryksen kaventumiseen ja alati vaarallisempiin väärinymmärryksiin ja hallintakeinoihin.
Meidän on elettävä, toimittava ja vaikutettava itsekorjaavasti, ja saatava riittävät säädöspuitteet tekoälylle. Tahattomia ja tahallisia virheitä ja vääriä olettamuksia ja väärinkäytöksiä tulee yhä monimutkaisemmassa ja teknologisoituvassa nykyajan yhteiskunnassa, vaikka tekoäly ei niin sanotusti lähtisikään laukalle.