EU määritteli säännöt tekoälylle – katso dystooppinen lista

Kaavaillussa tekoälyasetuksessa kiellettäisiin muun muassa sosiaalinen pisteyttäminen, vapaata tahtoa ohjaava manipulatiivinen tekoäly sekä tiettyjen ihmisryhmien haavoittuvuuksien hyväksikäyttö.

Lainsäädännön tarkoituksena on varmistaa muun muassa perusoikeuksien, demokratian, ekologisen kestävyyden ja oikeusvaltioperiaatteen toteutuminen.

Parlamentin tiedotteen mukaan kaavaillussa tekoälyasetuksessa kiellettäisiin muun muassa sosiaalinen pisteyttäminen käytöksen ja luonteenpiirteiden mukaan ja ihmisten käytöstä ja vapaata tahtoa ohjaamaan pyrkivän manipulatiivisen tekoälyn käyttö.

Myös ihmisten arkaluontoisten tietojen (esimerkiksi poliittinen, uskonnollinen ja seksuaalinen suuntautuminen) biometrinen kategorisointi sekä tiettyjen ihmisryhmien haavoittuvuuksien (esimerkiksi iästä, taloudellisesta tilanteesta tai vammasta aiheutuva) hyväksikäyttö kiellettäisiin asetuksessa.

Biometristen tunnistamisjärjestelmien käyttö olisi asetuksen mukaan mahdollista lainvalvontaviranomaisille vain tietyissä rajatuissa tapauksissa, kuten kaappausten tai ihmiskaupan uhrien löytämisessä, yksilöidyn ja välittömän terrorismiuhan estämisessä sekä tietyistä rikoksista epäiltyjen etsimisessä.

Tekoälyasetuksen voimaantulo vaatii sekä parlamentin että neuvoston hyväksynnän.

Avoimuusvaatimuksia yleiskäyttöisille tekoälyjärjestelmille

Kaavaillun tekoälyasetuksen mukaan yleiskäyttöisten tekoälyjärjestelmien tekijöiden olisi noudatettava tiettyjä avoimuusvaatimuksia, joita ovat muun muassa tekoälyn opettamiseen käytettävän materiaalin kertominen ja EU:n tekijänoikeuslainsäädännön noudattaminen.

Vaatimukset ovat tiukempia joillekin laajemman vaikutuksen yleiskäyttöisille tekoälymalleille.

Korkean riskin luokituksen tekoälyjärjestelmille asetettaisiin selkeitä velvollisuuksia. Korkean riskin järjestelmiksi määriteltäisiin muun muassa äänestyskäyttäytymiseen ja vaalituloksiin vaikuttamaan pyrkiviä tekoälyjärjestelmiä.

Kansalaisilla olisi oikeus saada perusteluja korkean riskin tekoälyjärjestelmien avulla tehdyistä päätöksistä, jotka vaikuttavat heidän oikeuksiinsa.