Yhdysvaltalaistutkijat havaitsivat, että ihonväri voi vaikuttaa siihen, kuinka hyvin itseohjautuva auto henkilön ympäristössä tunnistaa. Löydöksestä uutisoivat brittilehti The Independent sekä tiedesivusto IFL Science.
Georgia Insititute of Technology -yliopiston tutkijat ovat huomanneet, että teknologia voi olla syrjivää. Järjestelmät eivät näytä tunnistavan yhtä hyvin musta- kuin valkoihoisia ihmisiä, mikä tutkijoiden laskujen mukaan lisää tummaihoisten riskiä esimerkiksi jäädä itseohjautuvan auton alle.
Tutkijat kertovat työnsä yllykkeenä olleen havainnon, jonka mukaan vastaavissa kuvantunnistusjärjestelmissä on vikoja tiettyjen väestöryhmien kohdalla. Esimerkiksi tammikuussa Massachusettsin teknologisen instituutin tutkijat huomasivat, että Amazonin Rekognition-kasvojentunnistusohjelmisto tunnisti huonommin ihmisen, jos hän oli tummaihoinen tai nainen.
Muidenkin laitteiden, kuten pöpöpesäkkeiksi julistettujen käsienkuivaajien, on huomattu joissain tapauksissa tunnistavan paremmin valko- kuin mustaihoiset.
Jos twiitti ei näy, voit avata sen tästä.
Järjestelmissä sisäänrakennettua syrjintää
Havaintonsa todennäköisyyttä testatakseen tutkijat erottelivat laajan määrän kuvia jalankulkijoista ihonsävyn perusteella vaaleisiin ja tummiin ihmisiin. Apuna he käyttivät Fitzpatrickin asteikkoa, joka jakaa ihotyypit kuuteen eri luokkaan. Kuvat syötettiin kahdeksaan eri kuvantunnistusjärjestelmään.
Tutkijoiden analyysin mukaan heidän käyttämissään järjestelmissä oli sisäänrakennettua syrjintää, mikä johti siihen, että ne tunnistivat huonommin tummemmat ihonsävyt vuorokaudenajasta huolimatta. Keskimäärin järjestelmät tunnistivat tummat ihonsävyt viisi prosenttia huonommin kuin vaaleat.
Tutkimuksessa puutteensa – riskit hyvä tiedostaa
Tuloksia tulkittaessa on huomioitava, että tutkijat käyttivät ennemmin tiedemiesten kuin autonvalmistajien luomia mallinnuksia. Tutkimus on kuitenkin alleviivaa tärkeää asiaa, joka teknologiayritysten on hyvä tiedostaa, jotta ne voivat ohjelmoida järjestelmät tunnistamaan ihmiset ihonväristä riippumatta.
Lue lisää: Minä, minä, minä vai sittenkin sinä? Robottiautojen käyttöönottoon liittyy myös eettisiä kysymyksiä
Lähteet: The Independent, IFL Science, Arxiv.org, Aies-conference.com