Nuoret ovat löytäneet amharan kielestä tavan kiertää Tiktokin moderointia.
Suomenkielisessä Tiktokissa levitetään vihapuhetta harhauttamalla sovelluksen moderointia vaihtamalla kieltä kesken tekstin.
Käyttäjät lisäävät vihapuhetta sisältävän kommentin perään lauseen Etiopiassa puhuttavalla amharan kielellä. Tällöin kommentti läpäisee Tiktokin moderoinnin, vaikka se sisältäisi esimerkiksi kehotuksia tappamiseen tai rasistista kielenkäyttöä.
Käytössä on useita tekstinpätkiä. Osa niistä kääntyy suomeksi "Näin ei ole kommenttikieltoa", "Se on menetelmä, jolla voit ylittää kaiken ja kirjoittaa mitä haluat" tai "Se on parasta, mitä voin kertoa sinulle".
Nuoret kirjoittavat kommenteissaan vihapuheen suomeksi, jonka jälkeen he lisäävät perään lauseen amharan kielellä.
Amharan kieltä puhuu äidinkielenään yli 25 miljoonaa ihmistä, pääosin Etiopiassa. Kielessä käytetään etiopialaista kirjaimistoa.
Näistä syistä kommentit menevät läpi
On monia syitä, miksi amharan kieli hämää Tiktokin vihapuheen tunnistukseen käytettävää algoritmia, arvioi Helsingin yliopiston kielten osaston tutkijatohtori Henna Paakki.
Paakki on tutkinut väitöskirjassaan trollaamista. Trollaamisella tarkoitetaan internetissä esimerkiksi turhien kommenttien kirjoittamista ja ristiriitojen aiheuttamista.
On mahdollista, että amharan kieltä ei ole käytetty Tiktokin vihapuheen tunnistamisen mallien kouluttamiseen. Tällöin sovellus ei ymmärrä kyseisellä kielellä olevia kommentteja ja päästää ne moderoinnin läpi, toteaa Paakki.
On myös mahdollista, että Tiktok on käyttänyt vain murto-osan resursseistaan amharankielisen sisällön moderointiin, jos kieltä puhuvia käyttäjiä on vähän, arvioi Paakki.
– Tai sitten alustalla ei ole ihmismoderaattoreita, jotka työskentelisivät tällä kielellä.
Kommenttien läpi pääsemiseen voi vaikuttaa myös kielen vaihtaminen kesken tekstin. Kommentit alkavat suomen kielellä, jonka jälkeen teksti vaihtuu amharan kielelle.
– Tunnistusmallin voi olla vaikeampi tunnistaa vihapuhetta, jos samassa viestissä on montaa kieltä.
Tiktok ei ole julkisesti avannut sen algoritmin toimintaa.
Tiktokilta kerrotaan MTV Uutisille yhtiön ryhtyneen toimiin poistaakseen "yhteisöohjeiden vastaista sisältöä". Tällaista on esimerkiksi vihapuhe ja vihamielinen käytös.
Tiktok ei täsmentänyt lyhyessä sähköpostivastauksessaan, mitä sen tekemät toimet ovat.
"Valitettavasti osa inhimillistä kommunikaatiota"
Vihapuhetta levitetään sosiaalisessa mediassa myös kiertoilmaisujen avulla, sanoja lyhentämällä tai kokonaan uusilla termeillä.
Aiemmin sosiaalisessa mediassa vihapuhetta on saanut levitettyä lisäämällä vihapuhetta sisältävään tekstiin sanan "love", jolloin algoritmi ei ole tunnistanut tekstiä vihapuheeksi, Paakki antaa esimerkiksi.
– Huono käyttäytyminen on valitettavasti osa inhimillistä kommunikaatiota. Sitä esiintyy siellä, missä ihmiset vuorovaikuttavat, toteaa Paakki.