Internet-tutkijat opettivat algoritmin tunnistamaan vihapuhetta

Kuvituskuva Päivi Tuovinen / Arkistokuva

toimitus

Internet-tutkijat kolmesta suomalaisesta opettivat algoritmin tunnistamaan vihapuhetta mahdollisimman monipuolisesti muun muassa avoimista keskusteluryhmistä saatujen laajojen aineistojen perusteella. Se oppi laskennallisesti erottamaan vihapuheen ja seuloi viime kevään kunnallisvaaliehdokkaiden tuottamaa avointa aineistoa Facebookissa ja Twitterissä.

Aalto-yliopiston, Helsingin yliopiston ja Tampereen yliopiston tutkijoiden mukaan seurannan haasteena oli muun muassa se, että algoritmilla on ihmistä rajoittuneempi kyky tulkita keskustelun tai kommentoinnin kontekstia. Algoritmi kykenee toimimaan valtavien aineistojen seulojana, joka tuo esiin epäilyttäviä viestejä, mutta vain ihminen voi tehdä lopulliset päätelmät vaadittavista toimenpiteistä, seulontaryhmä tiedottaa.

Tutkimusryhmä kertoo, että kampanjassa oli tärkeää löytää kaiken tyyppinen vihapuhe. Heidän mukaansa olennaista oli maahanmuuttoon liittyvän vihapuheen lisäksi tunnistaa naisiin, etnisiin vähemmistöihin tai tiettyihin poliittisiin kantoihin kohdistuva vihapuhe.

– Viranomaisnäkökulmasta toimenpiteitä aiheutti korkeintaan 20 viestiä. Sanojen listaus ei sinänsä ole riittävää, koska merkitys tulee niiden yhdistelystä. Toisaalta meillä ei taas olisi resursseja näin mittavaan seurantaan ilman vihapuhekoneen ja tutkijoiden apua, kertoo yhdenvertaisuusvaltuutettu Kirsi Pimiä

– Vihapuhetta on aina ollut olemassa. Sitä on aina tuotettu pönkittämään oman ryhmän asemaa ja syrjimään toisia, mutta sosiaalinen media on tehnyt siitä aikaisempaa näkyvämpää. Tunteisiin perustuva ilmaisu ja uskomukset korostuvat, ja niitä myös kierrätetään verkossa. Jos ehdokas esimerkiksi kampanjan aikana poisti kirjoituksensa nopeasti julkaisemisen jälkeen, se saattoi silti jäädä elämään kuvakaappauksena”, kuvailee Reeta Pöyhtäri Tampereen yliopistosta.

Hankkeessa käytettiin Euroopan neuvoston sekä Ethical Journalism Networkin rakentamaa vihapuhemääritelmää.

Kommentoi

Mitä tunnetta artikkeli sinussa herättää? Ilmaisemalla tunteesi näet toisten reaktiot.

Tilaa uutiskirje

Kun tilaat uutiskirjeen, saat päivittäin sähköpostiisi tärkeimmät paikalliset uutiset. Uutiskirje lähetetään sähköpostiisi joka päivä kello 14.

Lomaketta suojaa reCAPTCHA, johon pätevät Googlen Tietosuoja ja Käyttöehdot.

Palvelut