Kaip internete stabdyti neapykantą

Vytauto Didžiojo universiteto Informatikos fakulteto dekanas profesorius Tomas Krilavičius sako, kad, pasitelkus automatizuotas sistemas, įmanoma peržiūrėti milžinišką informacijos kiekį ir aptikti neapykantos kurstymo atvejus. Tokias sistemas galima pritaikyti ir lietuvių kalbai: kartu su partneriu – Lietuvos žmogaus teisių centru – universitetas vykdo bendrą projektą ir kuria automatizuotą neapykantos kalbos internete aptikimo priemonę.

– Papasakokite apie šiuo metu vykdomą neapykantos kalbos atpažinimo priemonės kūrimo projektą ir kokiems tekstams ji bus skirta.

– Prie šio projekto aš ir mano komanda prisijungėme kaip partneriai, kurie padeda pritaikyti dirbtinio intelekto metodus neapykantos kalbai atpažinti įvairiuose tekstuose. Kitaip tariant, kuriame priemonę, kuria būtų galima vykdyti automatizuotą neapykantos kalbos paiešką. Labiausiai orientuojamės į trumpus tekstus: žinutes, komentarus ir kitas internete populiarias rašytinės komunikacijos formas. Šiuo metu koncentruojamės į lietuvišką turinį, bet tokia sistema būtų aktuali visoms kalboms. Aš apie šį projektą galiu kalbėti tik iš technologinės pusės, bet jis įtraukia žmonių iš įvairių sričių, tokių kaip teisė ar kalbotyra. Vis dėlto priemonė yra tik vienas iš projekto rezultatų, šalia bus parengtos ir rekomendacijos, kaip ją naudoti, taip pat vykdomi mokymai, diskusijos, padėsiančios atpažinti neapykantos kalbą, suprasti jos priežastis ir kilmę.

Kiekvienam žmogui prieinama platforma, kurioje galima laisvai reikšti savo mintis, tačiau, jei tos mintys koduoja neapykantą, atsiranda galimybė daryti žalą kitiems.

– Koks pagrindinis šios priemonės veikimo principas?

– Šiuo metu efektyviausių informacijos rinkimo mechanizmų dar ieškome – tai yra viena pamatinių priemonės veikimo dalių. Žinoma, galima informacijos ieškoti įvairiuose žiniasklaidos kanaluose, bet dalies jos pasiekti mes neturime galimybės, pavyzdžiui, feisbukas nesuteikia priėjimo prie tokių duomenų. Kitas svarbus dalykas – identifikuoti tekstus, kuriuose matyti neapykantos kalbos požymių. Šis etapas sudarytas iš kelių žingsnių. Visų pirma, mes planuojame naudoti dirbtinį intelektą, todėl reikia sukurti duomenų rinkinį iš tekstų, kuriuose yra pavartota neapykantos kalba, ir tekstų, kuriuose jos nėra. Naudojant tokį tekstyną galima dirbtinį intelektą išmokyti klasifikuoti tekstus ir pranešti, jei juos mato kaip rizikingus. Neapykantos kalba yra itin kompleksiška, ją lengva sumaišyti su įžeidimu ar kritika. Taip pat labai svarbu įvertinti, į ką ta kalba nukreipta, – į pažeidžiamą visuomenės grupę ar viešą asmenį. Taigi visiškai automatizuotos priemonės sukurti nepavyks – reikalingas ir žmogaus įsikišimas į neapykantos kalbos atpažinimo procesą. Vis dėlto tai gana įprasta praktika – paprastai dirbtinio intelekto taikymas yra labiau pagalbinis veiksmas, reikalaujantis žmogiško konteksto įvertinimo ir sprendimo priėmimo, todėl visiškai automatizuota tokio tipo priemonė bent artimoje ateityje neįmanoma.

– Kodėl ši priemonė reikšminga?

– Su neapykantos apraiškomis būtina kovoti: šiandien kone kiekvienam žmogui prieinama platforma, kurioje galima laisvai reikšti savo mintis, tačiau, jei tos mintys koduoja neapykantą, atsiranda galimybė daryti žalą kitiems. Elektroninė erdvė tampa nesaugi, nemaloni: žmonėms ji suteikia sąlygas kalbėti taip, kaip jie gyvai prabilti greičiausiai nesugalvotų. Visų tų komentarų ir įrašų vien žmogiškaisiais resursais suvaldyti neįmanoma – mastai per dideli, kad į tai būtų galima reaguoti gana greitai. O štai pasitelkus automatizuotas sistemas įmanoma peržiūrėti milžinišką informacijos kiekį, išskirti duomenis, kurie yra aktualūs, ir taip paruošti juos peržiūrėti žmogui.

– Ar analogiški tyrimai jau buvo vykdomi Lietuvoje ir pasaulyje?

– Lietuvoje juos vykdė "Codami Technologies", VDU ir kitos institucijos, pasaulyje prie to irgi gana daug dirbama – atrandami įvairūs daliniai sprendimai, bet, kaip dažnai pasitaiko, tie sprendimai tinka tik specifinei kalbai. Tokios sistemos netobulos, visada egzistuoja aspektų, kuriuos būtų galima pagerinti: nuo informacijos surinkimo iki tikslesnio neapykantos kalbos identifikavimo. Mes savo ruožtu stojame ant milžinų pečių ir ieškome būdų, kaip sukurti tobulesnę versiją. Mūsų priemonės panaudojimas būtų keleriopas: jį panaudojus būtų galima ne tik pašalinti, bet ir to pagrindu informuoti policiją ar kitas atitinkamas institucijas, kad jos imtųsi veiksmų.

Neapykantos kalba egzistavo visada, bet priemonės jai aptikti tapo aktualioss tuomet, kai atsirado galimybė bet kam kurti internetinį turinį ir komentuoti straipsnius – dar iki atsirandant socialiniams tinklams.

– Su kokiais didžiausiais sunkumais susiduriate vykdydami tyrimą ir kurdami šią priemonę?

– Itin problemiškas yra neapykantos kalbos apibrėžimo subtilumas, kartais ją atpažinti itin sudėtinga – būna, kad net mūsų komandos nariai nesutaria dėl kai kurių atvejų. Lieka remtis tik teisiniais neapykantos kalbos apibrėžimais ir kalbos, kuri buvo pripažinta neapykantos kalba, pavyzdžiais. Kita problema, kurios mes išspręsti negalime, yra socialinių tinklų duomenys, kurie mums teisiškai neprieinami. Pavyzdžiui, Lietuva beveik negali ne tik daryti įtakos tam, kas vyksta feisbuke, bet ir reikalauti tam tikrų duomenų. Šis ir kiti tokio tipo socialiniai tinklai yra supranacionaliniai, taigi kontroliuojami tik iš vidaus, priešingai nei žiniasklaidos kanalai, kurie gali gauti ir valstybinių baudų už turinio nepriežiūrą. Vidinė socialinių tinklų kontrolė šiuo atveju yra problemiška, nes ji labiausiai orientuota į anglų kalbą ir lietuviškos neapykantos kalbos dažnai nesuvaldo.