Korona i biznis
04. travanj 2020.

Brisanje govora mržnje - Zločesti sadržaj nikakva tehnologija ne uspijeva strpati u karantenu

Facebook, Twitter, YouTube, Google… razvili su svaki svoju tehnologiju umjetne inteligencije kako bi se zaustavilo širenje govora mržnje. Svaka se temelji na ideji naprednih algoritama koji mogu obraditi prirodni jezik i označiti rasistički ili nasilni govor brže i bolje nego što to mogu ljudi. Nijedna nije učinkovita. Europska unija prenositelje zlih poruka kani zato još žešće kažnjavati

Demokratska zrelost države ogleda se u mnogim čimbenicima, a jedan od njih je i sloboda izražavanja. Zrela demokracija zna koliko je važno političkim i pravnim mehanizmima zaštititi pravo pojedinca na izražavanje onoga što misli, čak i kada se država s tim ne samo ne slaže, nego i kada je na ciljniku takva slobodna govora.

Dobro, u zemlji u kojoj država šalje policiju na građane koji premijera dočekuju vičući 'dobrodošao ćaća', možda je takve osnovnoškolske definicije ovog pojma teško shvatiti, ali doista, pojedinim je demokracijama takav pristup očuvanju tog prava zajamčenog ustavom od iznimne važnosti. No sada su se te iste velike, pa i naša mala, demokracije suočile s govorom mržnje i ne znaju što činiti.

Zabraniti govor mržnje, sankcionirati, ukloniti, ne poticati i ne tolerirati, pokazalo se, uopće nije toliko jednostavno ni za zrele, a kamoli za one demokracije na papiru ili u povojima, a glavni je kamen spoticanja koliko će takve zabrane i sankcije, ma kakve bile, financijske ili zatvorske, utjecati na slobodu govora. I zato pravnici diljem svijeta ne pronalaze jednostavan način kako ga sankcionirati, a opet zadovoljiti sve kriterije slobode govora, pa tamo gdje zapinje pravna struka uskočila je ni manje ni više nego umjetna inteligencija.

Češljanje svega

Države doduše resurse za takve projekte nemaju, čak ni one najrazvijenije i najbogatije, naprosto nije njihov posao da čiste za drugima. Pa su, više kao pokazatelj dobre volje, u taj posao krenule društvene mreže. Zašto dobre volje? Pa, neke od tih platformi godinama su zaboravljale ponegdje plaćati poreze, naknade za autorski rad koji su prenosile također su uspješno izbjegavale, ali najviše je odjeknuo skandal da su se petljale u demokratske procese u pojedinim državama, što je stvorilo toliko lošeg publiciteta da je bila nasušna potreba naći nišu u kojoj se ne sramote. A s obzirom na to da je riječ o kompanijama koje su u proteklo desetljeće prema prihodima i dobiti prestigle neke države, pa i Hrvatsku, onda je jasno da se financijski nisu morale baš toliko isprsiti. No, mnogo novca kupuje vrhunske stručnjake, koji su se uhvatili ukoštac s još jednom rak-ranom interneta i društvenih mreža – govorom mržnje. Premda su, naravno, pričekali da zakonodavstva pojedinih država ipak pokažu zube…

Facebook je primjerice iskoristio svoju dobit i kupio najbolje svjetske znanstvenike i tehnološke stručnjake, koji su stvorili umjetnu inteligenciju te je naučili da detektira i uklanja, bez ikakva ljudskog posredovanja, neželjeni sadržaj. Tekstovi, videozapisi i fotografije, novorazvijena umjetna inteligencija češlja sve i traži uzorke koji se ponavljaju i automatski briše sve što s neželjenim sadržajem ima veze. Na taj način sveo je na manju mjeru nasilje, govor mržnje, terorističku propagandu, golotinju djece, sadržaj za odrasle, čak i lažne račune. Oni su razvili sustav koji naravno ne rješava problem govora mržnje suštinski, ali ga detektira i stavlja u trenutačno jedan od najučestalije korištenih pojmova na svijetu, ali iz potpuno drugačijih pobuda, u tzv. karantenu.

Zrno soli

I druge platforme poput Twittera, YouTubea i Googlea nastojale su razviti svaka svoju tehnologiju umjetne inteligencije kako bi se zaustavilo širenje govora mržnje na njihovim mrežama. Iza svake od tih tehnologija ista je ideja, da složeni algoritmi koji obrađuju prirodni jezik označe rasistički ili nasilni govor brže i bolje nego što to mogu ljudi. No u praksi to ne radi baš onako kako je zamišljeno, pa se pokazalo da je i umjetna inteligencija ponešto rasistička jer, kako pokazuju studije, vodeći modeli AI-ja za obradu govora mržnje češće će označiti kao uvredljiv sadržaj ili govor mržnje sadržaj koji su napisali Afroamerikanci (naravno, takve se studije provode nad uglavnom američkim sadržajem). Isto su potvrdile i druge studije, tako da u principu sva ta rješenja, ma kako bila fensi, od kojih je ponikao sigurno i veliki broj Ted Talkova i ama baš sva su PR-ovski vrhunski odrađena, treba uzeti sa zrnom soli. Nije umjetna inteligencija spasila svijet od govora mržnje, niti će, barem ne tako skoro.

No na neke promjene ipak utječe i njih treba pozdraviti. Primjerice, pokušaji su iznjedrili jednu novu znanost – računalnu lingvistiku, koja proučava prirodni jezik i njegovu upotrebu u online sadržajima i koja u svojoj suštini treba objektivno prepoznavati uvredljiv jezik, ali ni to se zasad barem nije pokazalo kao prevelika sreća jer platformama i umjetnoj inteligenciji, ma kako bila pametna, itekako promiče previše lošeg, uvredljivog sadržaja i zabrinjavajućega govora mržnje. Blokiranje ključnih riječi pokazalo se neučinkovito, a k tome ne detektira vizualno, grafičko nasilje. Sve u svemu, mnogo PR-a, malo dobrih rješenja, posebice stoga jer se ne želi ući u crvenu zonu cenzure. Ima nade, ali nije blizu. Kao ni kraj koronavirusa.

Šarolika pravila

Oči su uprte u države i njihova zakonska rješenja, opet, a ona su u najmanju ruku šarolika. Zakoni nekih zemalja opisuju govor mržnje kao govor, geste, ponašanje, pisanje ili prikazivanje sadržaja koji potiču nasilje ili štetne radnje prema grupi ili pojedincima na temelju njihova članstva u grupi ili koji omalovažavaju ili zastrašuju grupu ili pojedince na osnovi njihovog članstva u toj nekoj socijalnoj grupi s određenim karakteristikama. I dok su pojedine zemlje pokazale zube nasilnicima za tipkovnicama, druge još uvijek govor mržnje nisu uvele u svoj pravni sustav. U nekim zemljama, uključujući SAD, govor mržnje pleše na ivici ustavno zaštićene slobode govora, a u drugim zemljama žrtva govora mržnje može tražiti naknadu prema građanskom, krivičnom zakonu ili oboje, a primjerice platforma koja na vrijeme ne ukloni korisnikov govor mržnje može imati višemilijunske štete.

Uzalud kazne od 50 milijuna eura

Regulacija društvenih mreža je izazov u cijeloj Europi. Još 2016. na razini EU usvojen je Kodeks o postupanju za borbu protiv nezakonitoga govora mržnje na internetu. Kodeks nalaže društvenim mrežama obvezu pregledavanja i uklanjanja prijavljenog sadržaja koji predstavlja govor mržnje unutar 24 sata. Njemačka i Francuska otišle su i korak dalje u zakonskoj regulaciji govora mržnje na društvenim mrežama. Prvo je Njemačka u 2017. godini usvojila zakon poznat kao NetzDG, koji zahtijeva od velikih platformi odnosno društvenih mreža, kao što su Facebook, Instagram, Twitter i YouTube, brzo uklanjanje 'ilegalnog sadržaja'. Za kršenje zakona, to jest ne uklanjanje ilegalnog sadržaja, predviđene su novčane kazne do čak 50 milijuna eura. Međutim, provedba zakona dovela je do niza slučaja blokiranja korisnika i uklanjanja sadržaja za koji nije sigurno je li bio ilegalan te više sudskih sporova zbog povrede slobode izražavanja.

U 2019. godini Francuska je također uvela zakon koji na sličan način obvezuje društvene mreže na uklanjanje ilegalnog sadržaja u roku od 24 sata. Efekte koje će taj zakon imati na slobodu govora u Francuskoj tek treba vidjeti.

– Osim Kaznenog zakona za najteže slučajeve, u Hrvatskoj su predviđene sankcije za govor mržnje i u odredbama Zakona o suzbijanju diskriminacije, Zakona o elektroničkim medijima te raznim strukovnim kodeksima. No gotovo se ništa ne poštuje, dijelom iz nerazumijevanja i neznanja, a dijelom s namjerom. Regulacijska tijela i institucije ne postupaju u slučajevima kršenja zakona i kodeksa te izostaju sankcije. Mislim da je tome uzrok dijelom nerazumijevanje ovog fenomena, a dijelom opća inertnost institucija i situacija u kojoj se društveni problemi, poput netolerancije, govora mržnje, diskriminacije i nasilja motiviranog mržnjom rješavaju samo reaktivno i površno – istaknula je Tena Šimonović Einwalter, zamjenica pučke pravobraniteljice.

Holistički pristup

Tina Đaković, urednica internetskih stranica Kuće ljudskih prava, mreže organizacija civilnog društva, tumači kako je u Hrvatskoj govor mržnje najčešće uperen protiv marginaliziranih društvenih skupina, poput LGBTIQ osoba, pripadnika nacionalnih, vjerskih ili etničkih manjina. Prema njoj, govor mržnje posljedica je neprihvaćanja različitosti u društvu, negira načelo jednakosti svih ljudi i može imati dalekosežne posljedice.

– Društvo u kojem postaje uobičajeno izgovoriti riječi kojima se potiče, širi ili opravdava mržnja, osobito prema manjinskim skupinama, društvo je u kojem i nasilje postaje normalno. U takvom društvu nisu ugrožena samo prava manjina, nego prava svih građana i građanki – smatra Đaković.

Inače, Kuća ljudskih prava je 2016. godine, baš kako bi pokušala smanjiti govor mržnje na društvenim mrežama, pokrenula portal www.dostajemrznje.org, na kojem je moguće prijaviti takav sadržaj, a do sada je zaprimljeno 367 prijava.

– U razdoblju otkad je portal prilagođen za mobilne aplikacije, od srpnja 2019. do danas, zaprimljeno je 48 prijava. U usporedbi s godinama prije, prijava je otprilike jednako, stotinjak po godini – rekla je Đaković i dodala da je potrebno više istraživanja fenomena govora mržnje, pogotovo na društvenim mrežama, kako bismo mogli razviti efikasne mehanizme njegova suzbijanja uz poštovanje slobode govora.

Prema njoj, treba razmišljati holistički i preventivno, potrebni su nam kvalitetan građanski odgoj i obrazovanje u školama te medijska pismenost.

– Trebamo promovirati i prihvaćati različitosti te djelovati u cilju stvaranja boljeg, tolerantnog i uključivog društva – zaključila je Đaković. A to ne vrijedi samo za nas i naš mikrosvemir i ekosustav, već je to prijeko potrebno cijelom svijetu.