Iako AI može pomoći u prepoznavanju određenih obrazaca, ne može zamijeniti ljudsko razumijevanje konteksta, niti adresirati dublje društvene dinamike koje se u komentarima ogledaju.

foto: Jon Tyson / Unsplash / Ilustracija

Komentari na portalima, a kasnije i na njihovim profilima na društvenim mrežama, od samih početaka zadaju glavobolje urednicima i svima koji brinu o ugledu i reputaciji medijskih kuća. Internet je dugo zamišljan kao veliki demokratizator, odnosno prostor u kojem svako, bez obzira na društveni ili ekonomski status, može slobodno izraziti svoje mišljenje, bilo pod pravim imenom i prezimenom ili anonimno. Međutim, vrlo brzo se pokazalo da ta ideja interneta kao platforme za slobodnu diskusiju i razmjenu mišljenja nije opravdala očekivanja.

Semir Mujkić, urednik BIRN-a BiH, kaže da su upravo zbog toga ukinuli mogućnost komentarisanja na portalu Detektor.

„Umjesto da budu mjesto korisne rasprave, komentari su se pretvorili u mjesto za širenje mržnje, pa nema nikakve potrebe da na svojoj stranici pravimo platformu za širenje raznih nacionalizama, homofobije, šovinizma i drugih vrsta mržnje. Mi nemamo prihoda od reklama, a i da ih imamo sigurno ne bismo izabrali biznis model u kojem je direktna veza između broja i količine mržnje u komentarima sa profitom”, kaže Mujkić.

Još jedan portal koji je ukinuo mogućnost komentarisanja je mostarski Bljesak.

„Bljesak je prvi portal koji je ukinuo anonimne komentare, unatoč upozorenjima da će nam se to odraziti na čitanost. No, pokazalo se upravo suprotno, a to je da su komentari odbijali ljude od pojedinih tekstova“, kažu iz redakcije ovog portala.

Vrlo živo mjesto diskusije, nerijetko izrazito negativne

Za razliku od njih, na Klixu, najposjećenijem bosanskohercegovačkom portalu, komentari ispod članaka i dalje su često vrlo živo mjesto diskusije – nerijetko izrazito negativne. Boreći se protiv govora mržnje, Klix je u proces moderacije uključio i vještačku inteligenciju (Artificial Intelligence, AI). Uprkos tome, ljudski nadzor i dalje je neophodan.

„Ti alati u svakom slučaju nisu na nivou da bez ljudske intervencije mogu završiti posao“, rekao je glavni urednik portala Semir Hambo za Mediacentar u ranijem intervjuu.

Još jedan portal koji je uveo moderaciju uz pomoć AI je Sportsport.ba. Urednik Emir Haračić navodi da je proces uvođenja AI okončan i implementiran prije otprilike godinu dana, te da pored toga koriste i automatizirane alate koji nisu AI, kao i ručno moderiranje.

„I pored toga, moderiranje je vrlo izazovno u društvu u kojem nemamo podrške i interesa nadležnih institucija, a poseban izazov predstavlja moderiranje na socijalnim mrežama gdje su dostupni alati krajnje ograničeni“, navodi Haračić.

Na društvenim mrežama za sada ne postoji mogućnost korištenja vještačke inteligencije za moderiranje komentara. Upravo to predstavlja dodatni izazov za moderiranje portalu eTrafika iz Banje Luke.

„Mreže su nam izazov za moderiranje jer nemamo osobu koja je zadužena samo za društvene mreže. Taj posao obavljam ja, uz svoj novinarski, urednički i menadžerski rad na eTrafici. Trudim se da barem svaka dva-tri dana pregledam komentare i pobrišem sporne (uvijek ih ima), ali ne znam koliko sam efikasna u tome jer ih nekada stiže jako mnogo i brzo, na različite kanale i jednostavno ne mogu da sve pohvatam”, kaže Vanja Stokić, urednica portala.

Navodi primjer jednog posebno popularnog videa koji je morala obilaziti svakodnevno šest mjeseci, jer je svakog dana pristizalo desetak novih, uvredljivih komentara, na nekoliko društvenih mreža paralelno.

„Vjerovatno među njima ima još barem stotinu koje trebam da obrišem, ali treba ih iskopati“, kaže ona.

Komentari kao ogledalo društva

U online anketi Mediacentra o online maltretiranju žena, nekoliko ispitanica je spomenulo i negativan utjecaj komentara.

„Nakon priloga u kojem su u negativnom svjetlu predstavljene određene osobe, u komentarima ispod priloga su upućivane uvrede i prijetnje, među njima i prijetnja silovanjem i nazivanje pogrdnim imenima“, navela je jedna novinarka.

„Kao spikerica/voditeljica video reportaža za YouTube i druge socijalne mreže često sam na svoje priloge nailazila na komentare o izgledu“, spomenula je druga, dodajući da je to imalo negativne posljedice jer je počela sumnjati u sebe.

Stručnjaci upozoravaju da ovakvi komentari ne djeluju u vakuumu, već odražavaju i učvršćuju šire društvene obrasce. Tatjana Žarković sa Odsjeka za sociologiju na Filozofskom fakultetu Univerziteta u Sarajevu, ističe da komentari na internetu nikada nisu izolovani od šireg društvenog konteksta.

„Komentari često nisu izraz individualne originalnosti, već ogledalo onoga što već postoji u javnom diskursu i što je društveno 'dozvoljeno' reći. Oni ponavljaju već dominantne narative, najčešće one koje su izgovorili nama različiti 'autoriteti', te time dodatno učvršćuju granice onoga što je prihvatljivo. Kada se takvi obrasci ponavljaju bez kritičkog odmaka, stvara se začarani krug u kojem je svaka naredna izjava sve radikalnija, a samorefleksija sve slabija“, kaže ona.

Uz to što mogu biti štetni, komentari su često izrečeni na način koji otežava detektovanje da li se radi o govoru mržnje ili drugom obliku štetnog govora.

„Nekad mi je teško odlučiti se da li je neki komentar za brisanje ili ne. Ljudi znaju zamotano da nešto napišu, pa ti sad treba da mozgaš šta je ko mislio“, kaže Vanja Stokić.

A ako problem u prepoznavanju govora mržnje imaju ljudi, teško je očekivati da će ga prepoznati algoritmi umjetne inteligencije, koji uče iz postojećih obrazaca, upozorava Žarković.

„Ako prepoznaju samo ekstremne izraze, onda najveći dio problema ostaje nevidljiv. Sociološki gledano, polarizacija i pristranost već su duboko prisutni u društvenom tkivu, na primjer u svakodnevnim razgovorima, šalama, medijima, pa i porodičnim krugovima. Internet te obrasce samo čini vidljivijim i ubrzava njihovu cirkulaciju. U tom smislu, algoritamska moderacija je nužno ograničena jer reflektuje iste predrasude i hijerarhije iz kojih i sama uči“, pojašnjava ona.

'Mrtvi internet' i botovi

Sve veći dio sadržaja na internetu danas dolazi od takozvanih botova i vještačke inteligencije. Prema nekim procjenama, čak 20 posto ukupnog online sadržaja – odnosno jedna petina – nisu kreirali ljudi, već je vještački generisano.

Komentarisanje i dijeljenje sadržaja na društvenim mrežama generalno bilježi pad. Aktivno učestvovanje u online diskusijama sve češće je ograničeno na one kojima je to posao, poput kreatora sadržaja, dok obični korisnici sve češće koriste naloge bez objava i preuzimaju ulogu pasivnih posmatrača.

Feđa Kulenović, informacijski stručnjak i viši asistent na Filozofskom fakultetu Univerziteta u Sarajevu, objašnjava da je vrlo teško prepoznati sadržaj koji nisu kreirali ljudi, naročito kada je riječ o organiziranim naporima i posebno u regionima u kojima kompanije koje upravljaju društvenim mrežama nemaju snažno prisustvo, pa samim tim ni dovoljno razumijevanja lokalne kulture.

„Dodatno, nekada možda i ne žele da se pozabave ovim problemom jer takav sadržaj podstiče angažman autentičnih korisnika i korisnica. Ipak, postoje indikacije, kao što je neobična aktivnost, ograničeni detalji na profilu i generički ponavljajući angažman. Međutim, prije svega ovo zahtjeva puno vremena za verifikaciju i ozbiljne mreže su često sofisticiranije od toga pa je potrebno puno napornog rada da bi se sve dokumentovalo“, kaže on.

Iako je internet, po svim pokazateljima, daleko od „teorije mrtvog interneta“ – teorije zavjere prema kojoj je većina aktivnosti online zapravo neautentična i automatski generisana – sve  brži razvoj vještačke inteligencije i njena sveprisutnost u svim sferama poslovanja guraju online javni prostor, nekada zamišljen kao vibrantno mjesto diskusije i razmjene mišljenja, upravo u tom smjeru.

Samo hrane algoritam koji će im nuditi još više takvog sadržaja

Da li će internet zaista postati mjesto automatski generisanih komentara jedne vještačke inteligencije, na koje odgovara druga, dok sve to moderira – pogađate – još jedan sistem vještačke inteligencije? Malo je vjerovatno, ali je zanimljivo zamisliti i možda zastati na trenutak prije nego što žustro odgovorite na provokaciju ispod nekog članka.

Feđa Kulenović smatra da ni na komentare autentičnih korisnika najčešće uopće ne treba odgovarati.

„Ipak, prepoznajem da je teško zastati i promisliti zbog lakoće odgovaranja. Odgovorno bi bilo da zastanu, promisle da li komentar te osobe ima ikakvog uticaja na njihov život. Najčešće reaguju na sadržaj osoba koje ne poznaju (barem na nekim mrežama) i trebaju znati da time samo hrane algoritam koji će im nuditi još više takvog sadržaja kako bi proveli što više vremena na mreži. Ako baš ne mogu odoljeti, onda trebaju barem pratiti stranice/profile koje bolje poznaju i tu davati svoj doprinos kroz reakcije i komentare“, kaže on.

Moderacija online komentara svuda, pa tako i u Bosni i Hercegovini pokazuje se kao složen zadatak koji nadilazi tehnička rješenja. Iako vještačka inteligencija može pomoći u prepoznavanju određenih obrazaca, ona ne može zamijeniti ljudsko razumijevanje konteksta, niti adresirati dublje društvene dinamike koje se u komentarima ogledaju. Istovremeno, odgovornost leži i na korisnicima – da promisle prije nego što odgovore, ali i na institucijama i platformama – da razviju jasniji okvir i podršku za moderaciju. Internet je zamišljen kao prostor slobodne razmjene mišljenja, ali kao i svaka utopija – daleko je od toga.

___