Intervju sa bivšom članicom Vijeća za povjerenje i sigurnost Twittera.

foto: Privatna arhiva Anne Collier

Twitterovo Vijeće za povjerenje i sigurnost, koje je kompanija raspustila u ponedjeljak, bilo je najveće sigurnosno savjetodavno tijelo velikih platformi i djelovalo je globalno. Vijeće je imalo više odjeljenja, a među njima i ono za sigurnost na internetu i uznemiravanje, a u kom je radila Anne Collier. Ona i još dvije članice Vijeća prethodno su dale ostavke u znak protesta protiv dosadašnjih poruka o “sigurnosti” novog vlasnika Twittera Elona Muska, kako su navele u pismu upućenom javnosti. Anne Collier više od dvadeset godina radi sa digitalnim platformama na digitalnoj sigurnosti mladih, a bila je članica Vijeća od njegovog osnivanja 2016.

„Veoma je važno, na osnovu svih tweetova mržnje koje smo primili i svih zabluda i dezinformacija o vijeću u proteklih nekoliko dana, shvatiti da nismo bili zaposlenici Twittera. Bili smo nezavisna grupa savjetnika koju je Twitter okupio 2016. godine i s kojom je sarađivao kako bi dobio savjete o pravilima, razvoju proizvoda i funkcijama“, kaže Collier u intervjuu za Mediacentar Sarajevo.

Dokazi da sigurnost opada na Twitteru su kumulativni, kaže ona, pozivajući se na nezavisne podatke Antidefamacione lige i Centra za suzbijanje digitalne mržnje, vraćanje profila ljudi koji su prekršili Twitterove standarde zajednice u prošlosti, uključujući pravila protiv uznemiravanja, maltretiranja, govora mržnje i prijetnji nasiljem, ali i najavu automatizirane moderacije u najvećoj mjeri. Dodaje kako pretpostavlja da je za Muska govor mržnje jedan oblik slobode govora.

U Vijeću za povjerenje i sigurnost, djelovale su i grupa za ljudska i digitalna prava, grupa za seksualno iskorištavanje djece, grupa za prevenciju samoubistava i mentalno zdravlje, privremena grupa za upravljanje sadržajem i jedna za dehumanizaciju. Djelovali su kao savjetodavno tijelo Twittera, prije svega u oblasti sigurnosti i kontrole govora mržnje.

„Dakle, za Twitter smo bili izvor razmišljanja izvan okvira i mislim da je naše ukidanje vrlo nepromišljeno i nesmotreno s njihove strane“, kaže Collier.

Šta su prema vašem mišljenju razlozi zbog kojih je Twitter raspustio Vijeće za povjerenje i sigurnost i kakve mogu biti posljedice?

Raspustio je Vijeće jer očigledno nismo bili ono s čime je Twitter želio da radi. Nikada nam se nisu obratili u proteklih šest sedmica otkako ih je preuzelo novo vlasništvo. Troje nas je čvrsto vjerovalo da treba prekinuti „radio tišinu“, kako se kaže, i reći nešto, imati glas u javnoj raspravi pored ili uporedo s Elonom Muskom.

Svi bi trebali znati da je Vijeće raspušteno po kratkom postupku u emailu od tri paragrafa koji je poslan svima. Kada je dogovoreno da Vijeće ima sastanak s Twitterom, malo sam se zabrinula kada sam čula da će sastanak trajati samo trideset minuta, što nije dovoljno za značajniju diskusiju s ljudima koji predstavljaju nevladine organizacije i podržavaju ugrožene grupe i ljudska prava širom svijeta.

Jesu li govor mržnje i uvrede u posljednje vrijeme porasli? Jeste li primijetili ikakvu razliku proteklih sedmica u pogledu govora mržnje i uvreda? Jer uloga Vijeća sigurnosti je u osnovi bila da piše i raspravlja i prati ova pitanja.

Dokazi da sigurnost opada na Twitteru su kumulativni. Pored nezavisnih podataka Antidefamacione lige i Centra za suzbijanje digitalne mržnje, koji se nalaze u našem saopštenju i koji su objavljeni u mnogim novinama, uključujući The New York Times – pored tih nezavisnih podataka, prvi dokaz koji smo imali za ono što se dešavalo na platformi i prije i nakon preuzimanja od strane novog vlasnika je da je otpušteno na hiljade radnika, a Twitter je najavio da će se više oslanjati na automatiziranu moderaciju. To je bio još jedan znak. Takođe, tretman otpuštenih, kao i zaposlenih koji su ostali.

Drugi dokazi su bili vraćanje profila ljudi koji su prekršili Twitterove standarde zajednice u prošlosti, uključujući pravila protiv uznemiravanja, maltretiranja, govora mržnje i prijetnji nasiljem, šutnju prema Twitterovom Vijeću za povjerenje i sigurnost, a sada i naše direktno iskustvo toga što su naši profili na Twitteru preplavljeni govorom mržnje i lažnim optužbama, te netačnim informacijama i dezinformacijama koje je sam g. Musk podsticao i širio označavajući nas ili dozvoljavajući drugima da nas označavaju u tweetovima govora mržnje protiv nas. A onda mi je bivša uposlenica Twittera rekla da raspuštanje Vijeća njoj signalizira da je ovo kraj provjerama i kontroli sigurnosti na Twitteru. Ona je davno dala ostavku, 2018. godine, ali je bila odgovorna za stvaranje Vijeća za povjerenje i sigurnost i bila je skrhana ovim razvojem događaja.

Spomenuli ste da će se Twitter uglavnom ili u potpunosti oslanjati na automatiziranu moderaciju sadržaja. Kakve će, po vašem mišljenju, biti posljedice? Znamo kako automatizirana moderacija sadržaja nije uvijek savršena i ima mnogo nedostataka?

Tačno. Održavanje platformi društvenih medija sigurnim i civilizovanim je vrlo komplikovano i zahtijeva veliki paket alata kako unutar platformi tako i izvan tih kompanija. Jedan takav alat je automatizirana moderacija sadržaja. Ali ona se oslanja na algoritme mašinskog učenja. A da bi algoritam dobro funkcionisao, mora dobijati ogromne količine podataka. A razlog zašto automatizirana detekcija ne radi tako dobro u slučajevima govora mržnje, cyber maltretiranja, uznemiravanja, štetnih vrsta ponašanja i govora, razlog zašto algoritmi ne rade baš dobro je taj što algoritmi otkrivaju obrasce, a ljudski govor i ljudsko ponašanje se brzo razvijaju.

Ako gledamo samo zaštićenu grupu s kojom ja najviše radim, djecu i maloljetnike, osobe ispod 18 godina, znamo da su tinejdžeri vrlo inovativni kada su u pitanju trendovi i govor na internetu. Bili oni dobri, loši ili neutralni, zar ne? Teško je da će se razviti neki obrasci prije nego što se govor dalje promijeni.  I toliko toga što se dešava online je usko vezano uz kontekst unutar vršnjačkih grupa, kod kuće i u školi, izvan interneta. Platforme nemaju taj kontekst.

Zato je, kao prvo, vrlo važno uključiti i ljudsku moderaciju sadržaja i ne oslanjati se previše na automatiziranu moderaciju. Kao drugo, jako je važno imati i druge alate kao što su nevladine organizacije koje su bile zastupljene u Vijeću, koje mogu prijaviti štetan sadržaj platformama i zalagati se za svoje ciljne grupe, zatim telefonske linije za pomoć poput onih širom Evrope, internetske linije za pomoć i sve druge vrste alata, uključujući linije za sprečavanje samoubistava i krizne telefonske linije za ljude na terenu.

Često čujemo da automatizirana moderacija sadržaja ne funkcioniše, posebno kada je riječ o manjim jezicima kao što je naš. Je li to slučaj i s Twitterom?

Da, svakako. I to je dio problema i razlog zašto je moja bivša kolegica s kojom sam puno sarađivala u posljednjih deset godina oformila Vijeće tako da bude kulturalno, jezički i nacionalno veoma široko. Izuzetno je važno uključiti manje jezike u moderaciju sadržaja, a algoritmi imaju mnogo manje podataka koje mogu obraditi i preraditi da bi dobro moderirali sadržaj. Cijeli okvir online govora na društvenim mrežama je previše usmjeren na Sjedinjene Američke Države i englesko govorno područje. A u prvim danima društvenih mreža, kada se sve brzo razvijalo i kada su se pomjerale granice, gotovo se uopšte nije razmišljalo o mjestima poput Šri Lanke i Mijanmara i mnogih drugih zemalja.

Spomenuli ste i da je Twitter obnovio neke ukinute profile, šta mislite zašto su to uradili?

Drago mi je da me pitate za mišljenje jer ja to nikako ne mogu znati. Ali, nakon nekoliko izjava g. Muska da planira udvostručiti slobodu izražavanja, čini se da je njegovo rezonovanje da je nekako u redu vratiti profile onih koji su u prošlosti prekršili standarde zajednice. Pretpostavljam da za g. Muska sloboda izražavanja podrazumijeva govor mržnje ili da je govor mržnje jedan oblik slobode govora. Nažalost.

Sve što se u posljednje vrijeme dešava sa Twitterom je pod izgovorom slobode izražavanja. Možemo li zaista ostaviti po strani sve druge probleme pod izgovorom odbrane slobode izražavanja?

Ne, ne možemo. Ne smijemo. To je nehumano. Ali, vidimo da se to dešava i to je ono što, do sada, nas troje bivših članova Vijeća doživljavamo direktno u vlastitim životima. Trenutno smo mete nevjerovatnog govora mržnje i prijetnji.

Rekli ste da ste vas tri koje ste dale otkaz u Vijeću, prije nego što je raspušteno, na meti govora mržnje i raznih kampanja diskreditacije. Jeste li ih prijavili, šta se dogodilo? Je li bilo reakcija društvenih mreža, ali i drugih organizacija iz sektora civilnog društva?

Dobijamo pro bono savjete od advokata i savjete o tome kako se zaštititi pomoću tehnologije. Veoma smo zahvalni na toj pomoći i podršci naših kolega. Zaista saznate ko su vam prijatelji u ovakvim situacijama. Također smo primili prijetnje izvan platforme Twittera te smo i dalje u stanju pripravnosti.

Spomenuli ste zaštitu mladih na društvenim mrežama i posebno na Twitteru. Koje su implikacije svih ovih novih odluka, pogotovo kada je u pitanju sigurnost mladih na internetu?

Ja sam velika obožavateljka društvenih mreža. Voljela sam Twitter. Za mene je Twitter bio potpuno civilizovan prostor zato što su ljudi koje sam pratila i koji su mene pratili u početku bili edukatori u oblasti tehnologije, koji predaju o tehnologiji u školama, a zatim sve više istraživača u velikom broju zemalja i neki mediji. Bio je to nevjerovatan prostor za mrežu profesionalnog učenja. Twitter to može biti i za mlade, ali općenito govoreći, Twitter nikada nije bio omiljen prostor za mlade ljude. Mislim da se dešava to da možda svjedočimo padu masovnih društvenih medija.

Twitter je više platforma za društveno emitiranje, zar ne? To je potpuno drugačija vrsta alata. Svakako da ima direktne poruke i privatnu komunikaciju, ali mladi ljudi imaju toliko načina da privatno komuniciraju sa svojim vršnjacima. Bilo u video igrama ili na Discordu ili na Twitchu ili, znate, Instagramu. Često samo razmjenjuju poruke na telefonima. Jednostavno ne znam hoće li društvene mreže kakve poznajemo ostati veoma korisne mladima.

Osim toga, oni su najvećim dijelom veoma pametni kada je riječ o čuvanju privatnosti, a znamo da svi mladi ljudi nisu podjednako ugroženi na internetu, da su mladi koji su najranjiviji van interneta ujedno oni koji su najranjiviji na internetu. To je vrlo opširna tema i izvinjavam se ako puno pričan, ali savjet...

Ne, nikada ne bih rekla mladim ljudima da prestanu koristiti društvene mreže ili interaktivne medije ili tehnologiju jer oni to koriste i za toliko dobrih stvari, a njihovo iskustvo je veoma individualno, vrlo je situaciono i veoma je kontekstualno. Oni koji su im bliski to moraju znati i znati da im je, kada su ugroženi u stvarnom životu, potrebna i dodatna podrška na internetu.

Može li se reći da je Vijeće za sigurnost i povjerenje Twittera slično Nadzornom odboru Facebooka? Iako mislim da vjerovatne rade na drugačiji način, ali oboje su savjetodavna tijela.

Razlika između ove dvije vrste tijela je u tome što jedna daje savjete prije vremena i u stvarnom vremenu. To je ono što je radilo Vijeće za povjerenje i sigurnost i to rade sigurnosna vijeća na svim platformama. Svakako na svim platformama s kojima sam ja radila.

Nadzorni odbor je sasvim druga stvar. On radi na naknadnoj osnovi, daleko nakon što se nešto dogodi. Neki ga porede sa žalbenim sudom jer kompanija sama donosi odluke o moderiranju sadržaja. A onda se korisnici ponekad bune protiv tih odluka, bilo da se radi o uklanjanju ili ostavljanju sadržaja na platformi. Vrlo mali postotak tih žalbi ili zahtjeva dođe pred Nadzorni odbor. Dakle, on ne ublažava štetu, već je više savjetodavno tijelo za pravila.

Kako vidite implikacije na slobodu izražavanja općenito na internetu u svijetlu dešavanja u vezi s Twitterom proteklih sedmica? Vidite li ovo kao jedan izolirani slučaj, ili možda možemo očekivati slična kretanja u budućnosti i za druge platforme?

Ne, zaista ne mislim da bi bilo koja druga platforma pratila primjer Twittera. Ono što znamo, ono što proizlazi iz istraživanja je da je dobra moderacija sadržaja i zaštita korisnika dobra za krajnji rezultat. To je dobro za posao. Ali mislim da i sve druge platforme uviđaju da je dozvoljavanje, pretvaranje neke platforme u igre bez granica i dopuštanje mržnje i štetnog sadržaja da prevladaju loše za posao. Mislim da to postaje sasvim jasno, iako ljudi imaju jaku pristrasnost za političku desnicu i s obzirom na to da je čak i moderiranje sadržaja politizirano na vrlo negativan način.

Upravo sada to doživljavam, trenutno sam na sigurnosnom samitu u Washingtonu koji organizira Meta i doživljavam direktnu suprotnost od onoga što se dogodilo u mom iskustvu s Twitterom u proteklih nekoliko dana. Zahvalna sam na tome. Zahvalna sam što u ovom prostoru još ima razuma, racionalnog razmišljanja i ljudskosti. Veoma sam zahvalna.

Dakle, nadamo se da će ovo biti samo jedan loš primjer koji se neće replicirati nigdje drugo jer, kako ste rekli, to nije dobro samo za ljudska prava, već i za biznis, zar ne?

Da!