Više ne formiramo mišljenje ili vjerovanje na osnovu činjenica; sada živimo u svijetu gdje se naša mišljenja i uvjerenja koriste za formiranje 'činjenica'.

foto: Pixabay / Ilustracija

Stari svijet umire, a novi se bori da se rodi,
sada je vrijeme čudovišta. 
(Antonio Gramsci)

Polarizacija, populizam i post-truth (post-istina, prim. prev.), u kombinaciji sa poslovnim monopolima, algoritamskim manipulacijama i deregulacijom, drže ljude u začaranom krugu koji vodi ka poslušnosti, pakosti, infantilizaciji i anestetizaciji, narušavajući osnovne demokratske procese. Anestetizirane mase su dobrodošle, jer: „Strategija onih na vlasti dugo se zasnivala na apatiji masa. Što su mase pasivnije, to je njihova moć jača. Ali ova logika je karakteristična samo u birokratskoj i centralističkoj fazi moći.“

Jednostavne i efikasne tehnike odvraćanja pažnje pokazuju sramotan prezir prema građanima, skrećući pažnju sa bitnih pitanja od javnog interesa radi zadovoljenja privatnih interesa. Politički narativi, naime, kreiraju stvarnost koja odgovara njihovim interesima i iskreno smatraju ljude glupima što uopšte vjeruju u takve malverzacije. Međutim, kako Dietrich Bonhoeffer tvrdi u Teoriji gluposti: glupost nije intelektualni nedostatak, već predaja naših misaonih sposobnosti sloganima i lažima, koji su (ovih dana) brzo i široko dostupni putem online medija i AI-ja. Ljudima ne nedostaje inteligencije, nego predstavljena institucionalna i informacijska arhitektura, društveni konformitet i pasivnost onemogućavaju građanima da donesu informisan sud o važnim temama. Savremeni svijet podsjeća na Orwelovu 1984, ili Huxleyjev Hrabri novi svijet, ili neku amalgamiranu verziju tih svjetova, razarajući empatiju, osjećaj pripadnosti i zajednici, izolirajući i praveći ljude bijesnima, tako da sve izgleda kao da se Overtonov prozor ponovo potpuno pomjerio.

Gledajući s aspekta regulacije online medija i cyber sigurnosti, isti predstavljaju sve veće izazove za demokratsko upravljanje, ističući obilje štetnog sadržaja, dezinformacija, propagande, govora mržnje, izbornog uplitanja i nedostatka moderacije platformi, što utiče na medijski ekosistem i demokratske procese, uz ograničene institucionalne kapacitete, ekstremnu političku polarizaciju i krhku održivost medija.

Ako ćemo iskreno i introspektivno, ove stvari treba posmatrati iz ugla ljudske prirode/kondicionala i njene dualnosti, te iz ugla efekta propagande, apela na jake emocije, kampanja straha i bijesa na ljude. Endorfin koji se stvara bijesom se čini kao najnovija droga masa, dok su milioni bezosjećajnih i ogorčenih pojedinaca spremni za ekstremizam, nasilje i brutalnost. To se lijepo uklapa sa masovnom narcisoidnošću, osjećajem povlaštenosti, a i emocionalnim distanciranjem imućnih, željnih očuvanja statusa quo i svog položaja u društvu. Ljudi ne samo da glasaju protiv svojih interesa; oni viču i skiče za to, pokazujući sve više elemenata kultnog programirannja, što ne ostavlja sumnju zašto političke i lobističke mašine smatraju ljude glupima. Prevare i laži funkcionišu.

Želja da se utiče na vjerovanja i ponašanje ljudi propagandom, lažima, dezinformacijama, govorom mržnje i drugim oblicima manipulativnog i opasnog jezika stara je koliko i ljudska historija. Prilike za oblikovanje i uticaj na ljude – od antičkih grčkih igara preko javnih skupova i vjerskih okupljanja do AI-ja i društvenih mreža – oduvijek su korištene za uticaj na ponašanje i postupke ljudi. Zato nije iznenađujuće da loši akteri, iznova i iznova, koriste nove tehnologije kako bi pokušali uticati na svaku fazu tehnološkog napretka.

Ne smije se zaboraviti da su „tradicionalni mediji“, kako ih sada nazivamo, bili i sada jesu saučesnici u širenju političke pristrasnosti, mržnje, polarizujući mase i pojačavajući pucanje društvenog vezivnog tkiva. Izazov s kojim se suočavaju ovi mediji su način i brzina obima i uticaja sadržaja dizajniranog da poremeti i potkopa strukture društva. Tradicionalni mediji su, u najvećoj mjeri, ušli u borbu s online akterima ne uz pomoć etičkih standarda i principa, već povećanjem skale mržnje i podjela. Pokušavajući privući što više eyeballs što je duže moguće, naši medijski ekosistemi – s neviđenom brzinom i dosegom, algoritamskim alatima, umjetnom inteligencijom i deepfake tehnologijom – šire, iznova i dosljedno, laži, konfuziju, sumnju, krivicu, podjele, bulling&shaming, značajno pojačavajući efekat interaktivnog pozorišta obmane u kojima smo svi (ne)svjesno uključeni.

Više ne formiramo mišljenje ili vjerovanje na osnovu činjenica; sada živimo u svijetu gdje se naša mišljenja i uvjerenja koriste za formiranje „činjenica“. Davno su nestale taktike koje su zahtijevale značajne ljudske i tehničke resurse za primjenu raznih obmana. Zamijenjene su automatiziranom tehnologijom koja se zloupotrebljava, a gotovo ne košta ništa. Poslovni modeli uključuju tržišnu dominaciju, bez konkurencije, economies of scale (ekonomija obima, prim, prev.), uspostavljanje tržišnih monopola i prepreka za ulazak na tržište, kupovinu konkurentskih usluga, kapitalizaciju ličnih podataka korisnika i „monetizaciju“ tržišne dominacije naplaćujući korisnicima i/ili oglašivačima, što vodi do kontinuiranih i ogromnih profita i rasta. Sve u svemu, čini se da smo zamijenili poznati koncept „iz naroda po narodu za narod“ sa „iz korporacija po prevarantima za korupciju“.

Tržišni monopoli i prevare

Trenutno medijsko okruženje i neregulisana upotreba AI-ja ne mogu se posmatrati izvan okvira savremenih globalnih ekonomskih trendova, koji se sve više prepoznaju kao zlatno doba prevare. Postoji čak i viši nivo iskrenosti u tome, korupcija i pohlepa su u punom sjaju, praćeni besmislicama tipa „trebali biste vjerovati meni, a ne svojim očima ili praznim stomacima“. Prevara se ne povećava samo u obliku pojedinačnih slučajeva, ona je zapravo prisutna na industrijskom sistemskom nivou, dolazi iz svih sfera uticaja i moći, duboko zakopavajući tvrdnje o lokalizovanim anomalijama i razotkrivajući globaliziranu pandemiju „prevarom kao uslugom“.

AI je proizvod čija je proizvodnja zasnovana na velikim dugovima, što se opravdava njegovim/njenim navodnim do sada neviđenim mogućnostima. Jedan od najvidljivijih problema AI-ja je nedostatak transparentnosti oko istog, kao i oko kompanija koje ga razvijaju. Da li AI zaista radi na boljitku čovječanstva, npr. pronalaženju lijekova za bolesti i pronalaženju razumnih i široko prihvatljivih načina za borbu protiv klimatskih vanrednih situacija, čime nas stalno hrane marketinške kampanje, javnost ne zna. Iste te javnosti čiji životi ovise o ovim otkrićima i čiji se javni resursi koriste u nepoznate svrhe, bez opipljivih pozitivnih rezultata. Obilje dokaza pokazuje ozbiljna ograničenja umjetne inteligencije, pored širokog spektra njenih negativnih uticaja, poput ekoloških i radnih, uz stalno pojačavanje diskriminatornog, pristrasnog i mrzilačkog sadržaja, da navedemo samo neke. Također, pitanje je zašto, kako i ko je odlučio (prerano) plasirati ovaj tip proizvoda masama. AI dobro obavlja svoju osnovnu funkciju predviđanja sljedeće riječi i za sada je brz pretraživač. Izvrstan/izvrsna je u prikupljanju dostupne ljudske inteligencije i jezičkom preslagivanju. Kada se zloupotrebi, ljudi umiru – od škola u Iranu do doma u Orlandu, Florida.

Pitanje je zašto tolika pompa. Pretežno široka paradigma da je AI superinteligencija izgleda kao još jedna prevara (za sada) od strane izvrsnog marketinga, u rukama profitabilne manjine, koja utiče na ostatak milijardi ljudi. Sudeći po praksi informisanja o nizu drugih proizvoda, pitanje je zašto prihvatamo (trenutno) relativno niskokvalitetne karakteristike AI-ja. Štaviše, pitanje je i zašto se regulatorni režim u raznim industrijama ne samo lako prihvata, već i glasno zahtijeva, ali u ovom području prodaje kao regulatitis. Ako ozbiljno shvatimo AI marketing, ako ozbiljno shvatimo tvrdnje da nismo samo na ivici generativne, već i superinteligencije, time argument za regulacijom postaje još jači. Nije da nema rupa i kršenja u regulaciji drugih oblasti, ali barem su prisutne kao norma, kao sistem vrijednosti prema kojem treba težiti.

Razvoj AI-ja, u ovoj fazi, jako podsjeća na utrku u naoružanju i svi bismo se trebali užasavati iste. Ako ništa drugo, samo zbog ove činjenice: Zamislite da je vaš AI chatbot stvarna osoba. Koliko dugo biste tolerisali osobu koja se pravi da sve najbolje zna i koja ima deluzionarne epizode i koja, osim ako joj ne platite, zaboravi o čemu ste razgovarali čim se raziđete?

Kada govorimo o AI-ju, posebno u „zlatnom dobu prevara“, trebali bismo se prisjetiti tvrdnje Davida Runcimana da trenutna situacija nije bez presedana, jer su protekla stoljeća obilježena usponom i dominacijom još dvije „umjetne inteligencije“: države i korporacije. Runciman tvrdi da one nude model za razumijevanje AI-ja i da će (nadamo se) u narednim godinama biti naš najbolji način da je obuzdamo. Napominje da je najnoviji trend da birači favorizuju „karizmatične“ političare, koji tvrde da vode državu na način koji nadgleda korporacije ili tržišta, gdje vidi da AI dodatno pogoršava situaciju. Već je povećana sposobnost država, posebno Sjedinjenih Američkih Država i Kine, da nadziru svoje građane, kao i sposobnost korporacija poput Mete i Googlea da državama obezbjeđuju podatke i manipulišu potrošačima za njihove vlastite ciljeve. Uskoro bi AI mogao čak potkopati, a ne pojačati moć država i korporacija, postajući samousmjeravajući, sposoban djelovati na vlastitu inicijativu i, još zlokobnije, sposoban povećati vlastitu „inteligenciju“. Zbog ove opasnosti, Runciman poziva na dvostruki zadatak: da obnovimo uslove za racionalno kolektivno djelovanje u političkoj sferi i preuzmemo odgovornost za rehabilitaciju postojećih oblika političkog i ekonomskog odlučivanja prije nego što bude prekasno [1].

Promjena u regulaciji medija

Govoreći o regulaciji medija, dobro je podsjetiti da se ona historijski vrtjela oko tehnoloških (zemaljski radiofrekventni spektar) i demokratskih pitanja (masovna priroda audiovizuelnih medija). Ta pitanja su oblikovala zakone i prakse uključenih ekonomskih aktera. Tako je u većini demokratskih zemalja, barem u Evropi, audiovizuelni sektor prvobitno bio korišten u kontekstu javnog monopola opravdanog činjenicom da su frekvencije bile ograničen javni resurs i činjenicom, naročito nakon Drugog svjetskog rata, razaranja koje su izazvale propagandne mašine [2].

Prošlo je dosta vremena otkako su tehnološka pitanja izgubila većinu osnovanosti postojanja. Nedostatak frekvencija gotovo da više nije problem za televizijski sektor, s razvojem satelitskih i kablovskih i over-the-top mreža. Emitovanje je postepeno postalo demokratizirano, diverzifikovano, privatizirano, a također, zahvaljujući satelitu, a zatim i internetu, internacionalizirano.

S druge strane, demokratska pitanja dapače ostaju relevantna, jer: „pitanje osnove zakona i njegovih načina intervencije više nije dio logike oskudice, karakteristične za audiovizuelnu regulaciju tokom većeg dijela dvadesetog vijeka, već proizlazi iz logike rizika koja odražava dinamiku regulacije u prostorima koje čine mreže“ [3]. Pitanja javnih politika sada prelaze na pojedinačne izazove svakog korisnika, od kog se traži da bude sposoban odlučiti koji sadržaj će konzumirati, kada i gdje na kojem uređaju, što predstavlja nove izazove za javne politike (garancija pluralizma i raznolikosti, zaštita maloljetnika, okvir za komercijalne komunikacije, poštovanje ljudskog dostojanstva, borba protiv govora mržnje ili diskriminacije, promocija nacionalnih audiovizuelnih djela itd.).

Javne politike vezane za medije nastoje se postepeno prilagoditi ovim promjenama u tehnologijama i sa njenom upotrebom, a da ne izgube na relevantnosti, ako se žele garantovati ciljevi od javnog interesa. Upravo sposobnost ovih politika da mijenjaju zakone i standarde omogućava im da zadrže ovu relevantnost, jer: „Čim se mediji razvijaju, njihova regulacija se transformiše, ne čistim 'regulatornim determinizmom', već u smislu onoga što ih utemeljuje u vezi sa pitanjima koja postavljaju nove tehnike, sadržajem koji dozvoljavaju da prenesu i načinima konzumacije koje one podrazumijevaju. Kako komunikacija nema tehnički cilj, ne može postojati ni 'regulatorna' koncepcija politika emitovanja koja bi nastojala regulisati radi same regulacije. I one su, na neki način, funkcija potreba društva i tržišta“ [4]. Međutim, jasno je da javne politike koje se ne prilagode ovom novom kontekstu brzo gube svu relevantnost i legitimitet [5].

Savremeni regulatorni EU okvir naglašava osnaživanje korisnika i regulatornu procjenu obaveza zaštitnih mehanizama postavljenim online platformama i AI programerima, uz finansijske kazne koje se često smatraju malim gubitkom globalnim digitalnim platformama. Još jedna „nada“ je pravosudni sistem, sa raznim sudskim postupcima protiv platformi, koji se obično rješavaju finansijskim nagodbama, što opet, čini kap u okeanima njihovih finansijskih resursa. Relativno duga zakonodavna neaktivnost u Evropi u ovom području – od Transgranične direktive iz 1989. godine do prilično rapidnog usvajanja i prilagođavanja regulatornog okvira 2008. i 2010. te trenutnog osnovnog usvajanja i izmjena Direktive o audiovizuelnim medijima, uz povećane institucionalne preraspodjele – ukazuje na poteškoće u praćenju tehnološkog razvoja. Također može ukazivati i na nedostatak volje ili sposobnosti da se na globalnom nivou odgovori na mnoge izazove koje donose online medijska okruženja. U takvom okruženju, regulatorna tijela za medije suočavaju se s brojnim problemima u pokušaju da ostanu relevantni u takvim okolnostima i pokušaju efikasne implementacije zakonodavnog okvira. Izazovi uključuju, ali nisu ograničeni na asimetriju informacija, poteškoće u pristupu podacima online medija i praćenju njihove aktivnosti, regulatornu prilagodljivost, resurse potrebne za potrebne obuke i procese učenja, kao i izazove u kapacitetima i sposobnostima regulatora, potrebu za još većom saradnjom između regulatornih tijela, itd.

Iz internacionaliziranog medijskog sektora, čini se da idemo u suprotnom smjeru i ne bi trebalo da čudi što vidimo regionalizirane i lokalizovane napore da se izgrade „sopstvene“ društvene mreže i AI, čime se efektivno uništava rana nada pravog svjetskog weba. Čini se da su pozivi da odložimo naše mobilne uređaje i umjesto toga tražimo istinsku ljudsku povezanost – uzaludni.

Povratak demokratske kontingencije

Pristup regulaciji ne treba posmatrati izolovano, već kao aspekt šire politike posvećene regulaciji elektronskih komunikacijskih mreža i usluga, koja više nije ograničena samo na uticaj masovnih medija na formiranje mišljenja, već se tiče i kulturnih, a posebno demokratskih politika u širem smislu. Naglasak treba biti na direktnoj vezi između regulacije i savremene demokratske krize. Kada znamo da demokratiju, kao koncept, treba razumjeti kao strukturiranu kontingenciju [6], postaje jasno da online mediji i AI napadaju osnovni zahtjev kontingencije koja je potrebna da demokratija ne prestane. Regulacija online medija i AI mora biti urađena sa osnovnom funkcijom vraćanja te iste demokratske kontingencije.

Kao što Runciman tvrdi, moramo procijeniti mogu li druga dva umjetna bića – države i korporacije – odgovoriti na zlatno doba prevara, erozije ljudskih vrijednosti itd. Ako ovi umjetni subjekti nastave jačati pohlepu, korupciju i autoritarizam, ljudi bi trebali biti u stanju preispitati osnovne premise demokratskog upravljanja i precizno ih prilagoditi kako bi demokratski efikasno odgovorili na ove trendove. Što se tiče elektronskih komunikacija, vlasnički i zaštitnički stav SAD-a iz kasnih '90-ih prema internetu u odnosu na globalne, ITU-vođene regulatorne inicijative trebale bi biti reafirmisanje shvatanjem i aktivnim zajedničkim upravljanjem tehnologijama koje utiču na globalnu populaciju, tržišta i (navodno) održiv način života. Otvorene diskusije su nam potrebne, praćene usvajanjem sveobuhvatnih i fleksibilnih mjera i etičkih standarda za primjenu i upotrebu AI i algoritama, osiguravajući da se koriste za obogaćivanje života ljudi, a ne za umanjivanje suštine čovječanstva. Nadalje, Overtonov prozor mora se pomjeriti ka priznavanju da su pohlepa i prevara gotovo pretvorile Zemlju u klinički terminalnog pacijenta. Sve u svemu, potrebno nam je razumijevanje i djelovanje zasnovano na prepoznavanju da obim trenutnih izazova daleko nadmašuje probleme povezane s online medijima i AI-jem, te da zapravo razdiru samu demokratsku strukturu naših društava.

Pitanje koje treba postaviti jeste da li je regulativa, kao produžena ruka države, adekvatan način za obnovu demokratske kontingencije. Stvaranje sektorskih regulatornih tijela od strane zakonodavaca zaista je postalo gotovo globalni fenomen (barem u liberaliziranim ekonomijama), organizirajući sve veći broj sektora društvene i ekonomske aktivnosti. Regulacija bi se trebala primjenjivati na poštivanje javnih sloboda (ljudska prava, integritet izbornih procesa, pristup informacijama, zaštita ličnih podataka itd.) i na nadzor „mrežnih“ ekonomskih aktivnosti. Izgleda da smo zaboravili da sve ove aktivnosti imaju zajedničko to što se bave „osjetljivim područjima koja se moraju štititi i od pritiska interesnih grupa i od stiska političke moći: potrebna je državna intervencija za osiguranje kontrole i regulacije, ali istovremeno nosi potencijalne prijetnje individualnim slobodama; uspostavljanje nezavisne vlasti je (zlatna) sredina, što omogućava uklanjanje ove kontradikcije i usklađivanje ova dva pitanja“ [7].

Važno je naglasiti da, ako države ne budu efikasno odgovorile na sve ove izazove bilo kroz efikasnu regulaciju ili na drugi način, trenutni otklon ka Gramscijevoj prognozi sve više postaje stvarnost – stvarna ne-virtuelna stvarnost. Kada bombe počnu padati, nema opcije da se sumnja ili da se opt-out. Ako je iskrena nakana da se obnovi zaštita ciljeva od javnog interesa, možemo zadržati/promijeniti/rekonstruisati uspostavljene institucije, ojačati prekograničnu saradnju na ravnopravnoj osnovi ili izabrati drugi model. Ovi napori moraju biti rezultat ljudske kreativnosti, uz pomoć AI-ja, snažno naglašavajući zahtjeve protiv korupcije i insistirajući na transparentnosti. To znači mnogo posla pred nama. Onog koji izlazi iz poznatih odgovornosti i mandata. Onog koji zahtijeva izlazak iz regulatorne zone komfora, izbjegavajući, pod svaku cijenu, regulatorno zarobljavanje i snove o izvrsnosti. Onog koja zahtijeva učenje, obuku, istraživanja i saradnju, radeći zajedno da „zaštitimo kolektivne interese svih vrijednosti od javnog interesa, a ne pojedinačne interese“. One koje nam pomažu da shvatimo da možemo i moramo preuzeti odgovornost, svako u svom domu, na ulici, u naseljima i gradovima, svako u svojoj profesiji.

Iako AI donosi izazove, također nudi i neviđene prilike. Treba biti na čovječanstvu, a ne na odabranim pojedincima, da ovaj potencijal i sposobnosti koristi odgovorno, transparentno i efikasno. Sudbina uticaja umjetne inteligencije na ljudski život trebala bi biti isključivo u rukama samih ljudi, kroz izabrane zvaničnike koji zaista rade za javno dobro i u javnom interesu, usvajajući zakonodavna rješenja koja stavljaju nezavisnu regulaciju ili neki drugi oblik održivih mehanizama zaštite u središte izazova.

Da li će ljudi izgubiti ili održati čovječnost neće zavisiti od neljudske inteligencije, već od (nedostatka) ljudske. U svakom slučaju, ishod će biti krajnji test izdržljivosti svih neurednih, nepredvidivih, altruističnih i strašnih aspekata ljudske prirode/kondicionala, koji se sudaraju sa potencijalno izvanrednom umjetnom moći.

Potrebna nam je mašta. Potrebna nam je promjena društvenog stava, kombinovane pravne, zakonodavne i aktivističke strategije, ali, prije svega, potrebna nam je etička vizija rekonstrukcije javnog života. Na kraju, ili ćemo promijeniti i/ili zamijeniti demokratiju da odgovara informacijskom prostoru, ili prilagoditi informacijski prostor demokratiji. Da li ovdje zaista treba biti izbora? Zašto ne preći na globalnu prekograničnu regulatornu harmonizaciju. Kao što Jean Baudrillard tvrdi, logika pasivnosti masa: „karakteristična je samo u birokratskoj i centralističkoj fazi moći. I upravo se to danas okreće protiv moćnih: inercija koju su njegovali postaje znak njihovog izumiranja“. Gledajući historiju, jačanje demokratije i javnog interesa nije bez presedana, na žalost obično nakon potpunog širenja Luciferovog efekta.

Možda se historija ne ponavlja, ali se sigurno rimuje. Zašto onda čekati užasne scenarije uništenja i ljudsku devastaciju i ne posegnuti ODMAH za bogatstvom iskustva u regulisanju različitih sektora, uključujući medije, graditi na tome uz pomoć AI-ja i globalno, odgovorno i kolektivno obnavljati stare i graditi nove neophodne zaštite. Umjesto da nastavimo putem redizajniranja demokratije manipulacijom, nadzorom i masovnom koncentracijom privatne moći, zašto ne bismo bili iskreni i priznali da hitno moramo promijeniti i prilagoditi institucionalni i regulatorni okvir. Moramo upravljati informacijskim okruženjem tako da služi demokratskim procesima, generiše najbolje iz ljudske kreativnosti, usvoji odgovornost, odgovornost i provediva prava, te efikasno upravlja pomoći AI u nastojanju da održimo demokratsku kontingenciju kao opipljivo obećanje. Ukratko, potrebno nam je ozbiljno deprogramiranje, prije nego što zaista bude prekasno.