Igra mačke i miša s lažnim vestima

Veliki podaci i veštačka inteligencija omogućavaju mikrotargetiranje, tako da su informacije koje ljudi primaju ograničene na „filter bubble“ istomišljenika

Izraz „lažne vesti“ postao je epitet koji američki predsednik Donald Tramp kači za svaku nepoželjnu priču. Ali to je i analitički izraz koji opisuje namernu dezinformaciju predstavljenu u formi konvencionalnog novinskog izveštaja.

Taj problem nije potpuna novina. Harpers magazin je 1925. objavio članak o opasnostima „lažnih vesti“. Ali danas se oko dve trećine odraslih Amerikanaca delimično informiše preko društvenih medija, koji su zasnovani na poslovnom modelu koji podupire spoljnu manipulaciju i gde se algoritmi lako mogu zloupotrebiti za profit ili u loše svrhe.

Bez obzira da li su amaterske, kriminalne ili vladine, mnoge organizacije, i domaće i strane, su vešte u oponašanju tehnoloških platformi koje analiziraju retoriku kojom je informacija predstavljena. Rusiji treba odati priznanje jer je njena vlada bila među prvima koje su shvatile kako da od društvenih medija naprave oružje i koje će iskoristiti kompanije Amerike protiv nje same.

Preplavljeni ogromnom količinom informacija koje su dostupne na internetu ljudima je teško da prepoznaju na šta treba da se usredsrede. Pažnja, pre nego informacija, postaje oskudan resurs koji treba privući. Veliki podaci („Big data“) i veštačka inteligencija omogućavaju mikrotargetiranje komunikacije, tako da su informacije koje ljudi primaju ograničene na „filter bubble“ istomišljenika.

„Besplatne“ usluge koje nude društveni mediji su zasnovane na modelu profita u kojem su informacije i pažnja korisnika zapravo proizvodi koji se prodaju oglašivačima. Algoritmi su osmišljeni tako da „uče“ šta je to što korisnike drži angažovanim, tako da mogu da primaju još reklama i prave veći profit.

Emocija kao što je bes podstiče angažman, a pokazalo se da vesti koje su šokantne ali pogrešne imaju više pregleda nego tačne vesti. Jedna studija je pokazala da je 70 odsto veća verovatnoća da takve netačnosti budu retvitovane nego tačne vesti. Slično tome, u jednoj studiji o demonstracijama u Nemačkoj ranije ove godine je otkriveno da algoritam Jutjuba sistematično usmerava korisnike ka ekstremističkom sadržaju jer je upravo tu broj „klikova“ i prihod najveći. Konvencionalni informativni mediji koji proveravaju činjenice često ne mogu da održe korak i ponekad čak mogu da budu kontraproduktivni tako što više pažnje skreću na netačnosti.

Zbog njihove prirode profitnog modela, društvene medije mogu kao svoje oružje da koriste i državni i nedržavni akteri. Fejsbuk je nedavno oštro kritikovan zbog loše zaštite privatnosti korisnika. Izvršni direktor Mark Zakerberg je priznao da Fejsbuk 2016. „nije bio spreman za koordinisane operacije sa informacijama s kojima se redovno srećemo.“ Kompanija je, međutim, „od tada dosta naučila i razvila sofisticirane sisteme koji kombinuju tehnologiju i ljude da bi sprečila mešanje u izbore preko naših usluga.“

Takvi napori obuhvataju automatizovane programe za nalaženje i brisanje lažnih profila; definisanje Fejsbuk stranica koje šire dezinformacije manje očigledno nego ranije; izdavanje transparentnog izveštaja o broju izbrisanih lažnih profila; verifikaciju nacionalnosti onih koji postavljaju političke reklame; upošljavanje još 10.000 ljudi za rad na bezbednosti; i poboljšanje koordinacije sa pravosuđem i policijom, kao i sa drugim kompanijama u cilju preduzimanja mera protiv sumnjivih aktivnosti. Ali problem nije rešen.

Trka u naoružanju će se nastaviti između kompanija društvenih medija i državnih i nedržavnih aktera koji investiraju u načine za eksploataciju njihovih sistema. Tehnološka rešenja poput veštačke inteligencije nisu čarobni štapić. Pošto sobom nose veće senzacije i šokantnije su, lažne vesti putuju brže i dalje od tačnih vesti. Netačnu informaciju retvituje mnogo više ljudi i mnogo brže nego tačnu, a kada se to ponavlja, čak i u kontekstu provere činjenica, može da se poveća verovatnoća da je pojedinac prihvati kao istinitu.

Uoči predsedničkih izbora u SAD 2016. Agencija za istraživanje interneta u Sankt Peterburgu je više od godinu dana kreirala na desetine naloga na društvenim mrežama koji su se maskirali kao lokalna američka novinska glasila. Ponekad je u izveštajima favorizovan neki kandidat, ali oni su često osmišljavani tako da prosto odaju utisak haosa i odvratnosti demokratije i da smanje odziv birača.

Kada je Kongres 1996. usvojio Zakon o pristojnoj komunikaciji, kompanije društvenih medija, tada još u povoju, bile su tretirane kao neutralni pružaoci telekomunikacionih usluga koji klijentima omogućavaju da komuniciraju jedni s drugima. Ali taj model je očito prevaziđen. Glavne kompanije su pod političkim pritiskom počele da pažljivije nadziru svoje mreže i da „obaraju“ lažnjake, uključujući one koje propagiraju botovi.

Ali nametanjem ograničenja slobodi govora, koja je zaštićena Prvim amandmanom američkog Ustava, prave se teški praktični problemi. Dok mašine i neamerički akteri nemaju prava koja propisuje Prvi amandman (i privatne kompanije ni u kakvom slučaju nisu obavezane Prvim amandmanom), neprihvatljive domaće grupe i pojedinci imaju i oni mogu da služe kao posrednici stranim akterima koji žele da projektuju svoj uticaj.

U svakom slučaju, šteta koju naprave strani akteri možda je manja od štete koju napravimo sami sebi. Problem lažnih vesti i toga što se spoljni akteri maskiraju kao izvori pravih je teško rešiti jer podrazumeva trgovanje važnim vrednostima. Kompanije društvenih medija, koje paze da ne budu meta napada zbog cenzure, žele da izbegnu propise zakonodavaca koji ih kritikuju.

Iskustvo sa evropskih izbora ukazuje da se istraživačkim novinarstvom i alarmiranjem publike unapred može pomoći da se birači vakcinišu protiv kampanja širenje dezinformacija. Ali bitka s lažnim vestima će najverovatnije ostati igra mačke i miša između njihovih dobavljača i kompanija čije platforme iskorišćavaju. To će svuda postati deo buke u pozadini na izborima. Stalna obazrivost će postati cena zaštite naše demokratije.

Autor je profesor na Harvardu

Copyright: Project Syndicate, 2018.

www.project-syndicate.org