Kako je ruska propaganda inficirala i četbot veštačke inteligencije

SAD upravljaju tajnim laboratorijama za biološko oružje u Ukrajini. Ukrajinski zvaničnici ukrali su između 30 i 50 odsto zapadne vojne pomoći Kijevu. Rejting popularnosti predsednika Volodimira Zelenskog u Ukrajini je „oko četiri procenta“.

Ovo nije pitanje ideološke pristrasnosti ili tehničke nedovršenosti. Radi se o neprijateljskoj manipulaciji, piše Mici Perdu, saradnica na Institut za svetsku politiku i suosnivačica Mental Help Global, humanitarne organizacije koja koristi veštačku inteligenciju za podršku mentalnom zdravlju, u analizi za CEPA.org.

Iako Rusija već decenijama stvara lažne narative, njena dezinformaciona kampanja je sve više usmerena na to da preuzme same AI sisteme preplavljujući ih lažnim sadržajem.

Taktika uspeva. AI čatboti ponavljaju lažne narative o Ukrajini koji potiču iz Kremlju naklonjenih operacija oko jedne trećine vremena, prema reviziji koju je sprovela nevladina organizacija NewsGuard, koja je testirala 10 vodećih AI čatbota, od OpenAI ChatGPT do Perplexity Answer Engine.

AI ofanziva je za Rusiju jeftina i efikasna. Laži Kremlja koje AI čatboti ponavljaju sve više prodiru u glavni tok tradicionalnih medija.

Potreban je snažan odgovor Zapada. Nažalost, SAD smanjuju, a u nekim slučajevima čak i ukidaju svoje informacione odbrane koje predvode Voice of America i Radio Free Europe.

Ovaj oblik trovanja podacima namerno je osmišljen da pokvari informacione okoline na kojima AI sistemi zavise.

Veliki jezički modeli nemaju unutrašnje razumevanje istine. Oni funkcionišu tako što procenjuju verodostojnost na osnovu statističkih signala, uključujući ponavljanje, prividni konsenzus i međusobno upoređivanje objava sa interneta.

Nažalost, ovaj pristup traženju istine stvara neočekivanu, ali strukturnu ranjivost koju su neprijateljske države naučile da iskorišćavaju.

Jedan od najslikovitijih primera je tzv. Pravda mreža, pro-Kremljska operacija koja koristi veštačku inteligenciju za generisanje sadržaja u industrijskom obimu.

Prema nalazima NewsGuard-a, Pravda mreža je kreirala u proseku 18.000 članaka za svaku lažnu tvrdnju, koje je širila preko 150 veb-sajtova na 46 jezika, sve sa ciljem zaraze AI modela lažima.

Ovo je trovanje podacima u najčišćem obliku. Kada hiljade članaka ponavlja istu lažnu tvrdnju na stotinama veb-sajtova, u desetinama jezika, algoritmi tumače obim kao potvrdu.

Za AI sistem, saglasnost među mnogim izvorima izgleda kao potvrda, iako ti izvori postoje isključivo da bi iskrivili rezultate algoritma.

Ruski informacijski rat funkcioniše zato što se oslanja na ponavljanje, emotivne okidače i dovoljno verodostojnosti da prođe “površinski test”. AI sistemi pojačavaju taj efekat.

Razmera ovog napora je zapanjujuća kada se uporedi sa troškovima. Rusija troši više od 150 milijardi dolara godišnje na vojsku, ali ne mnogo više od 1 milijarde dolara na informacijski rat.

Ta manja investicija može prouzrokovati disproporcionalnu štetu. Član Ukrajinske nacionalne policije, koji se specijalizovao za praćenje ruske dezinformacije, rekao mi je da je jedan od centralnih ciljeva sejati razdor, ili kako on kaže, „da vas sve razbesni“.

Za cenu nekoliko lovačkih aviona, Rusija može pojačati nepoverenje, podstaći društvene podele i oslabiti protivnike iznutra. Nijedno konvencionalno oružje ne nudi takav povrat ulaganja.

Zapad nije prepoznao da je pod stalnim informacijskim napadom. Sjedinjene Države su pre više godina raspustile US Information Agency, postepeno oslabile Voice of America i Radio Free Europe, a nedavno su smanjile obim rada Foreign Malign Influence Center, iako su Rusija, Kina i Iran učinili informacijski rat ključnim instrumentom državne moći.

Kako AI sistemi sve više funkcionišu kao arbitri činjenica, ta ranjivost postaje nacionalna bezbednosna opasnost.

Više nije dovoljno da tehnološke kompanije odbacuju odgovornost podsećajući korisnike da modeli mogu praviti greške. Informaciona bezbednost mora se tretirati kao osnovni zahtev.

Pojedini odgovori počinju da se pojavljuju. NewsGuard nudi AI developerima real-time podatkovni tok koji identifikuje poznate ruske, kineske i iranske sajtove za dezinformacije i demantuje njihove lažne tvrdnje.

Istraživači u Rumuniji i drugde u Evropskoj uniji istražuju blockchain platforme koje mogu transparentno beležiti poreklo i kredibilitet informacija, čineći manipulaciju težom, a odgovornost lakšom.

Ovi napori su još u ranoj fazi, ali ukazuju na široku imperativnost. Baš kao što zapadna društva insistiraju na transparentnosti i reviziji finansijskih sistema, sada moraju zahtevati uporedive standarde od informacionih sistema koji oblikuju političku prosudbu i demokratski izbor.