Izazovi primene veštačke inteligencije u novinarstvu

Razlog za to možemo pronaći u činjenici da uprkos tome što nudi veću brzinu, efikasnost i automatizaciju obavljanja rutinskih novinarskih poslova, veštačka inteligencija (VI) donosi i rizik od halucinacija, tačnije ubedljivih, ali potpuno izmišljenih informacija. Tehnologija, koliko god napredna bila, nema svest o istini i značenju nekog sadržaja, već ga generiše na osnovu algoritma.

Halucinacije kao ključni razlog nepoverenja

Jedna od najvećih opasnosti pri upotrebi VI u novinarstvu, prema mišljenju 68,8% ispitanika CEPROM-ovog istraživanja, jeste upravo nepouzdan medijski sadržaj koji proizvodi VI (netačan, manipulativan…). Greške koje pravi VI često su uverljive, uklopljene u kontekst i stilski ispravne, zbog čega mogu lako proći neopaženo. To u praksi znači da novinari mogu žrtvovati istinitost informacija zarad brzine koju od njih zahteva redakcija, oslanjajući se na VI alate i ne ostavljajući dovoljno vremena za proveru dobijenih podataka.

Istraživački novinar BIRN-a i stručnjak za primenu VI i korišćenje javno dostupnih izvora (OSINT), Miloš Katić, upozorava da se sa ovim problemom novinari najčešće susreću pri radu sa tekstualnim sadržajima i modelima za analizu podataka. „Dešava se da izmisli veze između različitih entiteta, pravnih lica… Imao sam slučaj kada sam testirao alat da je potpuno izmislio transakciju, odnosno pošiljku robe”, objašnjava Katić upozoravajući da ispisi mogu delovati potpuno uverljivo jer koriste elemente koje smo prethodno već dali VI, ali da se ispostavi da su izmišljeni.

Osim sa tekstualnim sadržajima, Katić ukazuje i na greške koje mogu nastati prilikom upotrebe alata za analizu fotografija. „Skrenuo bih pažnju na situaciju koja mi se dogodila, jer su to okolnosti o kojima i ne razmišljate dok ne dođete u tu situaciju. Naime, koristio sam PimEyes alat za prepoznavanje lica, dobio ispise na Guglu i na osnovu njih mislio da sam povezao osobu sa fotografije i dobijene podatke o njoj. Međutim, u tim situacijama morate uzeti u obzir činjenicu da ta osoba možda ima blizanca, što može da bude problematično jer detalj koji predstavlja razliku između blizanaca ne mora da bude značajan za model VI koji koristimo. U konkretnom slučaju, razlika između blizanaca je bio samo jedan mladež. Model nije mogao da ga detektuje i usmeravao nas je na osobu koja je zapravo bila blizanac, a ne osoba koja je predmet našeg istraživanja”, objašnjava naš sagovornik.

Zbog toga, kako ističe, svaka informacija dobijena uz pomoć VI mora biti temeljno proverena, bez obzira na to koliko u datom trenutku delovala ubedljivo. „Kod istraživačkih redakcija je situacija takva da svaki tekst, pre objavljivanja, prolazi ‘fact check’ i gleda ga nekoliko očiju. Ukoliko i nakon toga urednik ima nedoumice, konsultuje se sa drugim urednicima ili kolegama iz redakcije i tek se onda donosi odluka i ide u javnost. U manjim redakcijama ne postoji mogućnost za toliko detaljnu proveru, ali treba uložiti maksimalne napore da budete 100% sigurni u informaciju pre nego što je objavite”, zaključuje Katić.

Transparentnost kao preduslov poverenja publike

Zbog grešaka koje prate upotrebu VI u novinarstvu, bilo da su posledica žurbe, nedovoljne provere ili svesnih zloupotreba, sadržaj koji ona generiše se dominantno smatra nepouzdanim. U takvom okruženju, nije iznenađujuće što se deo novinara i redakcija odlučuje da izbegne otvoreno obeležavanje upotrebe VI, iz straha da bi time narušili kredbilitet i odnos sa publikom. Rezultati CEPROM-ovog istraživanja pokazuju da tek 9,6% ispitanika uvek transparentno navodi da je korišćen VI alat, a 22,4% njih to nikada nije eksplicitno navodilo.

Međutim, Tanja Maksić, programska koordinatorka BIRN-a i autorka analize „Digitalna transformacija i veštačka inteligencija: Etička i odgovorna upotreba u medijima”, smatra da je upravo transparentnost ključan mehanizam za očuvanje, pa čak i jačanje poverenja publike. Kako ističe, VI alati mogu da proizvedu izuzetno realističan sadržaj, do te mere da publika često ne može da zna da li je kreiran od strane ljudi ili alata. Upravo zato je važno da mediji budu otvoreni prema publici i jasno komuniciraju na koji način i u koje svrhe koriste ove tehnologije.

„Moja preporuka redakcijama jeste da razviju interne smernice ili protokole o upotrebi VI i da ih učine javno dostupnim, odnosno da ih objave na svojim sajtovima. Prosto da kažu publici za koje poslove koriste VI, u kom obimu, da li je koriste za neke zahtevnije poslove, da li su ceo tekst zasnovali na nečemu što im je dala VI i to da objave transparentno”, kaže Maksić.

Ona objašnjava da su ove smernice mera medijske pismenosti publike i građana generalno. „Ja mislim da ako budemo dovoljno otvoreni prema svojoj publici i kažemo kada koristimo VI, ali se i zaista držimo toga i koristimo je uz ljudski nadzor i uredničku kontrolu, to neće narušiti odnos poverenja sa publikom koji je za medije i jedan od najbitnijih. Taj odnos je nešto što zaista moramo da negujemo u ovom okruženju”, zaključuje naša sagovornica.

Odgovornost novinara i urednika u VI okruženju

Izmene Kodeksa novinara i novinarki Srbije po prvi put su uvele smernice koje se direktno odnose na upotrebu VI u redakcijama. Osim smernice koja se odnosi na prethodno pomenutu transparentnost, odnosno označavanje sadržaja u čijem su kreiranju korišćeni VI alati, navodi se i da sadržaj u čijem kreiranju je korišćena ova tehnologija „bez obzira na to u kojoj fazi prikupljanja, obrade ili distribucije, mora biti pod uredničkom kontrolom”.

Tanja Maksić novinarske poslove u kojima se koriste VI alati deli na dva tipa. Prvi su rutinski poslovi poput prevođenja, transkripcije, sumarizacije za koje misli da je potpuno u redu koristi VI alate koji novinarima pomažu da budu brži i efikasniji.

„Drugi tip poslova su oni kompleksniji i zahtevniji, poput prikupljanja, obrade i analize podatak koji zahtevaju posebno visok nivo uredničke i novinarske pažnje. U dubinskom, istraživačkom radu VI može biti koristan alat samo ako je dobro nadzirana od strane urednika i novinara”, kaže ona i zaključuje da VI alati u pogrešnim rukama mogu da proizvedu veliku štetu.

Programska direktorka BIRN-a podseća da bez obzira na tehnološke promene postoje fundamentalni principi na kojima novinarstvo počiva.

„Istinito, pravovremeno, nezavisno i odgovorno izveštavanje su osnovni principi novinarske profesije i oni ne smeju biti zanemareni, bez obzira na okruženje u kojem novinari rade. Osim toga, imamo i nove principe koji su došli sa digitalnim okruženjem, a to su verifikacija, provera izvora i svega onog što dolazi kao proizvod rada VI. Novinari i urednici moraju to dvostruko, trostruko da provere i da budu potpuno sigurni u ono što objavljuju”, zaključuje naša sagovornica.

Kako se zaštiti od grešaka prilikom upotrebe VI alata

Danijela Vranješ, konsultantkinja za VI i asistentkinja na Filološkom fakultetu u Beogradu, ističe da zaštita od grešaka počinje od načina na koji formulišemo naše zahteve različitim alatima i predlaže nekoliko ključnih koraka kako bismo smanjili mogućnost istih.

• Dodelite ulogu chatbot-u koja će odgovarati onome čime se bavite.
• Dajte mu jasan kontekst, odnosno ‘nahranite’ VI informacijama o nekoj ličnosti ili događaju koje su svojstvene za sadržaja koji kreirate, a koje ona sama po sebi ne može da poseduje.
• Objasnite VI ko je publika – da li je to generalna populacija, tinejdžeri i slično, jer može značajno uticati na stil i ishod koji dobijete.
• Dajte ograničenja alatu da, recimo, ne koristi žargonski jezik ili da ne koristi stručne termine koje vaša publika neće razumeti i slično.
• Definišite format sadržaja koji vam je potreban.
• Uključite rečenicu – „Ukoliko su ti potrebne dodatne informacije da izvršiš zadatak, postavi mi dodatna pitanja”, kako biste osigurali da rezultat koje dobijete bude što bolji.
• Uključite opciju „web search” (pretraga internet) jer bez nje VI alati poput ChatGPT-a koriste samo sadržaje koje imaju u bazi podataka na kojoj su trenirani, odnosno ne koriste nove, aktuelne izvore. Ukoliko ga bez pretrage interneta pitate o nekom događaju koji se dogodio juče, model neće imati te informacije. Ali pošto je napravljen tako da vam podilazi i praktično ispunjava sve vaše želje, on će izmisliti sadržaj i dobićete nešto što je vrlo uverljivo, ali ne odgovara činjenicama.
• Proverite linkove ka sajtovima na kojima je alat pronašao aktuelne podatke nakon što ste uključili prethodno pomenutu opciju.

Ovaj tekst nastao je u okviru projekta „Mediji u eri veštačke inteligencije: Kako konstruktivno i odgovorno koristiti veštačku inteligenciju u medijima u Srbiji” koji sprovodi Centar za profesionalizaciju medija i medijsku pismenost (CEPROM), a koji je sufinansiran iz budžeta Republike Srbije – Ministarstva informisanja i telekomunikacija. Stavovi izneti u podržanom medijskom projektu i ovom tekstu nužno ne izražavaju stavove organa koji je dodelio sredstva.