„Zbog odluke algoritma 60.000 ljudi izgubilo pravo na socijalnu pomoć“: Može li se verovati veštačkoj inteligenciji i u obradi podataka za legalizaciju?

Podnošenje zahteva za upis svojine „Svoj na svome“ završeno je, a prijave je podnelo gotovo dva i po miliona građana. Međutim, sada sledi teži deo posla, da se sva dokumentacija pregleda i sortira i da se krene sa donošenjem rešenja.

Ipak, državni sekretar u Ministarstvu građevinarstva, saobraćaja i infrastrukture Ranko Šekularac najavio je, gostujući na RTS-u, da prva rešenja za upis svojine građani mogu da očekuju već u narednim danima.

On je dodao da će u celom procesu imati i pomoć, odnosno da će veštačka inteligencija u velikoj meri raditi na uparivanju podataka.

„Postojeći podaci će da se ukrštaju putem veštačke inteligencije i da se generišu u akta koja će se prosleđivati nadležnom katastru od strane Republičke agencije za prostorno planiranje, na upis“, objasnio je.

Dodao je da će veštačka inteligencija u velikoj meri raditi posao, odnosno uparivanje svih onih podataka koji su prikupljeni u prethodnom periodu putem snimaka, kao i podataka koje su imali u nekim ranijim evidencijama.

Veštačka inteligencija, koliko može da nam olakša određene procese, isto tako nekada može da bude i problematična, posebno kada se radi o složenim i osetljivim materijama. S obzriom da je reč o imovinsko-pravnim odnosima i brojnoj dokumentaciji koja je često nepotpuna, zastarela ili međusobno neusaglašena, upitno je koliko je veštačka inteligencija dorasla takvom zadatku.

Ova tema otvara brojna pitanja, od obučenosti veštačke inteligencije da rukuje ovakvom dokumentacijom do osetljivosti podataka kojima se barata i njihovom bezbednošću.

Advokat Dušan Vukotić za Danas navodi da ovo može da ima i dobre i loše strane.

„Dobro je ako se bude automatski proveravalo da li je podnosilac prijave vlasnik placa na kom je objekat, da li plaća porez na imovinu za taj objekat i da li je prijavljen na toj adresi, pa da se uzme u rad taj predmet prekoredno, jer je najlakši za odlučivanje“, pojašnjava on.

S druge strane, kako ukazuje, neće biti dobro ako se odredi da se u tom slučaju automatizovano donosi rešenje i određuje naknada, a da to ne prolazi kontrolu od strane lica u Agenciji.

„Neko mora pročitati prijavu i otvoriti priložena dokumenta kako bi utvrdio kakav je tekst prijave“, poručuje Vukotić.

Andrijana Ristić iz SHARE fondacije za Danas kaže da, pre svega, treba napomenuti da ne znamo mnogo o tome kako ovi procesi funkcionišu, niti kako se veštačka inteligencija uklapa u te procese.

„Slično važi i za mnoga druga ‘napredna’ rešenja u javnoj upravi – od državnih zvaničnika dobijemo par rečenica najave i evetualne koristi uvođenja ovakvih sistema, ali ne dobijemo konkretne detalje kako sistemi funkcionišu, koje podatke obrađuju, da li je sprovedena procena rizika ili procena uticaja obrade na zaštitu podataka o ličnosti kod upotrebe veštačke inteligencije ili da li finalne odluke donosi veštačka inteligencija ili čovek“, ukazuje ona.

Kako dodaje, najveći problem je netransparentnost ovih sistema, koji obrađuju podatke i donose ili učestvuju u donošenju odluka koje imaju značajan uticaj na građane i njihova prava.

Naša sagovornica navodi da smo od državnog sekretara dobili informaciju da će „veštačka inteligencija u velikoj meri raditi svoj posao uparivanja svih podataka koji su u prethodnom periodu prikupljeni“, ali da ne znamo šta to uparivanje pretpostavlja, već da verovatno uključuje obradu podataka građana upotrebom veštačke inteligencije.

„Dokumentacija koja se prilaže prilikom podnošenja zahteva za upis svojine uvek sadrži podatke o ličnosti, podatke o drugim licima, finansijske podatke, kao i podatke o imovini. Pod uparivanjem možemo pretpostaviti i da dolazi do upoređivanja podataka iz podnete dokumentacije sa bazama podataka relevantnih institucija (npr. Katastra nepokretnosti), čime se širi obim podataka koju veštačka inteligencija obrađuje“, upozorava Ristić.

Kako naglašava, sve navedeno ukazuje da se pod pojmom „uparivanja podataka“ najverovatnije podrazumeva obimna obrada velikog broja različitih, uključujući i osetljive podatke o ličnosti, putem sistema veštačke inteligencije, bez jasnog objašnjenja svrhe, obima i pravnog osnova takve obrade.

„Samim tim je nemoguće proceniti da li je obrada podataka zakonita, srazmerna i bezbedna za građane“, poručuje Ristić.

Ona ukazuje i da nije moguće pričati o sigurnosti i pouzdanosti sistema i bezbednosti podataka jer ovi procesi nisu transparentni.

„Ono što znamo jeste da je u prošlosti upotreba algoritama u javnoj upravi bila izrazito netransparentna i da je dovela do brojnih problema. U slučaju Zakona o socijalnim kartama, zbog odluke algoritma preko 60.000 ljudi je izgubilo pravo na socijalnu pomoć od usvajanja zakona, odnosno oko 40 odsto svih ljudi koji primaju socijalnu pomoć, a većinski su pogođeni pripadnici romske zajednice, što ukazuje na problem diskriminacije prilikom upotrebe algoritama i veštačke inteligencije“, napominje.

Ona navodi da veštačka inteligencija može služiti za automatizovano donošenje odluka, iako ne znamo da li je to i sad slučaj.

„Međutim, slične prakse primene tehnologije u javnoj upravi u Srbiji su stvarale velike probleme za korisnike ovih usluga, odnosno građane“, zaključuje Ristić.