„Ne može biti uhapšen ako prekrši zakon“: Da li AI ministri treba da budu deo vlade?

Od sada će ovaj veštački agent upravljati svim ponudama za državne ugovore i nabavke – od izgradnje puteva do usluga javnog zdravlja, ukazuje u analizi za Centar za evropske analize Klara Ridenštajn, analitičarka i autorka u oblasti tehnološke politike.

Dejla će učiniti Albaniju „zemljom u kojoj su javni tenderi 100 odsto oslobođeni od korupcije“, izjavio je premijer Edi Rama.

Veštačka inteligencija zamenjuje ljudske stručnjake u politici, pravu i medicini. Vlada Estonije testira upotrebu AI sudija u građanskim parnicama.

I nisu u pitanju samo vlade. Nedavno istraživanje pokazalo je da više od 10 miliona Britanaca koristi četbotove za upravljanje i samodijagnozu mentalnih zdravstvenih stanja.

Ovi pokušaji deluju razumljivo – čak i kao dobro rešenje za goruće probleme. Ljudi su nesavršeni. Podložni su korupciji, spori su i često greše.

Zato izgleda logično da ih zamene naizgled nepogrešiva bića. Ipak, iako ideja o zamenjivanju ljudskih stručnjaka AI agentima u početku može delovati privlačno, oslanjanje na veštačku inteligenciju otvara ozbiljna i još uvek neodgovorena pitanja o odgovornosti i efikasnosti.

Razlozi za prelazak na četbotove pokretane veštačkom inteligencijom kreću se od povećanja transparentnosti do poboljšanja dostupnosti javnih usluga.

Albanija se suočava sa rasprostranjenim problemom korupcije. Najnoviji izveštaj američkog Stejt departmenta o toj zemlji navodi da je korupcija prisutna u svim granama vlasti, „uključujući i kroz javne nabavke i javno-privatna partnerstva“.

To predstavlja prepreku na putu ka članstvu u Evropskoj uniji, što je cilj koji premijer Rama želi da ostvari do 2030. godine.

I druge zemlje gledaju ka AI rešenjima za birokratske zastoje. U Estoniji se broj sudija u poslednje dve decenije nije menjao, dok se broj sudskih slučajeva skoro udvostručio.

U Ujedinjenom Kraljevstvu, na kraju 2024. godine, Kraljevski sud je imao rekordnih 67.000 nerešenih slučajeva.

Potražnja za mentalnim zdravstvenim uslugama takođe raste. Od sredine 2025. godine, više od milion ljudi nalazi se na listi čekanja Nacionalne zdravstvene službe (NHS) u Velikoj Britaniji za podršku u mentalnom zdravlju.

Iako privlačan, ovaj prelaz sa ljudskih na AI stručnjake nosi ozbiljne rizike.

Četbotovi su impresivno pouzdani i autonomni, ali su i dalje podložni greškama. Problem je u tome što, kada AI pogreši, nije jasno ko snosi odgovornost.

Veliki jezički modeli kao što su ChatGPT ili Dijela poseduju neuronsku mrežu modelovanu po uzoru na ljudski mozak.

Oni se „hrane“ velikim količinama podataka, što im omogućava da uspostavljaju veze između informacija. Iako ih to čini dobrim u pravljenju autonomnih predikcija i davanju pouzdanih odgovora, u prirodi takvih sistema (kao i kod našeg mozga) jeste da će ponekad dati pogrešan odgovor.

Kada stručnjaci od krvi i mesa naprave grešku, mogu se pozvati na odgovornost. Za lekare i advokate, zakon o nesavesnom postupanju štiti građane u slučajevima kada ljudski stručnjaci postupaju nemarno ili izazovu štetu koju je bilo moguće izbeći. Kada ministri i sudije pogreše, javni pritisak može naterati vlade da ih smene.

Kod veštačke inteligencije takva odgovornost ne postoji. Ako AI agent napravi grešku, teško ga je pozvati na odgovornost.

Pravnih slučajeva je sve više. Jedan putnik je nedavno tužio Air Canada nakon što mu je četbot dao netačne informacije o pravilima avio-kompanije.

Kompanija se branila time da ne može biti odgovorna za savet koji je dao četbot, jer je on „poseban pravni subjekt odgovoran za svoje odluke.“

Iako je kompanija izgubila spor i morala da isplati odštetu putniku, krupnije pitanje kako postupati sa lažnim ili obmanjujućim odgovorima četbotova ostaje bez odgovora.

Četbotovi se često nazivaju etičkim „crnim kutijama“, jer za razliku od ljudi, ne mogu da objasne proces donošenja svojih odluka. Ako AI ministar Dijela u Albaniji donese odluku o javnim nabavkama koja izazove ozbiljnu štetu, neće biti u stanju da objasni zašto je tako postupila.

Ovo postaje ključno pitanje, jer AI agenti zamenjuju stručnjake od kojih građani očekuju promišljene odluke i jasna objašnjenja.

Vladini zvaničnici zasnovani na AI donose i praktične probleme. Kako je i sam premijer Rama rekao prilikom najave: „Dijela je prvi član kabineta koji fizički nije prisutan“. Ne može da sedi za stolom tokom sednica vlade, niti može biti uhapšena ako prekrši zakon.

Ipak, iako postoje rizici u zamenjivanju birokrata AI agentima, ova tehnologija može znatno povećati njihovu efikasnost.

U Nemačkoj se AI koristi u probnim projektima kao pomoć, a ne zamena za sudije i advokate. To omogućava sudijama da se fokusiraju na složena pravna pitanja dok administrativne zadatke preuzima veštačka inteligencija.

Nacionalna zdravstvena služba Ujedinjenog Kraljevstva eksperimentiše sa četbotovima koji vrše trijažu osoba koje traže pomoć u oblasti mentalnog zdravlja, kako bi oni kojima je pomoć najpotrebnija što brže došli do stručnjaka.

Imenovanje AI ministra u Albaniji izazvalo je pažnju medija i to s razlogom. Opasnosti od toga da AI sistemi dobiju sve veću odgovornost su stvarne. Ali stvarne su i mogućnosti da ova tehnologija poboljša kvalitet javnih usluga.