"Ovi dronovi ne dostavljaju picu, već su napunjeni eksplozivom": Ništa od zabrane autonomnog oružja 1Foto: Pixabay/Herney

U budućnosti bi roboti ubice mogli odlučivati ​​o ratovima. Komisija UN-a u Ženevi želi da reguliše njihovu upotrebu. Ali zbog rata u Ukrajini, pregovori su pri kraju.

Ovi dronovi ne dostavljaju picu, već su napunjeni eksplozivom. Opremljeni su kamerom i senzorima, a pokreću ih po četiri propelera. Reč je o tzv. dronu kamikazi koji može samostalno da locira svoj cilj i „baci“ se na njega. To mu omogućavaju algoritmi. Dron se tokom napada samouništi, ostavljajući za sobom samo gomilicu elektronskog otpada.

Ti dronovi kamikaze nisu iz nekakvog naučno-fantastičnog filma, to je promotivni video proizvođača tog autonomnog oružja. Upravo o takvom oružju od ponedeljka (25.7.) oko 80 zemalja ponovo pregovara u Ujedinjenim nacijama u Ženevi. Odnosno o zabrani tog oružja.

Mašine koje ubijaju ljude

Prema definiciji, reč je o oružju koje svoju metu može nezavisno da traži, bira i gađa. Za razliku od oružja na daljinsko upravljanje, poslednjom fazom napada ti dronovi upravljaju samostalno. Firme iz oblasti odbrane i naoružanja koriste najnovija saznanja na području veštačke inteligencije (AI) i mašinskog učenja. Kritičari kažu da su to roboti ubojice, a u konferencijskoj dvorani u Ženevi pominje se izraz „smrtonosni autonomni oružani sistemi“. To mogu da budu letelice, ali i robotska vozila ili podmornice.

Korišćenje tog oružja je sporno: neke zemlje traže zabranu, jer smatraju da algoritam nikada ne bi trebalo da odlučuje o životu i smrti. Druge predlažu pravila za njihovo korišćenje koja bi trebalo da budu manje ili više obavezujuća. Osnovni zahtev je, kako navode, da ljudsko biće u svakom trenutku mora da održi određeni nivo kontrole nad tim sistemima.

Veto Rusije

Međunarodna zajednica se od 2014. godine sastaje dva puta godišnje u Ženevi kako bi raspravljala o toj eksplozivnoj temi. Pozicije se u velikoj meri razlikuju. Pre svega se SAD, Rusija i Kina protive zabrani ili obavezujućim pravilima, jer strahuju da će im to doneti vojno-strateške nedostatke.

Ruski agresorski rat u Ukrajini dodatno je otežao pregovore. Moskva je blokirala poslednji sastanak u martu tako što je sprečila da bude usvojen dnevni red. „Rusima se nije svidelo što su im uvedene sankcije i zato su sprečili da pregovori uopšte počnu“, kaže Usman Nur. On prati razgovore u ime nevladine organizacije „Kampanja za zaustavljanje robota ubica“ koja se zalaže za zabranu tog oružja. Nur smatra da je jedna od najvećih prepreka u razgovorima u Ženevi – načelo konsenzusa: „Jedna država može da stavi veto na čitav proces.“ Zato je, smatra, krajnje vreme da oni koji su za zabranu napuste „neefikasni forum“ u Ženevi, piše DW.

Ratni zločini autonomnim oružjem

„Razgovori u Ženevi su propali“, slaže se Vanesa Fos, koja istražuje autonomno oružje na Univerzitetu Bundesvera u Minhenu. Još uvek ima mnogo pitanja bez odgovora: „Ako autonomni oružani sistemi pogreše i eventualno počine ratne zločine, ko je onda odgovoran? Takozvani jaz u odgovornosti veliki je problem“, objašnjava Fos.

Malo je toga što ukazuje da će biti moguće da se goruća pitanja reše u Ženevi. Situacija se naročito promenila zbog rata u Ukrajini: neki smatraju da je zabrana smrtonosnog autonomnog oružja hitnija nego ikad, dok joj drugi ne daju nikakve izglede.

„Smrtonosniji od nuklearne bombe“

„Postoje dokazi da Rusija koristi autonomne oružane sisteme u ovom sukobu“, tvrdi Usman Nur iz „Kampanja za zaustavljanje robota ubica“. Među njima su, navodno, i dronovi kamikaze. Njihova upotreba u ratu „mogla bi dovede do spoznaje da hitno moramo da regulišemo korišćenje tog oružja pre nego što ono počne da se prodaje širom sveta.“

Stručnjaci za veštačku inteligenciju već dugo upozoravaju da male naoružane bespilotne letelice mogu jeftino da se proizvode u velikim količinama. A da bi se one programirale potrebno je samo nekoliko talentovanih studenata informatike. „Kad vam više ne trebaju ljudi za upravljanje tim oružjem, možete da pošaljete desetine hiljada pa čak i miliona dronova“, upozorava britanski istraživač veštačke inteligencije Stjuart Rasel u intervjuu za DW. „Tako stvaramo oružje koje je potencijalno smrtonosnije od nuklearne bombe.“

Više novca za vojsku

Postoji li dakle nova dinamika u pokušaju zabrane korišćenja robota ubica? U ovom trenutku može se uočiti upravo suprotno: zbog rata u Ukrajini države ulažu više novca u vojsku, pre svega u moderno oružje. Nemačka ulaže dodatnih 100 milijardi evra u Bundesver. Ulaže i u sisteme koji, poput borbenih aviona budućnosti (FCAS), rade s veštačkom inteligencijom.

Posmatrači javljaju da je Nemačka u poslednje vreme u pregovorima u Ženevi postala neodlučna. Čini se da se vlada u Berlinu ne želi da se odrekne vojnih prednosti koje autonomno oružje može da donese. Ne postoji nikakav dokument u kojem je vlada u Berlinu iznela svoj stav po tom pitanju. Pritom Nemačka nije usamljen slučaj. Niko u stvari ne očekuje da će u Ženevi biti zabranjeno smrtonosno autonomno oružje pa čak ni da će biti usvojena obavezujuća pravila za njihovu upotrebu.

Sada se traži alternativa – po mogućnosti neka država koja će da stane na čelo i pozove druge države da pregovaraju. Mogući kandidat je Holandija. Vreme je ključno – s tehnološkim napretkom rizici su se povećali, upozoravaju stručnjaci poput Vanese Fos. „Zato su nam potrebna nova pravila pre nego što krenemo u apokaliptični scenario u kojem će nešto stvarno poći po zlu.“

Pratite nas na našoj Facebook i Instagram stranici, ali i na Twitter nalogu. Pretplatite se na PDF izdanje lista Danas.