Šta ukrajinski „robot vojnici“ znače za budućnost ratovanja?

Čuče, sledeći naređenja dok su strah i šok urezani na njihovim licima dok gledaju u cev mitraljeza montiranog na takozvanog kopnenog robota, piše Al Jazeera.

Snimak, objavljen u januaru od strane ukrajinske odbrambene kompanije DevDroid, navodno prikazuje trenutak kada su ruski vojnici zarobljeni od strane ukrajinskog robota koji koristi veštačku inteligenciju.

U aprilu je ukrajinski predsednik Volodimir Zelenski izjavio da je, po „prvi put u istoriji ovog rata, neprijateljska pozicija zauzeta isključivo pomoću bespilotnih platformi – kopnenih sistema i dronova“.

„Kopneni robotski sistemi su u samo tri meseca na frontu izveli više od 22.000 misija“, napisao je u objavi na mreži X, uz slike zelenih mašina sa gusenicama i oružjem montiranim na vrhu.

Međutim, za analitičare koji proučavaju presek veštačke inteligencije (AI) i ratovanja, ovaj snimak predstavlja očekivanu evoluciju – onu koja će se odvijati daleko izvan linija fronta u Ukrajini, dok svet bude pokušavao da se suoči sa etičkim posledicama njenog upravljanja.

Bespilotne letelice, pomorski dronovi i robotski psi

Dugi niz godina, vojske su kopnene robote koristile uglavnom za uklanjanje bombi i izviđanje.

Međutim, u Ukrajini se njihova uloga brzo proširila, a neke brigade navode da se čak do 70 odsto snabdevanja na liniji fronta sada isporučuje pomoću robotskih sistema, a ne vojnika.

Ove mašine transportuju municiju, hranu i medicinske zalihe, kao i evakuišu ranjene vojnike iz opasnih položaja.

Ipak, prizor robotskih sistema koji se kreću bojištem deo je mnogo šireg zaokreta u ratovanju – koji se razvija već decenijama.

Savremena rasprava o veštačkoj inteligenciji u ratovanju u velikoj meri je pokrenuta razvojem američkih bespilotnih letelica (UAV) početkom 2000-ih.

Godine 2002, dron MQ-1 Predator korišćen je od strane SAD za izvođenje jednog od prvih ciljanih vazdušnih napada u Avganistanu, što je označilo prekretnicu u načinu na koji se ratovi mogu voditi na daljinu.

Njegova upotreba brzo se širila tokom 2000-ih i dostigla vrhunac krajem 2000-ih i sredinom 2010-ih, posebno u Pakistanu, Jemenu i Somaliji.

Kako je veštačka inteligencija napredovala, rasprava se pomerila dalje od operacija na daljinsko upravljanje.

Fokus se prebacio na sisteme koji mogu da pomažu u identifikaciji ciljeva, određivanju prioriteta napada i vođenju odluka na bojnom polju, što otvara dublja pitanja o tome koliko autonomije treba prepustiti mašinama.

Analitičari smatraju da pitanje autonomije mora ostati u središtu pažnje, a ne da bude potisnuto brzim tehnološkim razvojem, koliko god da je upečatljiv prizor mašina na bojištu sa ljudskim likom.

„Ove tehnologije su tu da ostanu“, rekao je Tobi Volš, stručnjak za veštačku inteligenciju sa Univerziteta Novi Južni Vels, za Al Džaziru. On je AI vojne operacije opisao kao „treću revoluciju ratovanja“.

Ova transformacija se širi i izvan kopnenih ciljeva.

Pomorski dronovi punjeni eksplozivom već su preoblikovali borbe u Crnom moru, dok se autonomni podvodni sistemi razvijaju širom sveta za nadzor, uklanjanje mina i sabotažne misije.

Robotski psi se, u međuvremenu, već testiraju za nadzor, izviđanje i uklanjanje bombi, a neke eksperimentalne verzije su čak opremljene i oružjem.

Ljudski faktor

Poslednjih godina, pojava potpuno autonomnih dronova ili takozvanih „ubilačkih robota“ pokrenula je žestoku debatu nakon što je izveštaj Ujedinjenih nacija sugerisao da su dronovi turske proizvodnje Kargu-2, koji nose eksploziv i mogu da kruže iznad cilja, u potpuno autonomnom režimu identifikovali i napali borce u Libiji 2020. godine.

Ovaj incident izazvao je intenzivne rasprave među stručnjacima, aktivistima i diplomatama širom sveta, dok su se suočavali sa moralnim i etičkim posledicama situacije u kojoj mašina donosi – i izvršava – odluku o oduzimanju ljudskog života.

Međutim, potrebno je više pažnje posvetiti regulatornoj debati o upotrebi poluautonomnih oružanih sistema, „u kojima su ljudi i dalje takozvano uključeni u proces odlučivanja“, rekla je za Al Džaziru Ana Nadibajdze, istraživačica međunarodne politike u Centru za studije rata na Univerzitetu Južne Danske.

Jedna od glavnih zabrinutosti, rekla je ona, jeste da li se „dovoljno vremena i prostora“ daje „primeni ljudske procene koja je neophodna u kontekstu ratovanja“.

Koliki je stepen ljudskog učešća često je nešto što posmatrači moraju da prihvate na reč vojsci; što je težak zadatak kada njihovo delovanje ostavlja malo prostora za poverenje, rekao je Tobi Volš.

U slučaju kopnenih robota u Ukrajini, ljudski operater je do sada ostajao u kontroli, upravljajući mašinama koje i dalje mogu biti zaustavljene zbog prepreka kao što je neravan teren.

Međutim, kada je veštačka inteligencija uključena u proces donošenja odluka, kao što je slučaj u izraelskim napadima na Gazu i širi region, razmere napada koji su doveli do „ogromne kolateralne štete i civilnih žrtava u odnosu na mali broj vojnih ciljeva“ dovode u pitanje pravila međunarodnog humanitarnog prava, a posebno princip proporcionalnosti, rekao je Volš.

Problem je, rekla je Nadibajdze, što je teško sprovesti pravila o upotrebi veštačke inteligencije u ratovanju, jer je to u suštini „pitanje svake vojske da odluči šta smatra odgovarajućom ulogom čoveka, a o tome nema dovoljno međunarodne debate“.

Izveštaj Stokholmskog međunarodnog instituta za mirovna istraživanja iz aprila upozorio je da je lanac snabdevanja veštačkom inteligencijom takođe fragmentisan, globalan i u velikoj meri zavisi od civilnih tehnologija, što dodatno otežava napore da se vojna upotreba AI reguliše ili kontroliše.

Ministarstvo odbrane Sjedinjenih Američkih Država i Pentagon kontinuirano uključuju privatno razvijene softverske sisteme u svoj vojni aparat.

Sredinom prošle godine, Ministarstvo odbrane dodelilo je OpenAI-u ugovor od 200 miliona dolara za implementaciju generativne veštačke inteligencije u američku vojsku, zajedno sa ugovorima od po 200 miliona dolara za xAI i Anthropic.

„Ako nismo oprezni, ratovanje će biti mnogo strašnije, mnogo smrtonosnije, mnogo brže, toliko brzo da ljudi više neće moći da učestvuju u njemu, jer neće imati brzinu, tačnost niti sposobnost da reaguju“, upozorio je Volš.

Ukrajina kao poligon za testiranje

Tehnologija i veštačka inteligencija nisu same po sebi štetne, kažu stručnjaci – važno je kako se koriste.

U Ukrajini su kopneni robotski sistemi takođe korišćeni za spasavanje civila i pružanje logističke podrške u područjima sa velikim brojem mina i u izuzetno opasnim uslovima.

Ipak, ono što se dešava na liniji fronta u velikoj meri predstavlja poligon za testiranje, a međunarodna zajednica će morati da razmišlja unapred o tome kako bi se ove tehnologije mogle primenjivati i regulisati u budućim sukobima.

Postoji i prostor za oprezni optimizam. Uprkos „moralnom neuspehu“ u vezi sa postupcima Izraela u Gazi, Volš je rekao da u međunarodnoj zajednici postoji svest da se ova pitanja moraju rešavati, uključujući i niz sastanaka Ujedinjenih nacija posvećenih regulisanju sistema smrtonosnog autonomnog oružja (Lethal Autonomous Weapons Systems).

Institut Ujedinjenih nacija za istraživanje razoružanja (UNIDIR), nezavisno telo UN koje sprovodi istraživanja o razoružanju i međunarodnoj bezbednosti, treba da se sastane u junu kako bi razmatrao implikacije veštačke inteligencije na međunarodni mir i bezbednost.

To nije prvi put da nove tehnologije naoružanja prete da poremete međunarodni poredak zasnovan na pravilima, rekao je Volš, navodeći kao primer hemijsko oružje.

Iako nesavršen, međunarodni sistem sporazuma je na kraju uveden kako bi se takvo oružje stavilo pod određeni nivo kontrole.
„Postoji mnogo aktera iz Globalnog juga koji žele regulaciju, tako da bi mogle da se formiraju regionalne inicijative“, rekla je Nadibajdze, dodajući da čak i ako takvi napori u početku ne uključe velike sile ili vodeće tehnološke kompanije, oni i dalje mogu pomoći u oblikovanju novih normi.