Ukrajina i Rusija: Kako tehnologija prepoznavanja lica pomaže pri identifikaciji mrtvih

Kontroverzna kompanija za prepoznavanje lica Klirvju AI prošlog meseca je saopštila da je ustupila njihovu tehnologiju ukrajinskoj vladi.

BBC je video dokaze o tome kako se ona koristi – u više od hiljadu slučajeva – da bi se identifikovali i živi i mrtvi.

Ovaj članak sadrži eksplicitne opise koji bi mogli da uznemire neke čitaoce.

Čovek leži nepokretan na zemlji, glave blago nagnute napred. Telo mu je nago, sem Kalvin Klajn bokserica. Oči su mu uokvirene tamnim kolutovima nalik modricama.

Telo je pronađeno u Harkovu, u istočnoj Ukrajini – u ruševinama rata.

BBC je video fotografije sa lica mesta, ali ne zna okolnosti njegove smrti.

Jasno se vidi da je čovek pretrpeo udarac u glavu. Ima i tetovažu na levom ramenu.

Ukrajinske vlasti nisu znale ko je on, tako da su se odlučile na najsavremeniji mogući metod otkrivanja njegovog identiteta: prepoznavanje lica pomoću veštačke inteligencije.

• „Kad granatiranje prestane, izdajnici će biti kažnjeni“ – šta kažu u Donbasu
• Ukrajinska sela očajnički čekaju vesti o nestalima
• Zapad je zasad ujedinjen, ali rat u Ukrajini može da izazove podele

Klirvju je možda najslavniji, i najkontroverzniji, sistem prepoznavanja lica na svetu.

Ova kompanija sakupila je milijarde fotografije sa društvenih mreža kao što su Fejsbuk i Tviter kako bi stvorila ogromnu bazu podataka za ono što njen izvršni direktor i osnivač Hoan Ton Tat zove „pretraživačem lica“.

„Radi pomalo kao Gugl. Ali umesto da ubaci niz reči ili tekst, korisnik u njega ubacuje fotografiju lica“, objašnjava Ton Tat.

Kompanija se suočila sa nizom pravnih sporova.

Fejsbuk, Jutjub, Gugl i Tviter poslali su Klirvjuu naloge za prestanak nezakonitih radnji – zahtevajući da on ne koristi slike sa njihovih internet stranica.

Britanska Kancelarija Komesara za informacije čak je novčano kaznila kompaniju zato što nije obavestila ljude o tome da sakuplja njihove fotografije.

Sada njena upotreba u rukama ukrajinske vlade postavlja pitanje šta tačno znači koristiti ovu moćnu tehnologiju u aktivnom ratu.

Klirvju se koristi naširoko – mada polarizujuće – i u policiji u Americi.

Ton Tat kaže da je 3.200 vladinih agencija ili kupilo ili isprobava njihovu tehnologiju.

Posle invazije Vladimira Putina na Ukrajinu, osnivač Klirvjua shvatio je da bi njegova tehnologija mogla da ima još jednu namenu.

„Videli smo slike ljudi koji su ratni zarobljenici i beže sa teritorije zahvaćene sukobom, i pomislili smo da bi to potencijalno mogla da bude tehnologija koja je korisna za identifikaciju, ali i za verifikaciju“, kaže on.

• Verzija o Ukrajini koju Zapad nema priliku da čuje
• Kako je nastao mit o ukrajinskom „Duhu Kijeva“

Brzo je ponudio ukrajinskoj vladi njegovu tehnologiju – a ta ponuda je prihvaćena.

U Harkovu, vlasti su fotografisale lice mrtvaca – dok mu je glava bila podignuta, a upale oči usmerene u pravcu aparata.

Načinjena fotografija provučena je kroz Klirvjuovu bazu podataka.

Pretraga je izbacila nekoliko slika nekoga ko veoma liči na mrtvaca.

Jedna slika je načinjena po danu koji je izgledao kao veoma topao.

Čovek je bio polugo. Imao je tetovažu na levom ramenu.

Crteži su se poklapali. Imali su ime.

Korišćenje tehnologije prepoznavanja lica za identifikaciju mrtvih nije ništa novo, a Klirvju nije jedina platforma koja se za to koristi u Ukrajini.

„Koristimo ovo već godinama“, kaže Arik Toler, direktor istraživanja u Belingketu, organizaciji specijalizovanoj za istraživačko novinarstvo.

Belingket je 2019. godine koristio tehnologiju za prepoznavanje lica da bi lakše identifikovao Rusa koji je snimio mučenje i ubistvo zatvorenika u Siriji.

Za tehnologiju prepoznavanja lica, ovo nije prvi rat, ali njena upotreba u Ukrajini sada je mnogo širih razmera nego u bilo kom prethodnom sukobu.

Toler kaže da on koristi platformu za prepoznavanje lica FajndKlon u Rusiji i da je ona od posebne pomoći za identifikovanje mrtvih ruskih vojnika.

Kao i u slučaju Klirvjua, FajndKlon pretražuje javno dostupne internet slike, među njima i stranice ruskih društvenih mreža.

Mogu da se pronađu čak i ljudi koji nemaju otvorene naloge na društvenim mrežama.

„Oni možda nemaju profil na društvenim mrežama, ali bi njihove supruge ili devojke mogle da ga imaju…

Ponekad imaju profile i žive u malom gradu sa velikom vojnom bazom. Ili možda imaju mnogo prijatelja koji su trenutno u njihovoj jedinici“, objašnjava Toler, opisujući upotrebu FajndKlona kao istraživačke alatke.

Ova poslednja poenta od ključnog je značaja za razumevanje moći tehnologije prepoznavanja lica.

To znači da čak i ako osoba nikad nije imala profil na društvenim mrežama i misli da je očistila internet od svih svojih slika – ona i dalje može da se pronađe.

Samim prisustvom na fotografiji koju je postavio neki prijatelj ili prosto pojavljivanjem u pozadini neke nasumične fotografije na internetu, osoba je već u bazi podataka.

To znači da svaki pripadnik vojske ili snaga bezbednosti koji jedva da je prisutan na internetu i dalje može biti pronađen.

• Jezivo putovanje Ukrajinca do ruskog zatvora i nazad: Povratak bez ijednog nožnog prsta
• Ukrajinci deportovani u Rusiju tvrde da su prebijani i zlostavljani

Pitanje tačnosti

Kritičari, međutim, ističu da tehnologija prepoznavanja lica nije ni u kom slučaju uvek tačna – i da u vreme rata greške mogu da imaju potencijalno katastrofalne posledice.

Klirvju se ne koristi samo za identifikaciju mrtvih u Ukrajini.

Kompanija je potvrdila da ga ukrajinska vlada koristi na kontrolnim punktovima kao pomoć za identifikovanje osumnjičenih neprijatelja.

Klirvju je pokazao BBC-ju mejl, od jedne ukrajinske agencije, u kom se potvrđuje da se sistem koristi za identifikaciju živih.

„Sistem nam je omogućio da brzo potvrdimo tačnost podataka o privedenim osumnjičenima“, glasi tekst mejla, od ukrajinskog zvaničnika koji je želeo da ostane anoniman.

„Tokom upotrebe Klirvju AI-ja, izvršeno je više od 1.000 pretraga da bi se izvela odgovarajuća verifikacija i identifikacija“, glasi tekst u mejlu.

Ovo brine neke analitičare.

Konor Hili je stručnjak za prepoznavanje lica iz IPVM-a, organizacije koja analizira tehnologiju bezbednosti.

„Važno je da ukrajinske snage budu savršeno svesne da to nije 100 odsto tačan način za utvrđivanje da li vam je neko prijatelj ili neprijatelj“, kaže Hili.

„To ne sme da bude tehnologija pitanja života ili smrti, gde ili položite ili padnete, gde možete da završite u zatvoru ili, ne daj bože, da budete ubijeni. Ovo nikako ne sme da se koristi na taj način.“

• „Bilo je kao u koncentracionom logoru“ – svedočanstva preživelih iz Marijupolja
• „Siguran sam da ću ponovo videti sina“ – priče porodica vojnika koji brane Marijupolj

Drugi su izdali mnogo stroža upozorenja. Albert Foks Kan, iz grupe Projekat kontrole tehnologije nadzora, nazvao je to „katastrofom ljudskih prava u najavi“.

„Kad prepoznavanje lica pogreši u miru, ljudi budu pogrešno uhapšeni. Kad prepoznavanje lica pogreši u ratnoj zoni, nevini ljudi stradaju“, rekao je on za Forbs.

BBC je kontaktirao ukrajinsku vladu radi komentara na njenu upotrebu Klirvjua, ali nije dobio nikakav odgovor.

Ton Tat brani tačnost Klirvjuove tehnologije, rekavši da su testiranja pokazala da je on više nego 99 odsto tačan.

Mnogo toga zavisi od kvaliteta slike, položaja glave ili da li je glava pokrivena, na primer maskom.

A onda je tu i pitanje privatnosti, koje je već bilo problematično za Klirvju u SAD-u i Evropi.

Kompanija preuzima javno dostupne slike od firmi kao što su Fejsbuk i Instagram da bi izgradila bazu podataka. Ali ona nije pitala te društvene mreže, niti bilo koga drugog, ako ćemo pravo, da li sme da sačuva te slike.

Ako čitate ovo, gotovo ste sigurno u bazi podataka, iako najverovatnije niste dali Klirvjuu svoj pristanak na to da koristi vašu sliku.

Prošle godine, Klirvjua je novčano kaznila britanska Kancelarija Komesara za informacije zato što nije obavestio ljude da sakuplja njihove fotografije sa društvenih mreža.

Ton Tat priznaje da se još uvek vodi rasprava oko legalnosti tehnologije prepoznavanja lica, ali on veruje da Klirvju radi u okvirima zakona – dodavši da je ova tehnologija „krivo shvaćena“.

Tehnologija prepoznavanja lica, međutim, očigledno ima distopijsku primenu.

U novembru prošle godine, BBC je izvestio da se u Kini prave planovi za korišćenje tehnologije prepoznavanja lica za progon novinara.

Ton Tat kaže da Klirvju ne bi dozvolio takvu vrstu pretraga, čak i kad bi one bile moguće.

On kaže da Klirvju ne sarađuje sa autoritarnim vladama i da kompanija ne bi radila sa Rusijom.

Postoji, međutim, primena Klirvjuove tehnologije u vojnom kontekstu.

Prošle godine je kompanija potpisala ugovor sa Pentagonom za isprobavanje stavljanja njene tehnologije u naočare za proširenu stvarnost, na primer.

Ona je jedna od nekoliko kompanija koje razvijaju veštačku inteligenciju za prepoznavanje lica preko ugovora sa vojskom.

Zaštitnike prava na privatnost brine još jedna stvar.

Tehnologija prepoznavanja lica možda je korisna za ukrajinsku vlast u vreme rata. Ali da li će ona prosto vratiti tehnologiju Klirvjuu u vreme mira?

„Imate brojne primere tehnologija uvedenih u ratno vreme koje nastavljaju da se koriste u mirnodopskom“, kaže Hili.

„Nadam se da to nije pristup koji će oni primeniti.“

Pogledajte video o tetoviranju u Ukrajini

Pratite nas na Fejsbuku,Tviteru i Vajberu. Ako imate predlog teme za nas, javite se na [email protected]