Fejsbuk prvi put otvoreno o govoru mržnje u postovima

Kompanija Fejsbuk kaže da je obrisala ili dodala upozorenje na 29 miliona objava koje krše pravila zabrane govora mržnje, nasilja, terorizma ili golotinje, a koji su objavljeni u prva tri meseca 2018. godine.

Ovo je prvi put da je Fejsbuk objavio podatke o naporima da uspostavi poštovanje pravila.

Kompanija razvija alate veštačke inteligencije koji će pomoći 15 hiljada radnika koji trenutno rade kao moderatori.

Izveštaji pokazuju da softveri ne mogu da registruju određene vrste nasilnog govora.

Algoritmi su uspeli da upozore samo na 38 odsto objava koje su sadržale govor mržnje. To znači da je preostalih 62 odsto uklonjeno zahvaljujući korisnicima koji su govor mržnje prijavili.

Sa druge strane, Fejsbuk kaže da su softveri uspeli da registruju 99,5 odsto propagandnih objava Islamske države, Al-Kaide i sličnih grupa.

Podaci pokazuju da su korisnici u prva tri meseca ove godine bili izloženiji vizuelnom nasilju i golotinji nego u poslednja tri meseca prošle godine.

„Učimo i unapređujemo tehnologiju“, rekao je menadžer Gaj Rosen.

Sve više nasilja

Fejsbuk je zabranjeni sadržaj grupisao u nekoliko kategorija:

• Vizuelno nasilje

• Golotinja

• Spam

• Govor mržnje

• Lažni nalozi

Procenjuje se da je tri do četiri odsto naloga lažno. Od januara do marta ove godine, 583 miliona lažnih naloga je izbrisano.

Cifre pokazuju da je sve više vizuelnog nasilja. Razlog tome je, smatraju u Fejsbuku, bolja tehnologija koja detektuje nasilje, ali i eskalacija konflikta u Siriji.

Od prvog dana 2018. godine do kraja marta, uklonjeno je 1,9 miliona objava koje su sadržale neku vrstu ekstremističkog sadržaja, što je 73 odsto više nego u prethodnom kvartalu.

Ovi podaci mogli bi da budu od koristi vladama Sjedinjenih Američkih Država i Velike Britanije koje su pozvale Fejsbuk da zaustavi širenje propagandnog materijala Islamske države i sličnih grupa.

„Fejsbuk je krenuo u dobrom pravcu. Potrebno je da definišu šta jeste, a šta nije zabranjeno“, kaže Brendi Nonek sa Univerziteta Kalifornija.

Međutim, Nonek dodaje da je Fejsbuk tek na početku i da kompanija ima „pune ruke posla“.

Problemi sa govorom mržnje

Koliko je posao koji očekuje Fejsbuk složen, najbolje pokazuje problem sa govorom mržnje – kategorijom koju je teško kontrolisati automatski.

U prva tri meseca ove godine, Fejsbuk je obrisao 2,5 miliona objava, što je 56 odsto više nego u prethodna tri meseca.

Moderatori su učestvovali u brisanju objava, ali je čak i njima bilo teško da odluče šta spada pod govor mržnje, a šta ne.

„Postoje nijanse i postoji kontekst u kome je nešto rečeno, a to tehnologija još uvek ne prepoznaje“, kaže Aleks Šulc, direktor sektora za analizu podataka u kopmaniji Fejsbuk.

Mršavljenje uz pomoć društvenih mreža

Fejsbukov prolaz i ulica Tviter zbunjuju ljude u Oksfordu

„U tim slučajevima, zavisimo od ljudi koji rade kao moderatori i oni su ti koji odlučuju o tome šta ostaje, a šta brišemo“, kaže.

Da bi ilustrovao probleme sa kojima se kompanija suočava, Šulc je naveo primer reči koje bi se mogle shvatati uvredom kada se koriste u homofobičnim verbalnim napadima, ali imaju sasvim drugačije značenje kada ih koriste pripadnici LGBT populacije. Brisanje svih objava koje sadrže istu reč nije rešenje.

„Kako znati da li je neko gej ili ne? U mom slučaju je lako, ja sam otvoreno gej i to delim na svom profilu. Ali to nije slučaj sa svima i stvara veliki problem“, kaže.

Slučajni uzorci

U pokušaju da otkrije šta je propustila, kompanija je pokušala sa slučajnim uzorcima.

Uzeli su neodređeni broj objava koje su pregledane na Fejsbuku i zabeležili koliko puta su prekršena pravila.

Rezultati su zabrinjavajući.

Od deset hiljada objava, 27 sadrži vizuelno nasilje. Kako Fejsbuk ima 1,5 milijardi korisnika, to znači da miliona objava koje sadrže neku vrstu nasilja nađe put do korisnika svakog dana.

Istom tehnikom saznali su da sedam do devet objava u svakih deset hiljada sadrži golotinju.

Objava koje su sadržale materijale u vezi sa terorizmom nije bilo dovoljno da bi se proučile ovom tehnikom, kaže Šulc.

Doti Luks, aktivistkinja iz San Franciska, koja je pokrenula kampanju protiv Fejsbukovih neuspelih pokušaja da predstave manjinske grupe, kaže da težina zadatka nije izgovor.

„Nemam više razumevanja za izgovore da je nešto teško, zvog toga što se ne radi o nečemu što je novo“, kaže.

Luks nije zadovoljna prioritetima Fejsbuka.

„Imaju vremena za pravljenje aplikacija za upoznavanje i vremena da nađu način da povežu moj bankovni račun sa profilom, a nemaju vremena da vide ko su im korisnici“.

Luks, koja sebe opisuje kao gej jevrejku, kaže da mogućnost da sami korisnici prijave govor mržnje može biti zloupotrebljena kako bi se ućutkali neistomišljenici.

„Ostavljate ljudima sa lošim namerama šansu da se ponašaju loše“.

Moderna armija

Kompanija Fejsbuk i dalje otkriva vrlo malo kada je u pitanju armija moderatora koju zapošljava.

Kažu da su pokušali da obezbede da se slučajevima koji se odnose na reference u vezi sa američkom kulturom bave moderatori koji razumeju datu kulturu i da istu formulu primenjuju i u drugim zemljama.

Luks smatra da kompanija ipak treba da bude otvorenija.