Algoritam nas sluša: Zašto se razgovori sa kol-centrima snimaju?

Istraživanje bavarskog javnog servisa „Bajerišer rundfnk“ pokazuje da takav softver može i da prepozna emocije. A to je problematično, piše Dojče vele.

Postoji rečenica koju većina ljudi u Nemačkoj na ovaj ili onaj način zna sa telefonskih linija: „Da bismo proverili i poboljšali kvalitet naše usluge, želeli bismo da snimimo ovaj razgovor.“

Ono što mnogi pritom ne znaju jeste da pojedini kol-centri koriste veštačku inteligenciju da na osnovu glasa procene njihove emocije tokom razgovora.

Jedan od najvećih svetskih operatera kol-centara, „Teleperformans“ (Teleperformance), ima softver koji koristi veštačku inteligenciju i koji je, između ostalog, namenjen prepoznavanju emocija sagovornika, ali i agenata kol-centra. Koliko brzo govore? Da li zvuče uzbuđeno ili uznemireno? Da li kupci prete da će raskinuti ugovor ili čak podneti tužbu? Sve to bi trebalo da proceni veštačka inteligencija, pokazuju interna dokumenta kompanije.

U Nemačkoj skoro dve hiljade agenata radi za „Teleperformans“, takođe i u ime dobavljača energije (struje ili gasa). Dokumenta pokazuju da korisnici „Teleperformansa“ mogu da koriste softver za svoje telefonske linije na nemačkom jeziku. Nejasno je koliko razgovora kompanija analizira takvim softverom – na upit javnog servisa „Bajerišer rundfunk“, kompanija nije htela to da prokomentariše.

Analiziranje emocija kupaca u realnom vremenu

Kol-centar kompanije „11880“, s druge strane, otvoreno navodi da koristi veštaku inteligenciju za prepoznavanje emocija. Klijenti „11880“ su recimo stambena udruženja, auto-kuće ili pružaoci usluga iznajmljivanja elektro-skutera. Kompanija za njih rešava žalbe kupaca.

Veštačka inteligencija pritom analizira melodiju glasa, intenzitet, ritam i zvuk – i to u realnom vremenu. Analizira se više od 6.000 glasovnih parametara kako bi se izračunale emocije, objašnjava Jern Hausman, menadžer u firmi „11880“. Softver prepoznaje osećanja kao što su bes, ljutnja, ali i ljubaznost.

Hausman naglašava da je veštačka inteligencija samo podrška agentima, da njenu upotrebu odobrava radnički savet firme, a proverava službenik zadužen za zaštitu podataka.

Tokom razgovora, agenti kol-centra vide smajlije na svom ekranu koji ukazuju na raspoloženje sagovornika. Jedan smajli pokazuje emocije sagovornika, a drugi agenta kol-centra – čije se emocije takođe kontinuirano prate i procenjuju. Cilj je da agenti ostanu ljubazni i da, u najboljem slučaju, kupci budu zadovoljniji. Takav pristup, naravno, nije bez kontroverzi.

„Pravno problematično“

U saopštenju kompanije pominje se evaluacija, odnosno da ona želi da „ispita i poboljša kvalitet usluga“. Profesorka prava Lena Rudkovski sa Univerziteta u Gisenu ocenjuje da je to „pravno problematično“, jer sagovornici ne znaju kako će razgovor biti ocenjen. A i prepoznavanje emocija je nešto „što kupac ne mora da očekuje“.

Sagovornici nisu informisani o emocijama koje procenjuje softver, potvrđuje menadžer firme „11880“ Hausman. Pristanak na procenu, kaže, nije potreban: „Ovde se ništa ne čuva i iz toga se ne izvode profili kupaca“, naglašava. To znači: čak i ako se klijenti protive da ih snimaju, emocije se procenjuju.

Ekspert Vede: Prepoznavanje emocija je nedopustivo

Profesor prava Peter Vede sa Univerziteta primenjenih nauka iz Frankfurta smatra da je analiza emocija u kol-centrima pravno nedopustiva. Poslodavcima je dozvoljeno da obrađuju samo one podatke svojih zaposlenih koji su apsolutno neophodni, kaže Vede. Analiza emocija omogućava „dalekosežne uvide u ličnost“. U najširem smislu, smatra Vede, radi se o zdravstvenim podacima, čija obrada podleže izuzetno strogim pravilima.

Za pravnicu Rudkovski sa Univerziteta u Gisenu, upitno je da li bi stalna analiza u realnom vremenu koju bi vođe timova mogli da vide mogla da rezultira potpunim praćenjem agenata kol-centra. Poslodavcima nije dozvoljeno da prate svoje zaposlene „kontinuirano tokom njihovog radnog vremena i stavljaju ih pod znatan psihološki pritisak“, naglašava Rudkovski.

Veštačka inteligencija na radnom mestu – nema jasnih pravila

U kol-centrima u Nemačkoj radi skoro 160.000 ljudi. Nejasno je koliko kol-centara koristi veštačku inteligenciju za analizu govora, odnosno emocija. Stručnjaci iz te industrije procenjuju da između deset i trideset odsto kol-centara u Nemačkoj procenjuje telefonske pozive pomoću veštačke inteligencije.

U Nemačkoj trenutno ne postoji zakonska regulativa o veštačkoj inteligenciji – uključujući i regulativu na radnom mestu. Nemačka vlada trenutno radi na novom zakonu o zaštiti podataka zaposlenih, koji će se odnositi na tu oblast, odgovorilo je Ministarstvo rada Nemačke na zahtev novinara „Bajerišer rundfunka“.

„Pseudonaučna“ veštačka inteligencija

Na nivou Evropske unije, predloženi Zakon o veštačkoj inteligenciji ima za cilj da fundamentalno reguliše upotrebu veštačke inteligencije u budućnosti. Evropski parlament je u junu velikom većinom glasova usvojio stav o nacrtu tog zakona. Stav parlamentaraca je da bi prepoznavanje emocija pomoću glasovne veštačke inteligencije trebalo zabraniti na radnom mestu, u obrazovanju i kod sprovođenje zakona.

Pored toga, Sergej Lagodinski, poslanik Zelenih u Evropskom parlamentu, ocenjuje da je upotreba veštačke inteligencije za prepoznavanje emocija „pseudonaučna“. On dodaje i da „svaka osoba ima pravo na unutrašnji život i da ne deli svoje emocije“.

Evropski supervizor za zaštitu podataka Vojcijek Vjeviorovski takođe ocenjuje da je upotreba veštačke inteligencije za prepoznavanje emocija „izuzetno nepoželjna“. Ipak, po njemu, njeno korišćenje u zdravstvene ili istraživačke svrhe trebalo bi da budu izuzeci.

Debata o zabrani

Pojedini poslanici iz konzervativne Evropske narodne partije (EPP) su uzdržaniji. Angelika Nibler iz bavarske CSU tako kaže da bi prepoznavanje emocija na radnom mestu nešto o čemu bi trebalo „pažljivo odmeriti mogućnosti i rizike“.

Evropska komisija, Savet EU i Evropski parlament trenutno još pregovaraju o konačnom tekstu Zakona o veštačkoj inteligenciji. Očekuje se da će pregovori biti završeni do kraja ove godine.