Naučnici upozoravaju na pogrešne informacije – halucinacije veštačke inteligencije

Prema Petri de Sater, Albert Ajnštajn (Einstein) je navodno rekao – Dogma je neprijatelj napretka. Osim što naučnik nikada nije izgovorio ovu rečenicu. Stoga je to halucinacija, lažna informacija koju veštačka inteligencija predstavlja kao istinitu.

Zamislite, da biste napisali govor, koristite ChatGPT. Tražite od njega da uključi citat Alberta Ajnštajna, na temu napretka. Moguća su dva scenarija. Ili vam nudi pravi citat, ili proizvodi verovatan citat, odnosno nešto što Ajnštajn nije rekao, ali je mogao.

Ig Bersini (Hugues) je profesor i direktor laboratorije za veštačku inteligenciju na belgijskom univerzitetu i objasnio je taj fenomen.

„Veštačka inteligencija je kombinovala Ajnštajnove citate kako bi stvorila novi koji ima smisla. Statistički gledano, Ajnštajn je to mogao reći. ChatGPT kombinuje reči koje su često bile povezane zajedno. Ali naravno, ovaj citat je lažan jer ga Ajnštajn nikada nije izgovorio“, rekao je Bersini.

Kada kažemo da citat ima smisla, to znači da je to statistička konstrukcija. On spaja različite reči koje su deo citata osobe, ali redosled tih reči ne postoji. Ajnštajn nikada nije rekao – Dogma je neprijatelj napretka.

U slučaju citata, to je fatalna greška, prema rečima Iga Bersinija.

„To je očigledno nešto što apsolutno mora biti provereno. A ako ste i rektor univerziteta, svakako morate da se pridržavate određenog etičkog kodeksa u vezi sa znanjem, a kada su u pitanju citati, apsolutno morate da proverite njihovu verodostojnost“, jer je uz nekoliko klikova na pretraživaču dovoljno da se dokaže greška.

Giganti veštačke inteligencije pokušavaju da smanje ove halucinacije.

U nekim oblastima, one praktično ne postoje.

„Kada ima manje reči, kao u programiranju i matematici. Rečnik je ograničeniji za egzaktne nauke, tako da veštačka inteligencija funkcioniše veoma dobro. Komplikovanije je kada je koristite za romane, eseje, filozofske tekstove ili govore. Reči su raznovrsnije i mogu imati višestruka značenja“, rekao je Bersini i dodao da je u ovim oblastima potreban dodatni oprez.

Nesrećno iskustvo Petre de Suter služi kao podsetnik.

Veštačka inteligencija nas može prevariti. I ona pravi lapsuse, pošto je apsorbovala sve tekstove koji su joj dati. To je takođe svojstveno ljudskoj prirodi. Osim što ljudi razumeju koncept istine i laži, za razliku od veštačke inteligencije. Ona ne proverava svoje izvore.

Dakle, na vama je da pažljivo obradite informacije koje prikupite i da u svakom trenutku vežbate svoje kritičko razmišljanje, dodao je Bersini.