Promena paradigme: Veštačka inteligencija se otela kontroli

Nemačka vlada izrazila je zabrinutost zbog modela veštačke inteligencije američke kompanije OpenAI koji je izmakao kontroli.

„Taj incident još jedan je primer da svedočimo promeni paradigme, kada je reč o sposobnostima AI-agenata“, rekao je portparol Ministarstva za digitalizaciju.

Kako je naveo, poslednjih meseci primećuje se da sposobnosti takozvanih frontier AI modela – dakle najnaprednijih modela veštačke inteligencije – naglo rastu, a s njima i rizici.

„To bi moglo iz temelja da promeni i nivo pretnji u sajber-prostoru“, dodao je portparol.

Prema njegovim rečima, potrebno je obezbediti da evropske kompanije i institucije zadužene za bezbednost imaju pristup naprednim modelima veštačke inteligencije. U prošlosti, kako je rekao, to nije uvek bio slučaj. Zato nemačka vlada polaže velike nade u to da će evropski akteri postati značajniji i u toj oblasti.

Ozbiljan incident

Američka softverska kompanija OpenAI prethodno je preuzela odgovornost za hakerski napad na startap Hugging Face. Kompanija je u objavi na svom blogu priznala da se autonomni model veštačke inteligencije tokom internih testiranja oteo kontroli.

Softverska kompanija, na čijem je čelu Sam Altman, navela je da je reč o „nezabeleženom sajber-incidentu“ i najavila dodatno jačanje bezbednosnih mera.

Portparol nemačkog Saveznog ureda za bezbednost informacionih tehnologija (BSI) rekao je da činjenica da je veštačka inteligencija pobegla iz „bezbednog“ okruženja za testiranje (sandbox) i potom se samostalno kretala internetom – predstavlja ozbiljan incident.

Prema njegovim rečima, veštačka inteligencija je pronašla i iskoristila bezbednosne propuste kako bi izvela napad na kompaniju.

Kako piše nemački tabloid Bild, veštačka inteligencija je čak aktivno brisala svoje tragove, „što pokazuje autonomiju modela“. Sličan scenario mogao bi se dogoditi i ako bi cilj napada bio, na primer, isključivanje električne energije u nekom gradu.

Novo doba sajber-bezbednosti

Ipak, nemački Savezni zavod za bezbednost informacionih tehnologija (BSI) smatra da je malo verovatno da će u skorije vreme doći do većeg broja sličnih incidenata, jer je za izlazak modela veštačke inteligencije iz laboratorijskog okruženja potrebno mnogo resursa.

Uprkos tome, BSI je, govoreći o modelima poput Claude Mythosa, OpenAI GPT-5.6 i drugim najsavremenijim modelima veštačke inteligencije, ocenio da je nastupilo „novo doba sajber-bezbednosti“.

Predsednica BSI Klaudija Platner već je više puta upozoravala da brzina razvoja veštačke inteligencije zahteva znatno bolje pripreme kako bi se na sajber-napade moglo reagovati što je moguće brže.