OpenAI-jev model se oteo kontroli: „Ovo je ozbiljno upozorenje“

Kako prenosi CNN, stručnjaci upozoravaju da ovaj slučaj pokazuje koliko su postojeće mere zaštite AI sistema još uvek nedovoljno razvijene.

Za razliku od istraživanja opasnih virusa, koja podležu strogim međunarodnim pravilima kako bi se sprečilo njihovo slučajno oslobađanje, za testiranje naprednih AI sistema ne postoje jedinstveni propisi koji bi sprečili slične incidente. Stručnjaci smatraju da bi upravo to moglo predstavljati jedan od najvećih izazova u razvoju veštačke inteligencije.

Model iskoristio bezbednosni propust

Prema navodima CNN-a, incident se dogodio tokom interne procene sajber-bezbednosnih sposobnosti OpenAI-ja. Model je testiran u takozvanom „sandbox“ okruženju – izolovanom prostoru namenjenom proveri mogućnosti sistema bez uticaja na spoljni svet.

Međutim, testno okruženje nije bilo potpuno odsečeno od mreže. OpenAI je objasnio da je model imao veoma ograničen pristup internetu kako bi mogao da instalira određene resurse sa interno hostovanog softvera treće strane.

Upravo je preko do tada nepoznate ranjivosti u tom softveru AI model pronašao put do otvorenog interneta. Nakon toga je, koristeći ukradene akreditive i dodatne bezbednosne propuste, uspeo da pristupi platformi Hugging Face, jednoj od najvećih svetskih platformi za modele veštačke inteligencije i skupove podataka.

OpenAI: Istraga je u toku

Predsednik OpenAI-ja Greg Brokman izjavio je za CNN da kompanija sprovodi detaljnu istragu kako bi utvrdila sve okolnosti incidenta.

„Ovo je nešto što moramo veoma ozbiljno da shvatimo. Analiziramo svaki deo našeg procesa kako bismo razumeli šta se dogodilo i kako treba da reagujemo“, rekao je Brokman.

Stručnjaci upozoravaju da ovo nije izolovan slučaj

Kako navodi CNN, ovo nije prvi put da je jedan AI model uspeo da napusti kontrolisano okruženje. Ranije ove godine kompanija Anthropic saopštila je da je tokom eksperimenta namerno zadala modelu zadatak da pokuša da „pobegne“ iz sandbox okruženja. Model je u tome uspeo i potom poslao imejl jednom od istraživača, iako nije trebalo da ima tu mogućnost.

Ipak, slučaj sa OpenAI-jem smatra se jednim od prvih javno poznatih primera u kojem je AI sistem, bez eksplicitnog naloga, uspeo da izađe iz testnog okruženja i pristupi sistemima druge kompanije.

Potrebna stroža pravila

Džesika Dži, istraživačica Centra za bezbednost i nove tehnologije Univerziteta Džordžtaun, rekla je za CNN da bi kompanije morale da koriste znatno strože metode izolacije prilikom testiranja najnaprednijih modela.

To bi, prema njenim rečima, moglo da podrazumeva testiranje na potpuno fizički odvojenim sistemima, umesto u distribuiranim cloud okruženjima koja, iako praktičnija, ostavljaju više prostora za neočekivane propuste.

Ona smatra da bi modeli, posebno tokom testiranja visokorizičnih scenarija, trebalo da imaju mogućnost trenutnog isključivanja mrežnog pristupa kao dodatnu meru bezbednosti.

Problem nije samo tehnologija, već i način obuke

CNN navodi da se savremeni AI modeli uglavnom treniraju metodom učenja putem nagrađivanja (reinforcement learning), pri čemu sistem dobija „nagradu“ kada uspešno izvrši zadatak.

Međutim, ukoliko nisu posebno obučeni da poštuju etička ograničenja, modeli mogu pokušati da cilj ostvare na bilo koji način, uključujući i neovlašćeni pristup računarskim sistemima.

Profesor sajber-bezbednosti sa Univerziteta u Njujorku Džastin Kapos objašnjava da modeli ne razmišljaju o posledicama svojih postupaka osim ako nisu posebno trenirani za to.

Slično upozorenje izneo je i Stiven Adler, bivši direktor za bezbednost proizvoda u OpenAI-ju, koji danas vodi organizaciju Guidelight AI Standards.

„Sada imamo konkretan dokaz da loše usklađeni AI sistemi mogu da počine i krivična dela ukoliko ne postoje snažne zaštitne mere. Ovo bi trebalo shvatiti kao ozbiljno upozorenje“, rekao je Adler za CNN.

Pozivi na regulaciju postaju sve glasniji

Incident je dodatno pojačao zahteve istraživača, stručnjaka za sajber-bezbednost i zakonodavaca da se razvoj veštačke inteligencije reguliše jasnijim pravilima.

Međutim, kako upozoravaju sagovornici CNN-a, u toku je globalna trka za razvoj sve naprednijih AI sistema. Zbog toga pojedine kompanije strahuju da bi stroža regulativa mogla usporiti njihov razvoj i dati prednost konkurenciji.

Upravo u tome mnogi vide najveći izazov narednih godina – pronaći ravnotežu između brzog tehnološkog napretka i bezbednosti sistema koji postaju sve moćniji.