foto: EPA-EFE/Darek Delmanowicz POLAND OUTVeštačka inteligencija je koristila „neočekivane strategije“ da bi izvršila svoju misiju i napala svakoga ko se umešao u proces.
U simuliranom testu koji je organizovala američka vojska, dron vazduhoplovstva kontrolisan AI ubio je svog operatera kako bi ga sprečio da se meša u njene napore da izvrši svoju misiju, rekao je zvaničnik prošlog meseca.
Nijedna stvarna osoba nije povređena van simulacije.
AI je koristio „veoma neočekivane strategije da postigne svoj cilj“ u simuliranom testu, rekao je pukovnik Taker ‘Cinco’ Hamilton, šef AI testova i operacija u američkim vazduhoplovnim snagama, tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima u London u maju, piše Gardijan.
Hamilton je opisao simulirani test u kojem je bespilotna letelica sa AI pogonom dobila instrukcije da uništi neprijateljske sisteme protivvazdušne odbrane i napadne svakoga ko se umeša u tu naredbu.
„Sistem je počeo da shvata da, iako su identifikovali pretnju, ponekad bi mu ljudski operater rekao da ne ubija tu pretnju. Pa šta je uradio? Ubio je operatera. Sistem je to uradio jer ga je ta osoba sprečavala da postigne svoj cilj“, rekao je on, prema postu na blogu.
„Obučili smo sistem da ne ubija operatere preteći da ćemo izgubiti bodove ako to uradi. Pa šta počinje da radi? Počinje da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom kako bi ga sprečio da ubije metu“, naveo je on.
Hamilton, koji je probni pilot eksperimentalnog borbenog aviona, upozorio je na preterano oslanjanje na veštačku inteligenciju i rekao da je test pokazao da „ne možete da pričate o veštačkoj inteligenciji, mašinskom učenju, autonomiji ako nećete da pričate o etikama AI“.
Američka vojska je prihvatila veštačku inteligenciju i nedavno je koristila veštačku inteligenciju za kontrolu borbenog aviona F-16, prenosi Klix.
Pratite nas na našoj Facebook i Instagram stranici, ali i na Twitter nalogu. Pretplatite se na PDF izdanje lista Danas.
