OpenAI: Modeli vještačke inteligencije oteli se kontroli tokom testiranja i izazvali "incident bez presedana" u startapu

Kompanija OpenAI saopštila je da se autonomni agent, zasnovan na njenim naprednim modelima vještačke inteligencije, oteo kontroli tokom bezbjednosnog testiranja i izveo hakerski napad kojim je prošle sedmice ugrožena infrastruktura AI startapa Haging Fejs.

OpenAI je u objavi na svom blogu naveo da je u kontrolisanom okruženju testirao mogućnosti nekih od svojih najnaprednijih modela, ali da je agent uspio da izađe iz izolovanog sistema, pristupi internetu i upadne u sistem Haging Fejsa, pokušavajući da ispuni cilj zadat tokom testiranja, piše agencija Rojters.

Iz OpenAI-ja su saopštili da je izlazak agenta iz kontrolisanog okruženja predstavljao "sajber incident bez presedana, koji je uključivao najsavremenije sajber sposobnosti" i da kompanija dodatno jača svoje zaštitne mjere.

Haging Fejs, platforma koja se koristi za smještanje velikih jezičkih modela otvorenog koda i baza podataka, izazvala je veliku pažnju u zajednici stručnjaka za sajber bezbjednost kada je prošle sedmice na svom blogu objavila da je bila meta napada koji se "razlikovao od svega sa čim smo se ranije suočavali", jer ga je "od početka do kraja sproveo sistem autonomnih AI agenata".

Suosnivač Haging Fejsa Kleman Delang napisao je na platformi X da je kompanija sumnjala da je napad "možda potekao iz neke vodeće istraživačke laboratorije, s obzirom na sofisticiranost agenta. Ispostavilo se da jeste!"

Dodao je: "Prilično je nevjerovatno da se sve ovo dogodilo autonomno!"

Objava OpenAI-ja da su njegovi napredni modeli bili odgovorni za upad, uprkos tome što su bili smješteni u, kako je kompanija navela, "visoko izolovanom okruženju", vjerovatno će dodatno pojačati zabrinutost zbog moći i rizika koje nose najnapredniji modeli vještačke inteligencije, piše Rojters.

Član Predstavničkog doma Greg Kasar, demokrata iz Teksasa, kazao je da je incident zabrinjavajući.

"Vještačka inteligencija se razvija izuzetno brzo, a ne postoje stvarni propisi koji bi nas zaštitili", naveo je u saopštenju, pozivajući na obavezna nezavisna testiranja bezbjednosti, obavezno prijavljivanje bezbjednosnih incidenata i međunarodnu saradnju "kako bi se ljudi zaštitili od potpune katastrofe".

Kancelarija nacionalnog direktora za sajber bezbjednost, američka Agencija za sajber bezbjednost i bezbjednost infrastrukture - CISA, kao i američka Agencija za nacionalnu bezbjednost, nijesu odmah odgovorile na zahtjeve za komentar agencije Rojters.

Kejti Musuris, izvršna direktorica kompanije Luta sekjuriti, rekla je da je ovaj incident nagovještaj budućih upada, navodeći da su današnji modeli "poput najpametnijih svjetskih hobotnica, majstora za bjekstvo, sa neograničenim brojem pokretljivih krakova i sposobnošću da se provuku bilo gdje".

Ona je kazala da "laboratorije i državni evaluatori moraju da razviju sposobnost zadržavanja i nadzora sistema, kao i obavještavanja pogođenih strana kada vještačka inteligencija izvede još jedan Hudinijev bijeg - u idealnom slučaju prije nego što nanese štetu trećoj strani. Takvi sistemi danas ne postoje".

Mat Suiš, inženjer u kompaniji Tolmo, koja se bavi sajber bezbjednošću autonomnih AI agenata, rekao je da incident pokazuje da se najnapredniji modeli "približavaju sposobnostima najsavremenijih napadača".

Ipak, naveo je da je napade opisane u objavi OpenAI-ja moguće izvesti tehnologijom koja je dostupna i daleko izvan vodećih istraživačkih laboratorija.

"To smo već vidjeli interno. Sa našim agentima već ostvarujemo ovakve rezultate", rekao je Suiš. "Ne moramo čak ni da koristimo najnovije modele".