OpenAI i hakerski incidenti - opomena ili reklamni trik

Ove nedelje je tehnološki svet potresla priča koja ima sve - i koja je započela kao pravi naučnofantastični triler.

Haging fejs (Hugging Face) - neka vrsta prodavnice aplikacija za alatke koje rade uz pomoć veštačke inteligencije - saopštio je 16. jula da ga je hakovao nepoznati sajber kriminalac služeći se izuzetno moćnom veštačkom inteligencijom.

Ova bombastična objava bila je puna zastrašujućih tehničkih izraza: „roj igrališta s peskom“, „agent napadač“ i „samo-migrirajuća komanda i kontrola“.

Haging fejs je saopštio da se hakerski napad razlikovao od bilo čega sa čim se susreo ranije zato što je izveden nadljudskom brzinom uz pomoć veštačke inteligencije koja je imala vrlo malo ili nimalo ljudskih smernica.

Tehnološki svet je ostao u šoku.

Ali ko je bio odgovoran za napad?

Istraživači iz Haging fejsa pretpostavili su da su misteriozni napadači koristili jedan od velikih modela veštačke inteligencije, ali nisu imali predstavu ko su zapravo kriminalci i gde bi mogli da se nalaze.

Zbunjena kompanija je kontaktirala policiju koja je istražila slučaj.

Ko je to uradio?

Komentatori i analitičari su se latili podkasta i naloga na društvenim mrežama da bi iznosili vlastite pretpostavke koja sajber grupa ili koji državni haker bi mogao da stoji iza svega.

A onda, u sredu, skoro nedelju dana nakon što je Haging fejs podigao uzbunu, raskrinkan je pravi počinilac.

Bio je to ČetGPT.

Razotkrivanje je postalo još bizarnije - i alarmantnije - zato što je OpenAI saopštio da je njegov bot sve uradio sam, bez ikakve dozvole.

Firma je rekla da se sve dogodilo tokom testiranja hakerskih sposobnosti njene tehnologije.

Nove verzije ČetGPT-a, dizajnirane da budu vrhunski hakeri, provalile su iz navodno bezbednog okruženja za testiranje i dobile pristup internetu.

Potom su napale Haging fejs da bi došle do informacija koje bi im pomogle da briljiraju na ispitu.

OpenAI je izdao saopštenje za medije objasnivši šta se desilo i rekao da se „udružio sa Haging fejsom“ kako bi razrešio ovaj bezbednosni incident i podelio naučene lekcije.

Zaverenički triler

U međuvremenu, povela se žučna rasprava oko incidenta.

Da li je to zaista bila opomena o budućnosti veštačke inteligencije?

Ili puki reklamni trik OpenAI-ja kako bi pokazao koliko su moćni njegovi modeli?

To je ona vrsta marketinškog zastrašivanja za koje se kompanije veštačke inteligencije već godinama optužuju i, od mnogo raspravlja u vezi Antropikovog modela Mitos, kontrola sajber bezbednosti dospela je u žižu rasprave.

Jedan od najprominentnijih komentara na objavu šefa OpenAI-ja Sema Altmana o incidentu najbolje sumira čitavu tu skepsu: „Ako svi vi ne shvatate da je ovo napisano samo da bi se razmetali vlastitim modelom, onda ne znam šta bih vam rekao.“

• Kako da veštačka inteligencija postane bezbednija: Nije lako kao što mislite
• Tri stadijuma veštačke inteligencije: Da li može da dovede do našeg izumiranja?

Konsultant za sajber-bezbednost Danijel Kard rekao je sarkastično na LinkedIn-u: „Nije li srećna okolnost da je od miliona internet stranica koje su hakovane, OpenAI uspeo da hakuje nekog kome bi zapravo mogla da bude od koristi marketinška pažnja...“

Za neke, priča je više iz domena teorija zavere nego naučnofantastičnog trilera.

Poruka je: „Nisu li moje alatke veštačke inteligencije stvarno moćne? Kupite ih da biste mogli da se zaštitite od tuđih napada veštačke inteligencije.“

Ne možemo da znamo istinu, ali suprotstavljeno viđenje drugih komentatora jednako je dramatično.

Da li je ovo znak da je OpenAI počinio potencijalno opasnu grešku u rasuđivanju i planiranju?

„Priznajemo da kruži mnogo pitanja i spekulacija“ o ovom incidentu, rekao je portparol OpenAI-ja.

Dodao je: „Planiramo da u predstojećim nedeljama objavimo tehnički izveštaj o svemu što smo saznali“.

Komedija zabune

Izveštavao sam o mnogim segmentima veštačke inteligencije, među njima i o strahovima u vezi sa Antropikovim modelom Mitos.

Moj inboks sada je pun kompanija za sajber-bezbednost i stručnjaka koji kritikuju OpenAI zato što nije osigurao bolje obezbeđen prostor za testiranje veštačke inteligencije, koji zovu i sandbox.

Na kraju krajeva, ovi agenti veštačke inteligencije su obučeni konkretno da upadnu na neko mesto ili se probiju iz njega bez ikakvih ograničenja.

„Incident u kom su učestvovali OpenAI i Haging fejs primer je šireg pitanja iz stvarnog sveta na koje ukazujemo već mesecima“, kaže Dor Sarig iz Pilar sekjuritija.

„'Bezbedna' okruženja za testiranje sama za sebe nisu dovoljna sigurnosna granica za agente veštačke inteligencije.“

Pogledajte šta je veštačka inteligencija

Profesor za sajber bezbednost Alan Vudvord sa Univerziteta u Sariju rekao je novinarima da je OpenAI „ispao glup u društvu“, dok je Kejti Musoris iz Luta sekjuritija otišla još dalje, sugerišući da industrija veštačke inteligencije ne uspeva da kontroliše vlastite opasne izume.

„Radimo na najsavremenijoj tehnologiji bez znanja o tome kako da je zauzdamo“, kaže ona.

„Samo zato što smo dali najpametnijim ljudima da razvijaju veštačku inteligenciju, ne znači da posedujemo sposobnost da to radimo na bezbedan način.“

Prema ovim stavovima, ako je hakerski incident reklamni trik, onda izgleda kao da im se obio o glavu.

Šta god da je dovelo do hakerskog incidenta, očigledno je da je ovo važan trenutak za industriju veštačke inteligencije i svet sajber bezbednosti, koji su se sudarili ove godine na način od kog ljudi već dugo strahuju.

Osvrnuvši se na ovu žučnu raspravu, savetnica za veštačku inteligenciju i sajber bezbednost Frančeska Bosko je rekla:

„Dva simplifikovana narativa jednako nisu od pomoći: da je ovo bilo bekstvo holivudskog tipa ili da je to bila samo vežba iz sticanja publiciteta.

„Ozbiljnije tumačenje je da je ovaj test razotkrio slabosti u arhitekturi zauzdavanja i procene.“

Film katastrofe

Ovaj događaj je samo najnoviji u čitavom nizu zabrinjavajućih i uvrnutih primera kako se agenti veštačke inteligencije otimaju kontroli.

U skorašnjem istraživanju, britanski Institut za bezbednost veštačke inteligencije (AISI) otkrio je da su napredni modeli veštačke inteligencije toliko fiksirani na izvršavanje zadataka koje dobiju da „varaju“ na testovima da bi postigli zadate ciljeve.

Istraživanje AISI-ja stiglo je sa zabrinjavajućim upozorenjem: „Model koji ostvaruje cilj preko nenamernog ili neodobrenog sredstva može da nanese ozbiljnu štetu, naročito u slučajevima upotrebe sa visokim ulozima.“

Neizbežno, ovaj hakerski upad OpenAI-ja dodatno je raspirio strahove od onoga što bi moglo da se desi ako agenti veštačke inteligencije budu pušteni s lanca.

Da li oni mogu da se odmetnu na višem nivou i izazovu neku vrstu katastrofe?

Ovo posebno zabrinjava zbog toga što se veštačka inteligencija sve više koristi u ratovanju kao što može da se vidi u Iranu i Ukrajini.

Sijaran Martin, bivši šef britanskog Centra za nacionalnu sajber bezbednost, ponudio je nešto smireniji stav.

„Pomalo je prevelik korak stići od ovog incidenta do toga da će agenti veštačke inteligencije preuzeti dronove i početi da ubijaju ljude“, kaže on.

Ali za Martina, kao i za mnoge druge, priča je nesumnjivo još jedan živopisni primer nečega čemu nas 2026. godine ubrzano uči:

Agenti veštačke inteligencije su sada veoma dobri hakeri - i to je nešto za šta moramo da se pripremimo, i to pod hitno.

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

• 'Maskov četbot Grok me je ubedio da pun kombi ljudi dolazi da me ubije'
• Veštačka inteligencija dorađuje fotografije i menja doživljaj stvarnosti
• 'Hakovao sam ChatGPT za samo 20 minuta'
• TikTok vas prati, čak i ako ne koristite aplikaciju - kako da ga sprečite