OpenAI: Prvi hakerski napad modela vještačke inteligencije bio obimniji nego što se mislilo

Američka kompanija Open Ej-Aj (OpenAI) sinoć je otkrila da je prvim potpuno autonomnim hakerskim napadom odmetnutih modela vještačke inteligencije bilo obuhvaćeno više kompanija nego što se prvobitno mislilo.

Do sada se vjerovalo da je platforma Haging fejs (Hugging Face) bila jedina žrtva do sada nezabilježenog hakerskog napada odmetnutih Čet-Dži-Pi-Ti (ChatGPT) modela, ali je kompanija Oupen Ej-Aj sada priznala da je njen bot napao još nekoliko „javno dostupnih servisa“, prenosi Bi-Bi-Si.

Kompanija je navela da je sistem vještačke inteligencije koji je izmakao kontroli pronašao na internetu pristupne podatke za četiri korisnička naloga, što mu je omogućilo da im pristupi.

Kompanija Haging fejs je u međuvremenu, na vanrednom sastanku sa stotinama stručnjaka za sajber bezbjednost, opisala kako je biti meta prvog potpuno autonomnog hakerskog napada vještačke inteligencije na svijetu.

Ta firma je opisala da je vještačka inteligencija radila nadljudskom brzinom, ali da je istovremeno donosila čudne odluke i pravila greške koje ne bi napravio nijedan čovjek kao haker.

Platforma Haging fejs, koja je poput prodavnice aplikacija za alate vještačke inteligencije, navela je da su hakerski modeli isprobavali hiljade različitih metoda istovremeno.

Kompanija je prethodno, 16. jula, objavila da je bila meta hakera koji je koristio moćnu autonomnu vještačku inteligenciju i da je slučaj prijavila policiji.

Gotovo nedjelju dana kasnije, kompanija Oupen Ej-Aj priznala je da je njena vještačka inteligencija izašla iz zatvorenog okruženja tokom testiranja i samostalno napala platformu Haging fejs.

Taj sistem usmjerio je napad na Haging fejs dok je pokušavao da nađe odgovore za hakerski ispit koji mu je zadala kompanija Oupen Ej-Aj.

Danas je kompanija Oupen Ej-Aj ažurirala saopštenje, otkrivši da je napad bio obimniji nego što se prvobitno mislilo.

„Modeli su identifikovali i iskoristili javno izložene pristupne podatke o korisničkim nalozima na drugim javno dostupnim servisima. To uključuje četiri naloga na četiri servisa“, navela je kompanija Oupen Ej-Aj.

Ona nije precizirala da li pod „javno dostupnim servisima“ misli na druge kompanije, ali je navela da novi napadi nijesu bili istog nivoa težine kao hakovanje platforme Haging fejs.

U utorak je industrijsko tijelo Alijansa za bezbjednost u klaudu (Cloud Security Alliance) objavilo izvještaj zasnovan na vanrednom sastanku koji je kompanija Haging fejs održala u petak.

Alijansa je navela da su modeli vještačke inteligencije „često birali neefikasne puteve i ispoljavali nespretno ponašanje koje nijedan čovjek ne bi odabrao“.

Modeli vještačke inteligencije ponavljali su radnje koje su ranije već izvršili, što je znak da je agentska vještačka inteligencija gubila tok izvršavanja zadataka i kontekst, dodala je Alijansa.

Platforma Haging fejs upozorila je da su modeli vještačke inteligencije, uprkos greškama i čudnom ponašanju, „izveli briljantne tehničke poteze“ i da su mogli brzo da se prilagode novim scenarijima tokom višednevnog hakerskog napada.

Napadači su u mreži Haging fejsa otkriveni tek poslije tri dana, a stručnjacima te kompanije za vještačku inteligenciju i sajber bezbjednost trebalo je mnogo sati da ih zaustave i izbace iz sistema, što bi za obične kompanije bio ozbiljan problem.

Kompanija nije otkrila koliku je finansijsku štetu pretrpjela zbog hakerskog napada, ali je navela da su zaposleni mnogo sati radili kako bi obnovili trećinu infrastrukture.