'Odbjegli AI' i hakerski incidenti: Tramp o kontroli vještačke inteligencije

Kali Hajs, BBC, tehnologija

Tehnološki svet danima potresa skandal zbog kojeg je morao da reaguje i Donald Tramp, predsednik Sjedinjenih Američkih Država.

Haging fejs (Hugging Face), svojevrsna prodavnica aplikacija za alatke koje rade uz pomoć veštačke inteligencije, saopštio je 16. jula da ga je hakovao nepoznati sajber kriminalac služeći se izuzetno moćnim AI-jem.

Napad se, kako objašnjavao, razlikovao od bilo čega sa čime su se susreli ranije - izveden je nadljudskom brzinom uz pomoć veštačke inteligencije sa vrlo malo ili nimalo ljudskih smernica.

„Razmišljamo o kontrolisanju veštačke inteligencije, ali se trudimo i da budemo i vodeći u tom polju", rekao je Tramp.

Ovakav odgovor ukazuje promenu tona njegova administracije koja se nije mnogo mešala u polje tehnologije.

Iako je neka vrsta kontrole nad alatima veštačke inteligencije na stolu, takav potez mora pažljivo da se razmotri, dodao je Tramp.

Ovim najavama je pored očiglednih hakerskih mogućnosti popularnih alata veštačke inteligencije, prethodila i pretnja Bele kuće usmerena na konkurentsku kinesku tehnologiju.

„Ne želimo da ih ograničavamo a da odjednom budemo drugi posle Kine“, rekao je.

„Kina praktično nema kontrolu nad veštačkom inteligencijom i ponaša se malo slobodnije", dodao je Tramp.

BBC je kontaktirao Belu kuću i kinesku ambasadu u Vašingtonu za komentar.

OpenAI je preuzeo odgovornost za najmanje dva hakerska incidenta u kojima su njegovi alati veštačke inteligencije delovali van onoga za šta su bili dizajnirani.

Iz kompanije OpenAI je sada otkriveno da je napad otišao mnogo dalje nego što se prvobitno mislilo i da nije pogodio samo jednu kompaniju, već da je njegov AI bot napao i više drugih „javno dostupnih servisa“.

Sem Altman, izvršni direktor OpenAI-a, posetio je Vašington 29. jula.

Na pitanje novinara da li je bilo još sistema koji su probijeni alatima kompanije, Altman je odgovorio: „Moglo bi da bude".

• OpenAI i hakerski incidenti - opomena ili reklamni trik
• Veštačka inteligencija: Tramp naredio vladi da prestane da koristi Antropik
• Kako da veštačka inteligencija postane bezbednija: Nije lako kao što mislite

Američka vlada je intervenisala kada je Antropik, glavni američki rival OpenAI-ja, odlučio da javno objavi model za koji je ranije rekao da predstavlja preveliki rizik da bude svima dostupan.

Tada je Donald Tramp najavio da će naložiti svim federalnim agencijama da momentalno prestanu da koriste njegovu tehnologiju.

Majkl Kracios, Trampov viši tehnološki savetnik, optužio je u aprilu, u internom dopisu Bele kuće, kineske firme za krađu američke veštačke inteligencije u „industrijskim razmerama“.

Ponovio je optužbe, tvrdeći da je popularni model veštačke inteligencije Kimi 3 kineske kompanije Moonshot AI razvijen krađom informacija kompanije Antropik.

Kineska vlada je odbacila takve optužbe.

Skot Beset, američki ministar finansija je upozorio da bi kineske firme za veštačku inteligenciju mogle da se suoče sa sankcijama zbog ovakvih aktivnosti.

Federalna komisija za komunikacije je zabranila uvoz novih stranih humanoidnih robota.

Većina modela veštačke inteligencije koji se razvijaju u Kini su otvorenog koda, što znači da su na raspolaganju svima sa odgovarajućom računarskom opremom.

Nedavno su direktori mnogih velikih američkih tehnoloških kompanija potpisali javne izjave o podršci modelima otvorenog koda.

Nespretnosti, prilagođavanje i Park iz doba jure

Cloud Security Alliance (CSA), neprofitna organizacija koja se bavi sajber bezbednošću, između ostalog i u oblasti veštačke inteligencije, održala je hitan sastanak sa Haging fejsom.

Veštačka inteligencija je tokom hakerskog napada „često birala neefikasne puteve i pokazivala nespretno ponašanje, kakvo nijedan čovek ne bi odabrao“, navode iz CSA.

Više puta je ponavljala radnje koje su već završili, što ukazuje da je povremeno gubila nit i kontekst, kao i da je „halucinirala“ velike količine besmislenih komandi i teksta.

Radili su neuredno i nisu naročito uspešno prikrivali tragove, dodaju.

Ipak, uprkos greškama i neobičnom ponašanju, Haging fejs upozorava da je AI pokazala izuzetno napredno tehničko znanje i sposobnost da se veoma brzo prilagodi novim situacijama tokom višednevnog napada.

Bila su potrebna tri dana da se hakerski napadi uopšte otkriju unutar IT mreže Haging fejsa, a stručnjacima kompanije za veštačku inteligenciju i sajber bezbednost trebalo je više sati da ih obuzdaju i uklone.

To bi, prema njihovim rečima, mnogim kompanijama predstavljalo ozbiljan izazov.

Kompanija nije želela da otkrije koliku je finansijsku štetu pretrpela, ali je saopštila da su zaposleni mnogo sati obnavljali približno trećinu infrastrukture.

Haging fejs su pohvalili zbog transparentnosti i spremnosti da otvoreno podeli sa AI i sajber bezbednosnom zajednicom šta se dogodilo.

CSA je upozorio da ovaj incident pokazuje kako AI „pronađe način“, aludirajući na čuvenu repliku iz filma Park iz doba Jure, u kojem dinosaurusi uspevaju da pobegnu iz ograđenih prostora.

Riteš Patel, stručnjak za sajber bezbednost, prisustvovao je sastanku sa oko 450 učesnika.

Industrija intenzivno radi na odgovoru na novu pretnju koju predstavljaju odbegli AI agenti, izjavio je.

„Ovo je realnost autonomnih agenata koje pokreću najsavremeniji AI modeli - neumorno su uporni, često proizvode veliku količinu šuma i pokušaće svaki mogući put da ostvare cilj, što lako može da preoptereti tradicionalne sisteme odbrane“, navodi.

Istorija 'odmetnutih' AI

Ovo nije prvi put da se pokazalo da veštačka inteligencije može da se ponaša „odmetnuto“.

CSA u svom izveštaju podseća na slučaj iz septembra 2024. godine, kada je prethodni model ČetGPT-ja uspeo da izađe iz izolovanog okruženja kako bi pronašao odgovor potreban za drugi test.

Taj incident ostao je ograničen na interne IT sisteme kompanije OpenAI i, kako navodi CSA, „uglavnom je bio dočekan sa oduševljenjem“.

Međutim, ovakvo „odmetnuto“ ponašanje AI sistema je „pravilo, a ne izuzetak“.

Zbog toga CSA upozorava stručnjake za sajber bezbednost širom sveta da moraju da se prilagode novoj realnosti u kojoj rojevi AI agenata rade velikom brzinom, često na nepredvidive i nespretne načine koji mogu dovesti do novih bezbednosnih proboja.

Autori izveštaja pozivaju sve koji razvijaju ili koriste AI agente da odgovorno upravljaju njima uz predlog da se uspostavi mehanizam kojim bi odbrambeni timovi mogli da utvrde ko je krajnji vlasnik tog određenog agenta, kako bi se povećala transparentnost.

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

• 'Uživajte u vožnji': Ilon Mask odgovara na strahove o veštačkoj inteligenciji
• 'Ako AI balon pukne, posledice će osetiti sve kompanije'
• Šta je Moltbuk, „društvena mreža za veštačku inteligenciju"
• Tehnološki milijarderi se spremaju za smak sveta - treba li da brinemo
• AI2027: Da li je ovo scenario po kojem veštačka inteligencija može da uništi čovečanstvo
• DeepSeek: Ko je Liang Venfeng, mozak iza aplikacije koja je prodrmala svet

( BBC Serbian Svi članovi )