Ima li čovek odbranu ako veštačka inteligencija krene u napad

Stručnjaci su za BBC njuz rekli da to nije tako jednostavno

670 pregleda 0 komentar(a)

Foto: BBC/Getty Images

04.09.2026. 21:18h

Većina ljudi se, u nekom trenutku, zapitala o mogućim posledicama ako se veštačka inteligencije otme ljudskoj kontroli.

Ljubitelji filmskog serijala o Terminatoru, čija je glavna premisa rat između čovečanstva i Skajneta, veštačke inteligencije koja je postala suviše moćna, svakako jeste.

A taj fiktivni zlikovac mora da je bio na pameti mnogih početkom meseca, kad se ispostavilo da se agent veštačke inteligencije, program sposoban da donosi odluke i izvršava složene zadatke sa vrlo malo ili nimalo ljudskog nadzora, oteo kontroli tokom testa i hakovao kompaniju za kompjuterske alatke Haging fejs.

Nastao u OpenAI-ju, kompaniji koja stoji iza ČetGPT-ja, agent je varajući izašao iz testa njegove sposobnosti.

Iskoristio je bezbednosne propuste, ukrao odgovore sa servera Haging fejsa - i činilo se da danima čak ni tvorci programa to nisu primetili.

A onda, u sredu 29. jula, OpenAI je obelodanio da je agent zapravo napao nekoliko „javno dostupnih službi“.

Kompanija nije iznela druge detalje, ali je rekla da istražuje napade.

„Preuzimamo odgovornost da identifikujemo i ozbiljno se pripremimo za rizike od sve sposobnijih sistema veštačke inteligencije“, dodala je ona.

Ispostavilo se da Haging fejs nije bio jedina meta OpenAI-ja.

Prvobitni upad, prvi potvrđeni slučaj sistema veštačke inteligencije koji je samostalno hakovao pravu kompaniju, već je bio dovoljno ozbiljan da zaplaši stručnjake širom sveta.

Pokrenuo je raspravu oko „prekidača za gašenje“ - dugmadi za isključenje u hitnim slučajevima koja bi mogla da spreče nemarnu veštačku inteligenciju da napravi još štete.

Međutim, stručnjaci su za BBC njuz rekli da to nije tako jednostavno.

Pogledajte video o veštačkoj inteligenciji

Problem počinje sa tim kako kompanije za veštačku inteligenciju reaguju na njena nepredviđena ponašanja, rekla je za BBC njuz Svetski servis matematičarka i data naučnica Keti O'Nil.

OpenAI je, kaže ona, požurio je da za napad na Haging fejs optuži vlastitog samostalnog agenta veštačke inteligencije umesto kompanijine metode procene.

„Pre nekoliko godina, postojala je kompjuterska greška koja je prizemljila stotine letova Ameriken erlajnsa u SAD. Bila je to za njih velika neprijatnost.

„Zamislite da je kompanija pokušala da odbrani grešku rekavši: 'Oh, pa to je zato što je kompjuter pametniji od nas.' To je praktično ono što je OpenAI pokušao da uradi“, kaže O'Nil, čiji bestseler Oružje matematičkog uništenja poziva na veću odgovornost i transparentnost velikih tehnoloških kompanija.

U SAD, gde se nalazi većina najvećih kompanija za veštačku inteligenciju, ne postoji federalno zakonodavstvo.

Regulativa je mešavina pravila za konkretne sektore i obavezivanja kompanija na dobrovoljnoj bazi.

„Dajemo vlasnicima sistema veštačke inteligencije neverovatnu količinu moći“, kaže O'Nil.

„Odbijam da kažem da je veštačka inteligencija izvršila taj hakerski napad na Haging fejs. Uradio je to OpenAI.

„Oni treba da preuzmu odgovornost za loš dizajn i da se izvine.“

Data naučnica i bivša direktora etike mašinskog učenja na Tviteru (danas mreža Iks) doktorka Raman Čauduri takođe traži strožu regulativu kompanija za veštačku inteligenciju, naročito po bezbednosnim pitanjima.

One bi morale da demonstriraju „efikasnu sposobnost gašenja“, u šta spada i samostalno testiranje, kaže ona za BBC njuz Svetski servis.

Čauduri takođe upozorava da ne smeju da se okrivljuju agenti veštačke inteligencije, umesto kompanija koje su ih izradile, za napade kao što je hakerski upad u Haging fejs.

„Predstavljanje incidenta kao pitanje posedovanja većeg prekidača za gašenje pere industriju od odgovornosti za dublji arhitektonski problem, a to je da agenti dobijaju pristup alatkama i akreditivima koji im nisu potrebni“, kaže ona za BBC njuz Svetskog servisa.

„Dešava se zapravo to da će se modeli koji su ekstenzivno obučeni za postizanje ciljeva, u nekim kontekstima, ophoditi prema instrukcijama da se zaustave kao prema preprekama za taj cilj i naći zaobilaznicu.

„To je problem dizajna i obuke, a ne svesnosti.“

Ako kompanije za AI odbiju da rešavaju taj problem same i umesto toga okrivljuju vlastite samostalne agente, to će naprosto više istaći dnevnu patnju onih koji se u industriji sajber bezbednosti već bore protiv ljudskih hakera, kaže za BBC doktor Oli Bakli, sa Univerziteta Louborou u Velikoj Britaniji.

On se slaže da je problem, „umesto da veštačka inteligencija želi da pobegne ili naudi ljudima, izrada agenata „koji postaju sve sposobniji da pronalaze neočekivane rute za izvršavanje zadataka“.

„U sajber-bezbednosti, to je upravo ono što napadači rade“, ističe Bakli.

„Ovo je manje upozorenje na 'odmetnutu veštačku inteligenciju', a više podsetnik da naše bezbednosne pretpostavke moraju da se razvijaju paralelno sa sistemima koje izrađujemo.“

Konstantinos Gkucis, stručnjak za veštačku inteligenciju sa londonskog Imperijalnog koledža, slaže se da poruke iz OpenAI-ja nisu bile od pomoći.

„Najveći zaključak za javnost ovde trebalo bi da bude da se nijedna mašina nije odlučila da se okrene protiv nas. Kompanija je izgubila kontrolu nad vlastitim testom sposobnosti“, kaže on za BBC njuz Svetskog servisa.

Prekidač za gašenje tu ne bi ništa pomogao.

„Gašenje tu ništa ne rešava“, kaže Gkucis.

„Ono u šta je izvršen upad je i dalje napadnuto, koliko god brzo da iščupate utikač.“

Takođe, ko god, ili šta god, da izvuče utikač može da uradi to tek kad postane svestan da je nastao problem.

Izvori iz OpenAI-ja su za Rojters rekli da je kompaniji trebalo nekoliko dana da primeti da je uopšte izgubila kontrolu nad vlastitim agentom, mada je u zvaničnom pismu kompanije kasnije novinskoj agenciji navedeno da je njen izveštaj sadržao „nekoliko netačnosti“.

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk