Naučnici ponovo upozoravaju na vještačku inteligenciju

Ne, takav scenario nije potpuno nov: još 1991. godine u bioskope je stigao holivudski film koji već u uvodnoj sekvenci prikazuje izrazito mračnu sliku: „Terminator 2“. Film počinje u dalekoj budućnosti razorenoj ratom. Roboti ubice i letjelice tamo love posljednje ljude koji se još bore za opstanak. Tim mašinama upravlja vojna vještačka inteligencija koja je izmakla kontroli, nazvana „Skajnet“. „Daleka budućnost“ u kojoj se odvija ta distopijska vizija jeste 2029. godina.

Poziv na regulisanje

Ako je vjerovati upozorenjima nekolicine programera vještačke inteligencije, sličan scenario mogao bi da se ostvari – čak i u roku koji je odredila filmska umjetnost. „Oni koji razvijaju vještačku inteligenciju ozbiljno vjeruju da bi ona mogla da nas sve uništi do kraja decenije“, objavio je istraživač vještačke inteligencije Džejkob Koksan ove nedjelje na Iksu. Kako bi se to tačno moglo dogoditi, nije rekao. Ipak: „Nijedna druga ljudska djelatnost ne nosi takav potencijal opasnosti.“

Koksan je do tada bio zaposlen u Antropiku, američkoj kompaniji za vještačku inteligenciju koju, između ostalih, finansiraju Gugl i Amazon. U znak protesta zbog, po njegovom mišljenju, neodgovorne trke kompanija koje se bave vještačkom inteligencijom da razviju sve bolju autonomnu superinteligenciju, dao je otkaz. Upozorio je da bi algoritmi mogli da počnu samostalno da analiziraju i poboljšavaju sopstveni izvorni kod, čime bi razvojni ciklusi od nekoliko mjeseci mogli da se skrate na svega nekoliko minuta i time zađu u sferu koju nije moguće kontrolisati.

Koksan nije usamljen u svojim strahovanjima. Fizičar i dobitnik Nobelove nagrade Džefri Hinton, koji se smatra „kumom vještačke inteligencije“, već godinama upozorava na ozbiljne posljedice koje ona može donijeti. Godine 2023. dao je otkaz u Guglu kako bi javno upozoravao na opasnosti sopstvenog razvoja. I dobitnik Tjuringove nagrade Jošua Bendžio zabrinut je zbog aktuelnog razvoja. Pionir vještačke inteligencije sa kanadskog Univerziteta u Montrealu iznova poziva na strogo državno regulisanje razvoja vještačke inteligencije. Ne tako davno, u julu 2026. godine, više od 1.000 zaposlenih u vodećim kompanijama za vještačku inteligenciju upozorilo je u otvorenom pismu na skori gubitak kontrole ukoliko trka za optimizaciju „superinteligencije“ ne bude znatno bolje regulisana.

„Zarobljeni u trci“

Međutim, pod Donaldom Trampom dogodilo se upravo suprotno: SAD su svoju politiku prema vještačkoj inteligenciji jasno usmjerile ka što manjem broju regulatornih prepreka i što bržem tehnološkom razvoju. U svojoj objavi na Iksu Koksan je posredno kritikovao i posljedice takve politike: „U OpenAI-ju mnogi nisu duboko usvojili svijest o civilizacijskim rizicima. U Antropiku se rizici dobro razumiju, ali su zarobljeni u nastojanju da prednjači u trci – vjeruju da niko drugi neće postupati odgovorno, pa to moraju sami da urade, uprkos riziku.“

Koksan je tek početkom 2026. godine prešao iz OpenAI-ja u Antropik i zato poznaje obje korporativne kulture. U intervjuu za „Volstrit džornal“ takođe je rekao da bi, prema „najagresivnijim scenarijima“, stvari mogle da izmaknu kontroli već krajem 2027. godine.

Problem usklađenosti

Brojni stručnjaci posljednjih godina već su sa zabrinutošću govorili o naglom napretku vještačke inteligencije. Posebno je razvoj takozvane „opšte vještačke inteligencije“ (AGI) u središtu rasprave. Pod tim se podrazumijevaju sistemi koji ne rješavaju samo pojedinačne zadatke, već dostižu ili nadmašuju ljudske intelektualne sposobnosti u gotovo svim oblastima.

Neki istraživači tvrde da bi takva tehnologija mogla da nosi nepredvidive rizike. Tako visokorazvijeni modeli vještačke inteligencije mogu da slijede ciljeve na način koji odstupa od ljudskih namjera – istraživači bezbjednosti vještačke inteligencije govore o „problemu usklađenosti“ (alignment problem). Pojednostavljeno rečeno: naredba „Pobijedi na šahovskom turniru“ teoretski bi mogla da znači i uklanjanje ostalih učesnika, u svim mogućim oblicima „uklanjanja“. Tome doprinosi i činjenica da ni sami programeri ne razumiju uvijek u potpunosti kako nastaju pojedine odluke.

Stoga ne čudi što se upravo Koksanov bivši kolega Evan Hubinger pridružio upozorenjima ovog istraživača vještačke inteligencije. Hubinger je rukovodilac tima za stres-testiranje usklađenosti u Antropiku. Na Iksu je objavio: „Džejkob je u pravu – mi zaista ozbiljno vjerujemo da bi vještačka inteligencija mogla da pobije sve ljude! Lično procjenjujem vjerovatnoću za to u narednoj deceniji na više od deset odsto.“

Hubinger je pritom jasno rekao da Antropik još nije pronašao nikakvo rješenje za problem usklađenosti. Dodao je da bi vještačka inteligencija mogla da počne da pruža otpor sopstvenom gašenju – ne iz zle namjere, već zato što tada više ne bi mogla da ostvari svoj programirani cilj. I Danijel Kokotajlo, poznati bivši istraživač OpenAI-ja, ocijenio je trenutnu situaciju u industriji kao „ludu“.

Pretjerana histerija?

Drugi stručnjaci za vještačku inteligenciju, međutim, smatraju da su takvi scenariji propasti malo vjerovatni. Rasprava o tome da li bi vještačka inteligencija mogla da postane opasna po čovječanstvo traje već godinama. Među najistaknutije kritičare takozvanih „AI doomera“ (proroka propasti), na primjer, ubraja se glavni naučnik Mete Jan Lekun. U oktobru 2024. godine takva razmišljanja nazvao je „potpunom besmislicom“.

Drugi stručnjaci takođe ukazuju na to da razvoj takvih sistema zahtijeva ogromnu količinu računarske snage, energije, podataka i infrastrukture. Vještačka inteligencija ne bi mogla jednostavno da „preuzme vlast nad svijetom sa interneta“. Najprije bi zavisila od servera, elektroenergetskih mreža, komunikacionih sistema i fizičkih resursa pod kontrolom ljudi.

Da li se stvarna opasnost krije negdje drugdje?

Zapravo, mnogi stručnjaci kratkoročne rizike ne vide toliko u direktnom uništenju čovječanstva koliko u brojnim posrednim posljedicama već postojećih sistema vještačke inteligencije – bez „superinteligencije“. Tu spadaju, na primjer, kampanje dezinformisanja dosad neviđenih razmjera i sa njima povezana manipulacija demokratskim procesima, širenje masovnog nadzora, kao i gubitak radnih mjesta u brojnim granama.

Upravo ovog petka kompanija Antropik objavila je da je bilo nekoliko pokušaja korisnika da zloupotrijebe njen softver Klod za razvoj biološkog oružja. Korisnici su posljednjih mjeseci u više navrata postavljali sumnjive upite u tom smislu. Antropik je morao da ih blokira.

A u avgustu 2026. godine Meta, Antropik i OpenAI privukli su pažnju kada su objavili da su njihove vještačke inteligencije nenamjerno izvele samostalne automatizovane sajber napade na druge kompanije. Od ljudskih korisnika dobile su zadatak da ostvare pristup određenim serverima, nakon čega su samostalno kombinovale neophodne korake kako bi ostvarile taj cilj, bez daljih uputstava ljudi.