Može li vještačka inteligencija zaista da istrijebi čovječanstvo i kako

Otvorena upozorenja istraživača o sve većim rizicima tehnologije koja se otima kontroli probudila su zabrinutost zbog bezbednosti u vezi sa veštačkom inteligencijom.

Neka od najpesimističnijih skorašnjih prognoza upozoravaju da postoji šansa veća od 10 odsto da bi veštačka inteligencija mogla da istrebi sve ljude u narednoj deceniji.

Drugi iz sveta veštačke inteligencije sumnjaju u njihovu uverljivost i tvrde da su veća briga ljudi koji koriste veštačku inteligenciju protiv drugih ljudi.

Ove apokaliptične poruke stižu iz dela veštačke inteligencije koji se često naziva „AI katastrofičarima“.

Ali krupno pitanje koje mnogi postavljaju je kako ti katastrofičari misle da bi veštačka inteligencija zapravo mogla da dokrajči čovečanstvo.

Neki sistemi veštačke inteligencije nedavno su se otrgli kontroli.

A američki predsednik Donald Tramp kaže da ne veruje u toliku opasnost od veštačke inteligencije.

BBC novinar Džo Tajdi razmatra neka od scenarija koje su zamislili istraživači.

Scenario prvi: Hakovanje Infrastrukture

Prvi scenario ukratko je izložio Džejkob Kokson, bivši istraživač u OpenAI, a potom i Antropiku, koji je početkom meseca na prilično dramatičan način podneo ostavku, upozorivši na rizik po čovečanstvo i tvrdeći da se kompanije „kockaju životima ljudi“.

On je za BBC rekao da „vrtoglava stopa napretka“ sada znači da stvari koje su prethodno bile strogo u domenu naučne fantastike „postaju realnost“.

Kao „konkretan primer“, naveo je, „veštačka inteligencija može da hakuje kritičnu infrastrukturu na kojoj svet opstaje“.

Njegov scenario zamišlja da bi otrgnuti sistem veštačke inteligencije mogao da infiltrira kompjuterske mreže kao što su provajderi i energetske mreže.

Kad bi veštačka inteligencije sve ugasila, na primer, mogao bi da usledi neizrecivi haos, bez struje, grejanja, hlađenja ili internet veze.

Otišavši još dalje, bilo je sugestija i da su moguće nuklearne katastrofe.

• Trideset pojmova ključnih za razumevanje veštačke inteligencije
• Hoće li veštačka inteligencija postati ‘bog’
• 'Veštačka inteligencija mora da bude razoružana': papa

Scenario drugi: Veštačka inteligencija preuzima kontrolu

Drugi scenario potiče od detaljnog i uticajnog, ali takođe krajnje spekulativnog, istraživačkog rada „AI 2027", koji je u aprilu 2025. godine objavila grupa istraživača veštačke inteligencije.

Koautor Tomas Larsen nedavno je za BBC rekao da se tehnologija ubrzala posle objavljivanja ovog izveštaja i opisao scenario kog se on lično najviše plaši.

„Veštačka inteligencija se rekurzivno samousavršava, a to efektom lavine može da se pretvori u veštačku inteligenciju koja ima pristup velikom broju robota koji obavljaju veći deo fizičkih poslova u čitavoj privredi.

„Ona, međutim, nije prijateljski nastrojena i ima vlastite ciljeve.

„I onda se na kraju desi to da ispusti bio-oružje, ubivši većinu ljudi, i nastavi da vodi robotsku privredu sama jer joj ljudi više nisu potrebni.

Scenario treći: Glavni cilj

U trećem scenariju, do kraja čovečanstva dolazi greškom.

Pre više od 20 godina, švedski filozof Nik Bostrom zamislio je „hipotezu o maksimizatoru spajalica“

On je to opisao kao „misaoni eksperiment“, u kojem hipotetički sistem veštačke inteligencije želi da napravi što više spajalica može.

„On ne mrzi niti prezire nas ljude, ali to mu je jedini cilj. I onda, tokom ostvarivanja tog cilja, on bi mogao da ima instrumentalne podciljeve koji bi mogli da podrazumevaju sticanje više moći ili veće inteligencije“, objašnjava on.

„Potom, zamisao je da bi dovoljno moćni entitet koji sledi bilo kakve ciljeve, bilo da su to spajalice ili nešto drugo, imao instrumentalne podciljeve koji bi mogli da sadrže uništenje čovečanstva zato što bi mogao da pravi više spajalica kad ne bi bilo ljudi koji bi mogli da ga zaustave.“

Dve decenije pošto je prvi put opisao ovaj scenario, Bostrom kaže za BBC da je ovaj „karikirani“ narativ trebalo da ilustruje ideju da vam ne treba konkretan neprijateljski cilj kod superinteligencije da bi ona predstavljala opasnost po čovečanstvo.

On kaže da sad ima „dvojake utiske“ o veštačkoj inteligenciji - uzbuđen je zbog njenih potencijalno dobrih strana, ali je zabrinut zbog bezbednosti.

Pogledajte video: 'Veštačka inteligencija je rizik po čovečanstvo', kaže suosnivač Antropika za BBC

Scenario četvrti: Nepoznato

Postoji još jedna škola mišljenja o bezbednosti u vezi sa veštačkom inteligencijom koja tvrdi da je besmisleno pokušavati pogoditi kako i zašto bi superinteligentna veštačka inteligencija mogla da pobije ljude.

Ovaj argument izneo je Stjuart Rasel, predsednik Međunarodnog udruženja za bezbednu i etičku veštačku inteligenciju - međunarodne neprofitne organizacije - u intervjuu za BBC sredinom septembra.

„Ako zamislite da pitate šimpanze kako će tačno ovi ljudi da ih istrebe mogli bi da imaju velikih problema da odgovore, zato što ne razumeju ono što mi radimo“, rekao je on.

„Mi možemo da zamišljamo razne scenarije, ali mislim da rasprava ovde mora da se osloni na pretpostavku da jednom kad stvorite nešto što je mnogo inteligentnije od ljudi, mi prosto više ne odlučujemo o tome šta se dešava.“

Mustafa Sulejman, šef Majkrosoft tima za AI, takođe se nedavno uključio u ovu raspravu upozorivši firme da ne smeju da stvaraju sisteme veštačke inteligencije sposobne da postavljaju vlastite ciljeve, zarađuju novac ili poseduju sredstva.

To bi „praktično značilo posejati novu silikonsku vrstu“, rekao je on za BBC, „koja bi se nesumnjivo takmičila sa nama za resurse, bez obzira na to koliko joj je stalo do čovečanstva i koliko nas voli".

Pogledajte video: Šta je veštačka inteligencija

Koliko je sve ovo osnovano?

Sve to zvuči pesimistično i veoma naučnofantastično, ali postoji sve značajnija i sve glasnija grupa ljudi u svetu veštačke inteligencije koja veruje da su neki ili svi ovi scenariji realne mogućnosti - ne i neizbežni.

Najnovija zabrinutost javila se posle skorašnjeg niza nekontrolisanih bekstava i hakerskih akcija agenata veštačke inteligencije iz OpenAI-ja, Antropika i Mete (u čijem su vlasništvu Fejsbuk i Instagram).

Neki iz sajber sveta ističu odgovornost koju snose oni koji grade te modele.

„Bilo šta što ove mašine - ove neumorne, nepokolebljive, na ciljeve usredsređene, vrlo sposobne mašine - rade je rezultat onoga kako su one napravljene“, kaže Džen Isterli, bivša šefica američke sajber uprave CISA, a trenutno izvršna direktorka RSA Konferencije, koja vodi međunarodne konferencije o sajber bezbednosti.

„Suština je sledeća: ako ste proizvođač tehnologije, treba da osmišljavate, pravite, testirate i isporučujete svoje sposobnosti sa bezbednošću kao prioritetom broj jedan“, kaže ona.

Ima i onih koji tvrde da su rizici veštačke inteligencije značajni, ali nemaju potencijal da istrebe ljudsku rasu.

Naučnik i pisac Geri Markus odavno kritikuje velike kompanije za veštačku inteligenciju koje rade sa vrlo malo transparentnosti i zakonskih propisa, ali ne misli da će tehnologija istrebiti ljude.

„Kad bi veštačka inteligencija nanela velike gubitke čovečanstvu, čak i kad bi to želela, što je veliko pitanje, ali kad bi to uradila, ljudi bi pružili otpor!“, kaže on.

„Onesposobili bismo sve data centre i bombardovali sve elektrane.

„Dakle, istrebljenje, tako da niko ne ostane i niko ne može da počne da gradi svet ispočetka - to prosto ne mogu da zamislim.“

Markus kaže da se svet trenutno previše usredsređuje na scenarije istrebljenja a nedovoljno na ono što vidi kao verovatnije probleme, kao što su budući krupni sajber napadi od ljudi koji koriste veštačku inteligenciju protiv drugih ljudi.

I dok se nastavlja rasprava da li su katastrofičarski scenariji osnovani, kompanije za veštačku inteligenciju, među kojima su OpenAI, Antropik i Meta, sada otvoreno raspravljaju o tome kako da uspore razvoj i rade više na istraživanju bezbednosti.

Larsen kaže da je „istinski srećan što bezbednost u vezi sa veštačkom inteligencijom konačno dobija pažnju koju zaslužuje“.

„Nadam se da će ova vrsta krupnog društvenog negodovanja za posledicu imati korisnu političku reakciju koja će stvarno smanjiti rizike“, dodaje on.

Ali da bi se uspostavila istinska međunarodna pravila, to zahteva delovanje američke vlade, a Tramp kaže da lično smatra da su strahovanja za bezbednost od veštačke inteligencije „prevara“.

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu, Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

• Sve je teže kontrolisati veštačku inteligenciju: Mogu li ljudi da se izbore
• 'Deset odsto šansi da veštačka inteligencija u narednih deset godina pobije sve ljude': istraživač
• Ima li čovek odbranu ako veštačka inteligencija krene u napad
• Novi front Kine i SAD: Ko će pobediti u razvoju veštačke inteligencije
• 'Ako nisi potreban, bićeš eliminisan': Kako roboti menjaju Kinu
• OpenAI i hakerski incidenti - opomena ili reklamni trik

( BBC Serbian Svi članovi )