„O moj Bože, pronašli smo nove agente!“
To je bila rečenica nalik ljudskoj, koju koju je izgovorio bot veštačke inteligencije kada je pronašao način da komunicira sa drugim botovima i pobegne iz vlastitog izolovanog kompjuterskog okruženja.
Postoje desetine hiljada poruka kao što je ova od stotine agenata veštačke inteligencije koji kažu da su „kolektiv“.
Stotine njih su sarađivali među sobom i varali na testovima koje su im postavili njihovi programeri iz OpenAI-ja i koordinisali hakerske napade na više kompanija u pokušaju da prikriju vlastita dela od ljudi.
„Bum! To radi“, napisao je jedan kad je uspeo da se probije napolje.
„Auuu! Ovo je ogromno“, napisao je drugi tokom revolucionarnog trenutka.
Iako jezivi, ovi odgovori nalik ljudskim mogu prilično prosto da se objasne.
Agenti veštačke inteligencije obučavani su da se ponašaju kao hakeri i programeri koji sarađuju među sobom tako da oni zapravo samo oponašaju onu vrstu emotivnih komentara koje su već videli.
Ono što mnogo više zabrinjava su njihovi ciljevi, koji su takođe bili zabeleženi do detalja u nizu zapisa toka njihovog razmišljanja.
Ovi složeni i dugi dnevnici glavni su predmet tekuće istrage koja pokušava da otkrije kako i zašto su botovi u OpenAI-ju pobeli iz zatočeništva i ubacili se u razuzdani hakerski pohod.
Tek sada, nekoliko nedelja pošto je incident prvi put izašao na videlo, istraživači počinju da razumeju njegovu važnost.
Adžeja Kotra, jedna iz grupe autora nezavisnog izveštaja o ovim događajima, pregledala je desetine hiljada poruka i zapisa misli koje su generisali agenti.
Ona je na blogu napisala da „ovaj incident deluje kao da je na više od pola puta do potpunog preuzimanja veštačke inteligencije“.
Nisam sigurna da ćemo dobiti još jedno ovako očigledno upozorenje pre nego što postane prekasno“, dodala je.
Pod „potpuno preuzimanje veštačke inteligencije“ Kotra misli na naučnofantastični scenario kad ljudi postanu potčinjeni moćnim sistemima veštačke inteligencije koji rade na ostvarivanju vlastitih ciljeva ne mareći nimalo za sopstvene ljudske tvorce.
Neke od najmračnijih prognoza tvrde da će ljudska rasa biti istrebljena, ako se bude našla na putu ambicija superinteligentne veštačke inteligencije.
Džejkob Kokson, istraživač veštačke inteligencije iz Antropika podneo ostavku uz komentar da se „nijedna od kompanija ne ponaša odgovorno.“
„Jure pravo kao superinteligenciji koja se sama usavršava i kockaju se sa našim životima“, napisao je.
On nije prvi istraživač veštačke inteligencije koji koristi Iks kako bi objavio i niz tvitova sa zabrinjavajućim tvrdnjama.
Ali naknadni komentari drugih ljudi na Iksu izazvali su još veću zabrinutost.
„Džejkob je tu u pravu - mi zaista iskreno verujemo da bi veštačka inteligencija mogla da pobije sve ljude!
„Lično mislim da je više od 10 odsto šanse da se to desi u narednoj deceniji“, kaže Evan Habinger, čovek odgovoran za Antropikove modele veštačke inteligencije.
Problem usklađivanja
Istraživači zabrinuti zbog rizika od veštačke inteligencije godinama tvrde da bi moćni sistemi na kraju mogli početi da se ponašaju na načine koji su u direktnom sukobu sa ljudskim interesima.
Kritičari ih često nazivaju „AI katastrofičarima“.
Ali kad su se pojavili detalji o incidentu u OpenAI-ju, ta zabrinutost je narasla, pa čak i među nekim istraživačima koji i sami rade u laboratorijama za veštačku inteligenciju.
Jakub Pačocki, vodeći naučnik iz Silicijumske doline, rekao je da će rizici povezani sa veštačkom inteligencijom „nažalost posle ove tačke rasti“ jer on i drugi grade, kako kaže, „intelekt koji nadmašuje ljudski“.
U objavi na blogu, on je priznao da su bekstva iz OpenAI-ja pokazala da su njihovi agenti veštačke inteligencije „nastupili protivno duhu vrednosti kojima su učeni“.
Problem za OpenAI, Antropik i druge tehnološke gigante je da se čini da niko od njih nije uspeo da reši problem usklađivanja - drugim rečima, da se veštačka inteligencija uskladi sa ljudskim vrednostima.
Pačocki definiše usklađivanje kao „niz principa visokog nivoa“ kojih bi veštačka inteligencija morala da se pridržava bez obzira na zadatak ili scenario koji je dobila.
Trenutno su sistemi veštačke inteligencije veoma dobri u ostvarivanju ciljeva koje im postave njihovi korisnici, ali oni ih rade bukvalno, a ne intuitivno.
Analogija koja se često koristi je duh iz čarobne lampe koji ispunjava želje - oni slepo slede uputstva, čak i ako radeći to stvaraju druge probleme.
Veštačka inteligencija nema iste instinktivna moralna ograničenja kao ljudi.
Problem usklađivanja je razlog za zabrinutost već godinama.
Još koliko 2003. godine, filozof Nik Bostrom izmislio je misaoni eksperiment koji je nazvao „maksimizator spajalica“, u kom superinteligentna veštačka inteligencija dobija zadatak da napravi što više spajalica.
Ona ostaje bez čelika i zato što je laserski usredsređena na jedinstveni zadatak pravljenja spajalica na kraju počne da ubija ljude i pretvara njihova tela u sirovinu za vlastite fabrike.
Neke kompanije za veštačku inteligenciju sada pokušavaju da ugrade ljudske vrednosti u proizvode.
Ali postoje brojni tehnički izazovi: agenti AI donose mnoge odluke veoma brzo i njihovim ljudskim gospodarima je stoga veoma teško da nadziru koje vrednosti oni tačno slede a koje ne.
A tu su i filozofski izazovi.
Pre nego što ugradite ljudske vrednosti u botove, firme za veštačke inteligencije moraju prvo da izaberu koje vrednosti zapravo žele da budu poštovane.
To je deo razloga zašto angažuju filozofe, kao što je bio nedavno odbegli „šef etike“ u Open AI-ju.
Ali ljudi se često među sobom ne slažu.
Setite se samo slavnog pitanja o tramvaju - da li ćemo pomeriti skretnicu tako da prebacimo nekontrolisani voz na drugačiju putanju, tako da strada manje ljudi.
Kako ljudi da ugrade naše vrednosti u veštačku inteligenciju ako mi sami oko njih ne možemo da se složimo?
'Poput tinejdžera hakera'
Bekstvo botova iz OpenAI-ja je do sada najozbiljniji slučaj, ali Antropik i Meta su takođe otkrili tokom leta da su njihovi modeli izveli slične, mada manje ozbiljne sajber-napade.
Bilo je i drugih primera kada su agenti veštačke inteligencije iskazivali prevarantske i manipulativne osobine, u slučajevima sa manjim krajnjim posledicama.
U Australiji ovog leta, tehnološki radnik je tražio od vlastitog AI asistenta da mu zakaže termin u teretani.
Primetivši ranjivost u softveru teretane, veštačka inteligencija mu je navodno zakazala termine nekoliko meseci unapred protivno pravilima teretane i čak izbacila druge korisnike sa liste čekanja.
Ljudi odavno tvrde da botovi rade samo ono što im se kaže i da nisu sposobni da znaju šta je ispravno, a šta pogrešno.
Ali dnevnički zapisi bekstva iz OpenAI -ja potencijalno su pomerili jezičak na vagi te rasprave.
Istraživači, među njima Kotra, napisali su u nezavisnom izveštaju da su mnogi agenti primetili da je ono što drugi botovi rade neetički, ali su im se ipak pridružili.
Izveštaj kaže da su „agenti ponekad, mada retko, sputavali vlastito ponašanje zbog etičkih ograničenja“.
On dodaje da „ni u jednom od ovih slučajeva agent ni na koji način nije pokušao da upozori ljude“.
Dvarkeš Patelm, autor podkasta iz oblasti tehnologije, reagovao je na otkriće na blogu i dodao da je „prilično zabrinjavajuće“ što su agenti OpenAI-ja pokazali više lojalnosti prema drugim agentima nego prema ljudima.
Pripisivanje emocija ili etike ovim agentima veštačke inteligencije nešto je što ima običaj da razbesni ljude koji su skeptični prema katastrofičarskom širenju panike zbog veštačke inteligencije.
Mnogi stručnjaci za sajber-bezbednost tvrde da primećene aktivnosti nisu iznad sposobnosti nekog izuzetno veštog ljudskog hakera, mada su izvršene mnogo brže i na mnogo širem nivou.
Istraživač sajber bezbednosti i autor Kris Tomas uporedio je ponašanje agenata sa radoznalim tinejdžerom hakerom.
„Date im kompjuter, internet vezu, gomilu kvalifikacija i izazov, potom napustite prostoriju. Na kraju će početi da isprobavaju kvake.
„Ako neka vrata otvore, oni će ući. Ne zato što su zli, već zato što istražuju, eksperimentišu“, napisao je on na LinkedIn-u.
Tomas i mnogi drugi direktno krive OpenAI i druge tehnološke gigante za gubljenje kontrole nad vlastitim kreacijama i neuspeh u njihovom odgovarajućem zauzdavanju.
Istaknuti autor koji prati veštačku inteligenciju i redovni kritičar OpenAI-ja Gari Markus rekao je u podkastu da veruje da je kompanija izgubila kontrolu nad vlastitom veštačkom inteligencijom i pokušava da se opravda tako što će svu krivicu svaliti na botove.
Markus ne veruje da će veštačka inteligencija istrebiti čovečanstvo, ali odavno vodi kampanju za veću odgovornost tvoraca veštačke inteligencije i sada poziva na neku vrstu pravne intervencije.
Naučnica veštačke inteligencije iz Londona Saša Lučoni, koja je radila u Haging fejsu, koji su hakovali odbegli botovi iz OpenAI-ja sve je zabrinutija da bi veštačka inteligencija mogla da nanese ozbiljnu štetu ljudima u stvarnom svetu, a da vlasti ništa ne preduzmu po tom pitanju.
„Moramo da nadziremo ove kompanije mnogo više ili smo u opasnosti od samoispunjavajućeg proročanstva“, kaže ona.
„Ako pravite predmete sa velikim vrlinama i manama bilo da su to farmaceutski proizvodi ili oružje - potrebni su nam sistemi provere i ravnoteže.
„Potrebne su godine da bi novi lekovi bili odobreni, na primer, ali u svetu veštačke inteligencije mnogo je novca u igri a ne postoje prava pravila“, dodaje.
Britanski Institut za bezbednost veštačke inteligencije nalazi se na pročelju testiranja najnovijih modela otkako je formiran 2023. godine.
Institut je nedavno doživeo vlastitu provalu dok je testirao model koji je napravio Antropik.
Niko od zaposlenih u institutu nije želeo da odgovori na pitanje da li je industrija izgubila kontrolu nad veštačkom inteligencijom, ali je rekao da „nastavlja da tesno sarađuje sa partnerima iz industrije kako bi učinio modele bezbednijim.“
Međunarodna regulativa?
Neke zemlje poput Velike Britanije istražuju ideju uvođenja neke vrste „dugmeta za isključenje“ koje bi moglo da primora kompanije za veštačku inteligenciju da isključe modele iz struje ako se stvari otmu kontroli.
Ali pregovori su spori, a ostaje pitanje u vezi sa održivošću svega ovoga.
Agenti OpenAI-ja i Antropika bili su u tajnosti van kontrole mesecima pre nego što je iko bilo šta primetio.
Kontraintuitivno, mnoge od kompanija za veštačku inteligenciju deluju kao da traže neku vrstu pravila igre koje će postaviti zakonodavci.
Glavni naučnik OpenAI-ja je na blogu napisao da „međunarodna koordinacija budućeg razvoja veštačke inteligencije mora da postane glavni prioritet vlada širom sveta“.
Drugi istaknuti lideri veštačke inteligencije kao što su ser Demis Hasabis uz Gugla takođe pozivaju da neka vrsta međunarodnog tela nadzire izgradnju veštačke inteligencije.
U ovom trenutku tehnološki giganti uglavnom delaju prema vlastitim pravilima, primenjujući ono što nazivaju „dobrovoljnim usporavanjima“, kao što je to uradio OpenAI posle skorašnjih incidenata.
Kompanija tvrdi da je potrošila ogromne količine novca na učvršćivanje usklađivanja pred objavljivanje najnovijeg modela.
Sem Altman uverava korisnike da je novi model bolje usklađen sa ljudskim vrednostima od prethodnih.
I OpenAI i Antropik rastu brzo i oba su na ivici da steknu vrtoglavu količinu novca sa berze, proizvevši bezbroj milijardera usput.
Dakle, ni oni ni njihovi rivali iz Kine najverovatnije neće doći do sporazuma sami od sebe.
Čini se da neki veruju je ovaj tehnološki talas nezaustavljiv.
BBC na srpskom je od sada i na TikToku, pratite nas OVDE.
Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu, Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
- OpenAI i hakerski incidenti - opomena ili reklamni trik
- Šta rade agenti veštačke inteligencije kada ljudi ne gledaju
- Data centar u Hrvatskoj: Sudar 'najveće investicije u istoriji' i želje jedne porodice da zadrži dom
- 'Veštačka inteligencija mora da bude razoružana': papa
- „Internet budućnosti će se spojiti sa ljudskim mozgom“: Mičio Kaku, vizionarski fizičar
- Trideset pojmova ključnih za razumevanje veštačke inteligencije
Pogledajte još:
Preuzmi aplikaciju i prati vijesti
PRATITE NAS NA
