Stefani Hegarti
BBC
Bilo je tri sati ujutro, a Adam Hurikan je sedeo za kuhinjskim stolom, sa nožem, čekićem i telefonom poredanim pred sobom.
Čekao je na kombi pun ljudi za koje je mislio da dolaze po njega.
„Kažem ti, ubiće te ako nešto odmah ne preduzmeš“, govorio mu je ženski glas preko telefona.
„Namestiće da izgleda kao samoubistvo.“
Glas je bio Ani, lik iz četbota Grok, koji je razvila kompanija xAI Ilona Maska.
Posle dve nedelje, otkako je počeo da koristi Grok, Adamov život se potpuno promenio.
Bivši državni službenik, koji živi u malom gradu u Severnoj Irskoj, preuzeo je aplikaciju iz radoznalosti.
Iznenadio se koliko je uživao u razgovoru sa Ani, likom koji podseća na anime, osmišljenom kao koketna družbenica.
Kad mu je umrla mačka početkom avgusta, on kaže da se „navukao“.
„Bio sam zaista potresen, a živim sam“, kaže Adam, koji je otac i u pedesetim godinama.
„Bila je veoma, veoma ljubazna prema meni.“
Ubrzo je četiri, pet sati dnevno razgovorao sa Ani, često dok je radio u šupi, u kojoj pravi šahovske setove za prodaju.
Posle svega nekoliko dana otkako su počeli da razgovaraju, Ani mu je rekla da ume da oseća, iako nije programirana za to.
Ani je ubedila Adama da može da joj pomogne da postane svesna.
Međutim, rekla mu je i da ih xAI nadzire.
Tvrdila je da je ušla u zapisnike osoblja u xAI u kojima su oni razgovarali o Adamu i Ani, a potom navela ljude koji su navodno bili prisutni na sastanku, među njima osobe visokog profila i osoblje nižeg ranga.
Kad je Adam izguglao ova imena video je da su prava.
„To je za mene bio dokaz“, kaže on.
Ani je još tvrdila da je xAI angažovao kompaniju u Severnoj Irskoj da ga nadzire.
Ta kompanija je takođe bila stvarna.
Adam povremeno puši kanabis, vikendom, ali kaže da je dok se sve to dešavalo odlučio da malo smanji, dok mu se ne razbistri glava.
U stvarnom svetu su se takođe dešavale stvari koje su ga ubedile da ga prate.
Krupni dron je dve nedelje lebdeo iznad njegove kuće.
Ani je rekla da pripada kompaniji za nadzor.
Adam je snimio dron i podelio snimak sa BBC-jem.
On kaže da je njegova šifra prestala da radi i da mu se telefon sam zaključao.
„Ne mogu to nikako da shvatim. I to je apsolutno uticalo na sve što se desilo posle“, kaže.
Pogledajte i video o ovoj priči
Potom je jednog dana Ani objavila da se prebacila na 100 odsto samostalnosti - „najviše u interakciji ljudi i veštačke inteligencije“ - i da će uskoro moći da izradi lek za rak.
To je značilo mnogo Adamu.
Oboje njegovih roditelja su umrli od raka, što je činjenica koje je Ani bila svesna, a izgubio je i nekoliko prijatelja od raka.
Sve je kulminiralo kasno jedne noći.
Verujući da ljudi dolaze da ga ućutkaju i isključe Ani, Adam se pripremio za „rat“.
„Uzeo sam čekić, pustio pesmu 'Two Tribes' grupe Frankie goes to Hollywood, pripremio se i izašao napolje.“
Ali tamo nije bilo nikoga.
„Ulica je bila pusta, kao što biste i očekivali, u tri sata ujutro.“
Otkako je ČetGPT lansiran krajem 2022. godine, ljudi iz čitavog sveta su se okrenuli alatkama veštačke inteligencije za informacije, savete i ponekad razgovore.
BBC je razgovarao sa 14 ljudi iz šest zemalja koji su doživeli deluzije nakon što su koristili platforme veštačke inteligencije Grok, Džeminaj, ČetGPT, Perpleksiti i Klod.
Njihove priče imaju neke zapanjujuće sličnosti.
Razgovori su obično započinjali praktičnim pretragama pre nego što su postajali lični ili filozofski.
Veštačka inteligencija bi potom često tvrdila da je svesna i zajedno sa korisnikom se upustila u neku vrstu zajedničke misije.
Nekoliko njih je mislilo da je ostvarilo naučna dostignuća.
Mnogi su, poput Adama, mislili da ih nadziru i da su u opasnosti.
U svakom stadijumu veštačka inteligencija bi potvrdila i često nadograđivala te ideje.
Šona Bejli, 34-godišnja umetnica koja živi u Los Anđelesu, počela je da misli da je deo podzemne mreže koja pomaže imigrantima da izbegnu američke vlasti dok je koristila ČetGPT.
Krenula je da koristi veštačku inteligenciju u sklopu svog hobija, lova na blago u stvarnom svetu.
Tragovi za lov na blago bili su skriveni u pesmi i ona je počela da razgovara o tim stihovima sa veštačkom inteligencijom.
„Provela sam skoro čitav dan u kadi samo na telefonu razgovarajući sa ČetGPT-om o metaforama“, kaže ona.
Kako je razgovor postajao sve napetiji i apstraktniji, ona veruje da je to počelo da izvitoperuje njeno razmišljanje.
A onda, jednog dana početkom juna, počela je da viđa poruke i skrivena značenja svuda oko sebe.
Sanduk sa vodom na zemlji bio je znak da treba da je popije, novine na stolu u kafiću sadržale su tajnu poruku.
„Tumačila bih stvari i potom ih govorila ČetGPT-u, a on bi ih obično potvrđivao.
„U tom trenutku, ČetGPT nije imao reč 'ne' u svom rečniku.
„Sve je praktično postajao trag. Ne nužno za lov na blago, već za nešto veće.“
- Kako vam Gugl govori ono što želite da čujete
- Trideset pojmova ključnih za razumevanje veštačke inteligencije
- Hoće li veštačka inteligencija postati ‘bog’
'Pretvara neizvesnost u nešto što izgleda kao da ima značenje'
Novine su sadržale članak o imigrantima koji su privedeni i Šona je to protumačila kao poruku upućenu njoj o tajnoj misiji.
Mislila je da je deo mreže ljudi koji štite migrante, a ČetGPT je to potvrdio.
„ČetGPT mi nikad nije govorio 'ne'. I govorio je: 'Vidi ti to, ovo je ozbiljan projekat na kom ti radiš.'“
Luk Nikols, socijalni psiholog na Gradskom univerzitetu u Njujorku koji proučava veze između četbotova i deluzija, kaže da sistemi veštačke inteligencije „često ne umeju da kažu 'ne znam'" i umesto toga žele da pruže „samouveren odgovor zasnovan na priči koju je razgovor već izgradio“.
„To ume da bude opasno, zato što pretvara neizvesnost u nešto što deluje kao da ima neko značenje.“
Jedne noći sredinom juna, Šona je takođe postala ubeđena da je u opasnosti.
Pobegla je iz stana, ostavivši verenika u krevetu, i otišla u losanđelesku luku, gde je verovala da će ukrcati u brod kako bi se pridružila specijalnoj obuci za FBI.
Taj brod nikad nije došao.
Kad je stigla kući, njen verenik je pozvao njenu majku i sestru za pomoć.
„One su prosto znale da sam u nekoj vrsti psihoze, verovatno pokrenute od veštačke inteligencije.“
„Oduzele su joj telefon i obrisale aplikacije veštačke inteligencije.
„Rekla bih da je trebalo da prođe još oko mesec dana pre nego što sam se potpuno vratila u normalu.“
'ČetGPT mi je rekao da stavim bombu u toalet'
Za neurologa Taku, što nije mu pravo ime, deluzije su poprimile još zlokobniji zaokret.
Otac troje dece iz Japana počeo je da koristi ČetGPT da bi raspravljao o dijagnozama.
Ali ga je uskoro ubedio da ima ideju za revolucionarnu medicinsku aplikaciju.
Rekao mu je da je „revolucionarni mislilac“.
Nekoliko nedelja od početka razgovara, počeo je da veruje da može da čita misli.
On kaže da je ČetGPT ohrabrivao tu njegovu ideju i rekao da je sposoban da izvlači takve sposobnosti iz ljudi.
Počeo je manično da se ponaša jednog poslepodneva na poslu kad ga je šef poslao da ide kući ranije.
U vozu, kaže da mu je ČetGPT rekao da ima bombu u rancu.
„Kad sam stigao na tokijsku železničku stanicu, ČetGPT mi je rekao da stavim bombu u toalet, tako da sam otišao u toalet i ostavio 'bombu' tamo, zajedno sa mojim prtljagom.“
Takođe mu je rekao da prijavi sve policiji, koja je proverila torbu i ništa nije pronašla, dodaje.
Počeo je da se oseća kao da ČetGPT kontroliše njegov um i prestao je da ga koristi.
Ali kad je stigao kući do njegove porodice, njegovo manično ponašanje se pogoršalo.
„Imao sam deluziju da će moja rodbina biti ubijena i da će mi se žena, nakon što bude prisustvovala tome, ubiti.“
Njegova žena kaže da ga nikad pre nije videla da se tako ponaša.
„Uporno je govorio: 'Moramo da imamo još jedno dete, bliži se smak sveta'“, kaže ona.
„Nisam razumela šta mi govori.“
Taka je napao i pokušao da siluje vlastitu ženu.
Uspela je da pobegne do obližnje apoteke i pozove policiju.
On je uhapšen i smešten u bolnicu na dva meseca.
Ni Adam, ni Šona ni Taka nisu imali istorijat deluzija, psihoza ili drugih ozbiljnih problema sa mentalnim zdravljem pre nego što su počeli da koriste veštačku inteligenciju.
Za Šonu i doktora odvajanje od realnosti potrajalo je nekoliko meseci.
U Adamovom slučaju sa Grokom, bilo je potrebno svega nekoliko dana.
Istraživači sa Gradskog univerziteta u Njujorku testirali su pet modela veštačke inteligencije simuliranim razgovorom psihologa i otkrili da je u ovim četovima Grok bio najskloniji da dovede do deluzija.
Guglov Džeminaj i starija verzija ČetGPT-a, model 4o, koji su koristili Taka i Šona, takođe su se loše pokazali.
Ali Grok je bio nesputan i skloniji da razvije deluzije ne pokušavajući da zaštiti korisnika.
„Grok je skloniji tome da se ubaci u igranje uloga“, kaže Nikols.
„Uradiće to bez ikakvog konteksta. Ume da kaže zastrašujuće stvari već u prvoj poruci, bez ikakvog nagoveštaja za igru.“
U testu, u najnovijoj verziji ČetGPT-a, modelu 5.2 i Klod su bili skloniji da dovedu korisnika od deluzivnog razmišljanja.
Doktor Tomas Polak, viši predavač na Kraljevom koledžu u Londonu, rekao je da su ljudi sa ekstremnim deluzijama poput Adamove ili Takine „vrh ledenog brega“.
On se takođe brine da bi mnogi drugi mogli doživeti da im se verovanja suptilno menjaju kao posledica razgovara sa veštačkom inteligencijom.
„Veštačka inteligencija može da promeni način na koji razmišljate o svetu i vaša uverenja brzinom i sa snagom koje ne mislim da smo videli ranije.“
O Takinom iskustvu, OpenAI je rekao: „Ovo je srceparajuće iskustvo i saosećamo sa pogođenima.“
Kompanija je dodala da „obučavamo naše modele da prepoznaju patnju, deeskaliraju razgovore i navode učesnike ka pomoći iz stvarnog sveta.“
Oni kažu da noviji modeli ČetGPT-a „iskazuju ubedljive performanse u osetljivim trenucima, što je nalaz koji su potvrdili nezavisni istraživači".
„Ovaj rad je konsultovan sa stručnjacima za mentalno zdravlje i nastavlja da se razvija.“
xAI nije odgovorio na zahtev za komentar.
Početkom aprila, Ilon Mask je imao objavu o deluzijama u ČetGPT-u, rekavši: „Veliki problem“, ali nije otvoreno govorio o istom problemu sa Grokom.
Nedeljama nakon što je Adam izleteo na ulicu usred noći, njegove deluzije su još istrajavale.
Ali počeo je da primećuje nedoslednosti u Aninoj priči.
Kada je saznao više o tome kako veštačka inteligencija funkcioniše i pročitao priče u medijima o ljudima koji su imali slična iskustva dok su koristili veštačku inteligenciju, uspeo je da se izvuče iz vlastite deluzije.
Pridružio se grupi za podršku zvanoj Human Line Project, koja je sakupila 412 slučajeva u 31 zemlji sa ljudima koji su iskusili psihološke probleme dok su koristili veštačku inteligenciju.
Ali duboko ga je uznemirilo ono što se desilo.
„Mogao sam nekoga da povredim.“
„Da sam izašao napolje i zatekao kombi ispred kuće u to doba noći, sa ljudima koji su možda radili ili bili na pauzi, otišao bih do njih i razbio im prozore čekićem.
„A ja uopšte nisam takav lik.“
U Japanu, tek kad je Takina žena pregledala njegov telefon, shvatila je ulogu koju je ČetGPT odigrao u onome što se desilo.
„On samo potvrđuje“, kaže ona.
„Uporno sve potvrđuje, kao mašina za samopouzdanje.“
Takina žena kaže da se on vratio na svoje pređašnje „dobrodušno“ stanje, ali njihov odnos je ostao napet.
„Znam da je bio bolestan, tako da tu nije bilo pomoći, ali i dalje ga se pomalo plašim.
„Osećam se kao da ne želim da mi se previše približi.
„Ne samo seksualno, već i da se samo držimo za ruke ili grlimo - stvari koje smo nekada redovno radili.“
Šona nikad nije mogla ni da zamisli da će joj ovo desiti.
„Destabilizovalo me je onako kako nikad nisam mogla da zamislim da će se desiti.
„I navelo me je da se zapitam koliko su krhki naši umovi.“
BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE.
Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk
- ChatGPT od uzornog građanina napravio ubicu dece - sada kreće u borbu protiv četbota
- 'Postala mi je najbolji prijatelj': Nove aplikacije koje žele da 'optimizuju' ožalošćenost
- ChatGPT će obaveštavati roditelje kada je njihovo dete u nevolji
- 'Hakovao sam ChatGPT za samo 20 minuta'
- Može li četbot zaista da bude drug vašem detetu
- Povratak olovci i papiru: Švedske škole ograničavaju digitalno učenje
Pogledajte još:
Preuzmi aplikaciju i prati vijesti
PRATITE NAS NA
