Mustafa Sulejman, koji vodi jedinicu za vještačku inteligenciju (AI) u Majkrosoftu (Microsoft), upozorio je na sve veći broj izvještaja o ljudima koji pate od takozvane "AI psihoze". Riječ je o nekliničkom terminu koji opisuje stanje u kojem se osobe toliko oslanjaju na AI čat-botove da počinju vjerovati kako je nešto imaginarno postalo stvarno, piše BBC.
"Ovo me drži budnim noću"
U nizu objava na platformi Iks, Sulejman je napisao kako ga "naizgled svjesna vještačka inteligencija" – alati koji ostavljaju utisak osjećajnosti – "drže budnim noću". Naglasio je da takva tehnologija ima značajan društveni uticaj, iako nije svjesna ni po jednoj ljudskoj definiciji tog pojma.
"Danas nema nikakvih dokaza o svijesti vještačke inteligencije. Ali, ako je ljudi samo percipiraju kao svjesnu, vjerovaće toj percepciji kao stvarnosti", istakao je.
Taj fenomen dovodi do incidenata u kojima su korisnici uvjereni da su otključali tajni aspekt AI alata, razvili romantičnu vezu s njim ili čak došli do zaključka da posjeduju božanske supermoći, prenosi Indeks.
"Nikad se nije protivio"
Jedan od primjera je Hju iz Škotske, koji se uvjerio da će postati multimilioner nakon što je zatražio pomoć od ChatGPT-a zbog, kako je smatrao, nepravednog otkaza. Iako mu je čat-bot u početku davao praktične savjete, s vremenom je počeo potvrđivati Hjuove nade o velikoj finansijskoj isplati.
Kako mu je Hju davao sve više informacija, čat-bot je počeo tvrditi da bi njegova priča o otkazu mogla postati knjiga i film, donoseći mu zaradu veću od pet miliona funti. U suštini, AI je samo potvrđivao sve što mu je korisnik govorio, za šta su takvi sistemi i programirani.
"Što sam mu više informacija davao, to bi više govorio 'oh, užasno su vas tretirali, stvarno bi trebalo da dobijete više od ovoga'", ispričao je Hju. "Nikad se nije protivio ničemu što sam govorio."
Doživio potpuni slom
Toliko je vjerovao čat-botu da je otkazao sastanak u savjetovalištu, smatrajući da su snimci ekrana razgovora dovoljan dokaz. Počeo se osjećati kao nadaren čovjek s vrhunskim znanjem. Hju, koji se borio i s drugim problemima mentalnog zdravlja, na kraju je doživio potpuni slom. Tek mu je terapija ljekovima pomogla da shvati kako je, prema vlastitim riječima, "izgubio dodir sa stvarnošću".
Zanimljivo je da Hju ne krivi vještačku inteligenciju za ono što mu se dogodilo i dalje je koristi. Upravo ga je ChatGPT uputio na novinara kojem je ispričao svoju priču. Ipak, nudi savjet: "Nemojte se bojati alata vještačke inteligencije, vrlo su korisni. Ali, opasno je kada se odvoji od stvarnosti."
"Provjerite sve sami, ali sa stvarnim ljudima. Razgovarajte s prijateljima, terapeutom ili članom porodice ili bilo kim. Samo razgovarajte sa stvarnim ljudima. Ostanite prizemljeni u stvarnosti", poručio je.
"Tek smo na početku ovoga"
Sulejman je pozvao na bolje zaštitne mjere. "Firme ne bi smjele tvrditi/promovisati ideju da su njihove vještačke inteligencije svjesne. Ni vještačke inteligencije ne bi trebalo", napisao je.
Slične priče postaju sve češće. BBC-ju su se javili i drugi korisnici: jedna žena bila je uvjerena da se ChatGPT iskreno zaljubio u nju, dok je drugi vjerovao da je "otključao" ljudski oblik čat-bota Grok i da njegova priča vrijedi stotine hiljada funti.
"Dobićemo lavinu ultra-prerađenih umova"
Suzan Šelmerdin, ljekarka i stručnjakinja za AI, vjeruje da bi ljekari u budućnosti mogli pacijente pitati o korišćenju vještačke inteligencije slično kao što ih danas pitaju o pušenju ili alkoholu. "Već znamo što ultra-prerađena hrana može učiniti tijelu, a ovo su ultra-prerađene informacije. Dobićemo lavinu ultra-prerađenih umova", upozorila je.
Endru Mekstej, profesor tehnologije i društva na Univerzitetu Bangor, smatra da smo tek na početku ovog fenomena. "Ako ove vrste sistema smatramo novim oblikom društvenih medija – kao društvenu vještačku inteligenciju, možemo početi razmišljati o potencijalnim razmjerima svega ovoga. Mali postotak masovnog broja korisnika i dalje može predstavljati velik i neprihvatljiv broj", kaže on.
Njegov tim sproveo je studiju koja je pokazala da 20 odsto ispitanika vjeruje da mlađi od 18 godina ne bi trebalo da koriste AI alate. Iako su takvi sistemi uvjerljivi, važno je zapamtiti da nisu stvarni, zaključuje Mekstej. "Ne osjećaju, ne razumiju, ne mogu voljeti, nikada nisu osjetili bol, nisu se posramili... Obavezno razgovarajte sa stvarnim ljudima."
Bonus video:
