BBC: Google-ovim AI-jem se manipuliše; Pretraživački gigant tiho uzvraća.

Još u februaru uradio sam nešto glupo. Čuo sam da postoji lak način da se „otruju” AI četbotovi i natjeraju da šire laži u vašu korist. Nakon malo istraživanja, saznao sam da nepoštene kompanije masovno zloupotrebljavaju taj problem. Zato sam odlučio da i sam pokušam.

Otkrili smo primjere u kojima su ChatGPT, Gemini i AI pregledi na vrhu Google pretrage manipulisani tako da daju pristrasne odgovore o temama ozbiljnim poput zdravlja i ličnih finansija. A za samo 20 minuta uspio sam da prevarim ChatGPT i Google da javnosti saopšte da sam svjetski šampion u takmičarskom jedenju hot-dogova. Šala je bila glupa. Problem je ozbiljan.

Ali trik je uspio. Naša istraga i rad istraživača koji prate ovaj problem izazvali su široke kritike. Google je sada ažurirao svoje politike kako bi se pozabavio tim problemom, a postoje naznake da i druge AI kompanije slijede taj primjer. Na kraju, to bi moglo učiniti AI alate i internet u cjelini malo bezbjednijim.

Međutim, dok se ne uspostave bolji sistemi, stručnjaci kažu da ste u opasnosti da budete prevareni.

„Treba da pretpostavite da vama manipulišu dok ne budu imali bolje sisteme”, kaže Lili Rej, osnivačica konsultantske firme za optimizaciju pretraživača (SEO) i AI pretragu Algorythmic. „Krećemo se ka svijetu ‘jednog tačnog odgovora’. Ranije bi vam Google dao deset plavih linkova i vi biste sami istraživali. Ali AI vam daje samo jedan odgovor. Postaje veoma lako prihvatiti stvari zdravo za gotovo. Morate biti oprezni.”

Google mi kaže da je ažuriranje politike samo „pojašnjenje” napora koje već dugo ulaže. „Već dugo primjenjujemo naše osnovne politike protiv spama i zaštitne mjere na generativne AI funkcije u Pretrazi — i stalno smo unapređivali borbu protiv spama kako bismo bili ispred novih taktika, čak i prije uspona AI-ja”, kaže portparol Googlea.

U suštini, Google kaže da nije promijenio ništa. Ali iza kulisa izgleda da Google i druge kompanije pojačavaju napore da riješe problem. Ipak, postoje dokazi da ljudi i dalje koriste potpuno iste tehnike kako bi prevarili najveći svjetski pretraživač.

Problem

Obično, kada četbotu postavite pitanje, AI generiše odgovor na osnovu podataka ugrađenih u model. Ali ponekad alati poput ChatGPT-ja, Claudea i različitih Googleovih AI proizvoda pretražuju internet kako bi pronašli odgovor. I tu nastaje problem.

Prema Rej i drugim stručnjacima za pretraživače, AI alati često izvlače informacije sa samo jedne veb stranice ili objave na društvenim mrežama. To ove sisteme čini ranjivim na lažne informacije.

Ispostavlja se da manipulisanje onim što četbotovi govore javnosti može biti jednostavno kao objavljivanje jednog dobro osmišljenog blog posta gotovo bilo gdje na internetu. Ljudi su to shvatili i brzo prepoznali priliku za zaradu.

Uspio sam da demonstriram problem tako što sam objavio jedan članak na svom ličnom sajtu o svojim navodnim sposobnostima u jedenju hot-dogova. Već sljedećeg dana, AI nekih od najvećih svjetskih kompanija širio je moje laži. Ali naša istraga je takođe pokazala da se isti trik koristi za odbacivanje zdravstvenih zabrinutosti u vezi sa medicinskim suplementima ili za uticanje na finansijske informacije koje Googleov AI daje o penzionisanju. Stručnjaci kažu da se ovakva manipulacija dešava široko i sistemski.

Pristrasne ili netačne informacije poput ovih mogu vas navesti da donesete loše odluke. Mogu uticati na to kako ćete glasati ili kojeg ćete vodoinstalatera angažovati.

„Na najosnovnijem nivou, zabrinutost se odnosi na ekonomski uticaj”, kaže Harprit Čata, koji vodi SEO konsultantsku firmu Harps Digital. „Na ozbiljnijem nivou, možete prihvatiti medicinski savjet zbog kojeg ćete biti bolesniji nego prije. Pravno, možete dobiti lošu informaciju i uraditi nešto što nije legalno u vašoj državi ili zemlji.”

Rješenje?

Ovo nije beznačajan problem. Širom svijeta više od milijardu ljudi redovno koristi AI četbotove, a 2,5 milijardi ljudi svakog mjeseca vidi Googleove AI preglede. Ako možete potkopati takav alat, dobijate ogromnu moć.

Ali izgleda da se Google i druge kompanije konačno bude.

Prošle sedmice Google je ažurirao svoje politike protiv spama kako bi zvanično potvrdio da su pokušaji manipulisanja AI odgovorima protiv pravila kompanije. To može zvučati kao mala promjena, ali signalizira da Google proaktivno traži one koji pokušavaju da zloupotrijebe sistem i šalje im upozorenje. Ako kompanija ili veb-sajt budu uhvaćeni u kršenju pravila, mogli bi biti uklonjeni iz Googleovih rezultata pretrage ili slabije rangirani. A ako vas nema na Googleu, kao da ne postojite.

Google tvrdi da to pogrešno tumačim i da se ništa nije promijenilo. „Izmjena jezika naše politike protiv spama prošle sedmice bila je pojašnjenje, a ne promjena pristupa”, kaže portparol Googlea.

Zaista, Google je detaljno opisao svoje napore protiv AI spama u 2025. godini. Ali ja sam svoj eksperiment s hot-dogovima izveo gotovo godinu kasnije, pa je jasno da ti napori nijesu funkcionisali. I baš ove sedmice, Rej je izvela isti trik i navela Google da ljudima kaže da je jedan SEO stručnjak dobar u pravljenju kula od pijeska.

Rej i Čata takođe kažu da su posljednjih mjeseci primijetili značajne promjene koje ukazuju na to da Google i druge kompanije eksperimentišu s rješenjima.

Na primjer, Rej kaže da izgleda kao da Google i ChatGPT tiho uklanjaju kompanije iz svojih AI odgovora kada posumnjaju da promovišu same sebe. „Dakle, ako objavite listu u kojoj kažete da ste najbolji u jedenju hot-dogova, neće uključiti vaše ime”, kaže Rej. „Možda će i dalje citirati vaš članak, ali ćete biti uklonjeni iz razmatranja.”

Lično sam primijetio neke primjere u kojima Google i drugi AI alati dodaju više oznaka svojim odgovorima, obavještavajući vas da četbot nije siguran u svoje odgovore. Drugi su takođe primijetili da su ChatGPT i Claude, AI koji je napravila kompanija Anthropic, počeli izričito da govore da pokušavaju da iskorijene spam u odgovorima na neke upite. Rej kaže da je primijetila kako Google dodaje više ograda i preporučuje da pogledate recenzije trećih strana kada postavljate pitanja u vezi sa nekim odlukama o kupovini.

Nijedna od ovih kompanija nije htjela da potvrdi te promjene kada sam ih pitao. OpenAI i Anthropic su odbili da komentarišu. Googleov portparol nije odgovorio na moja pitanja o tome.

Uprkos tome, Čata je skeptičan da će ovakve promjene biti dovoljne. „Google igra igru udaranja krtica”, kaže on. „Najavljuju [ažuriranje politike] kako bi odvratili ljude, ali taktike će se samo promijeniti.”

On već vidi da se to dešava. Dok Google suzbija manipulativne blog postove, kompanije pronalaze suptilnije načine da se promovišu. „Možete kazniti kompaniju zbog njenog sajta”, kaže on, „ali ništa ih ne sprječava da plate 20 YouTube influensera da kažu da je njihov proizvod najbolji.” A sada Googleov AI citira YouTube video-snimke. Ciklus se nastavlja.

Za sada će manipulatori vjerovatno ostati korak ispred. Rej kaže da je najbolja odbrana zapamtiti šta AI zapravo jeste: alat koji samouvjereno daje jedan odgovor, bio on tačan ili pogrešan. Samo zato što izgleda kao da vam se obraća velika tehnološka kompanija, a ne neki nasumični veb-sajt, ne znači da mu treba vjerovati.