Malezija i Indonezija postale su prve zemlje koje su blokirale Grok, četbot za vještačku inteligenciju koji je napravila kompanija Ilona Maska IksAI (xAI), zbog bojazni da se program zloupotrebljava za generisanje slika sa motivima eksplicitnog i nekonsenzualnog seksa.
Sve je jača kontrola generativnih veštačkih alata koji mogu da proizvedu realistične slike, zvuk i tekst, a raste i zabrinutost da postojeće mjere ne uspijevaju da spriječe njihovu zloupotrebu.
Četbot Grok, kome se pristupa preko Maskove platforme Iks (X), kritikovan je zbog mogućnosti da generiše manipulativne slike, uključujući prikaze žena u bikinijima, ili u seksualno eksplicitnim pozama, kao i slike sa djecom.
"Vlada smatra seksualne nekonsenzualne dipfejkove (slike u kojima se manipuliše identetom stvarnih ličnosti) ozbiljnim kršenjem ljudskih prava, dostojanstva i bezbjednosti građana u digitalnom prostoru", saopštio je indonežanski ministar za komunikacije i digitalne poslove Meutja Hafid.
Kontrola Groka jača i u Evropskoj uniji, Indiji, Francuskoj i Velikoj Britaniji, koja je danas saopštila da preduzima mjere radi kriminalizacije "aplikacija za nudifikaciju".
Britanski regulator pokrenuo je istragu o tome da li je Grok prekršio zakon dozvoljavajući korisnicima da dijele seksualizovane slike djece.
Prošle nedelje, Grok je ograničio generisanje i uređivanje slika za korisnike koji to plaćaju, nakon globalne reakcije na seksualizovane dipfejkove ljudi. Kritičari kažu da to nije u potpunosti riješilo problem.
Zahtjev za komentar koji je Asošijejted pres uputio kompaniji xAI rezultirao je automatskim odgovorom sa adrese za podršku medijima u kojem piše: "Laži medija iz prošlog doba". Ista poruka je primljena sa druge adrese ove kompanije, kada je zatražen komentar u vezi sa globalnom reakcijom na dipfejkove.
Regulatori u dvije zemlje jugoistočne Azije naveli su da postojeće kontrole ne sprječavaju stvaranje i širenje generisanog pornografskog sadržaja, posebno onog koji uključuje žene i maloljetnike.
Vlada Indonezije je privremeno blokirala pristup Groku u subotu, a Malezija u nedjelju.
Prvi nalazi su pokazali da Groku nedostaju efikasne mjere zaštite da spriječe korisnike da kreiraju i distribuiraju pornografski sadržaj zasnovan na stvarnim fotografijama stanovnika Indonezije, rekao je u Aleksandar Sabar, generalni direktor za nadzor digitalnog prostora. Kako je objasnio, takve prakse rizikuju kršenje privatnosti i prava iz fotografije, kada se tim fotografijama manipuliše ili se dijele bez pristanka.
Malezijska komisija za komunikacije i multimediju primijetila je "ponovljenu zloupotrebu" alata za generisanje nepristojnih, seksualno eksplicitnih i manipulisanih slika bez pristanka, uključujući sadržaj koji uključuje žene i maloljetnike.
Regulator je saopštio da su ovog mjeseca kompanijama Iks i IksAI izdati zahtjevi za jače mjere zaštite.
"Ograničenje je nametnuto kao preventivna i srazmjerna mjera dok pravni i regulatorni procesi traju", saopštili su, dodajući da će pristup ostati blokiran dok se ne uspostave efikasne mjere zaštite.
Pokrenut 2023. godine, Grok je besplatan za korišćenje na Iksu. Funkcija generatora slika, Grok Imagine, dodata je prošle godine i uključuje je takozvani "začinjeni" režim koji može da generiše sadržaj za odrasle.
Proteklih dana gotove sve važnije političke i estradne ličnosti u Srbiji dobile su lažne "bikini" fotografije. Naime, bilo je dovoljno da neki od korisnika "zamoli" Grok da običnu fotografiju pretvori u eksplicitnu i program bi to veoma brzo učinio.
Bonus video:
