Vještačka inteligencija u službi ponižavanja žena

Mirjam al Adib i dalje je bijesna. “Operaterima Clothoffa stalo je jedino do novca. Očigledno ih uopšte ne zanimaju posljedice koje njihova aplikacija ima po mlade žene.”

Ova španska ginekološkinja zna o čemu govori. U septembru 2023. godine, uz pomoć alata vještačke inteligencije (AI) koji nudi aplikacija Clothoff, proizvedene su lažne nage fotografije njene kćerke, tada 14-godišnjakinje. Te slike su počele da cirkulišu po lokalnim WhatsApp grupama u njihovom rodnom gradu, a djevojčicu su dječaci presretali na ulici i zadirkivali zbog tih fotografija.

“Da ne znam kako moja kćerka izgleda naga, pomislila bih da su slike prave”, kaže Al Adib.

Njena kćerka nije bila jedina žrtva. Najmanje 20 djevojčica, uzrasta između 11 i 17 godina, iz četiri različite škole u španskom gradu Almendraljeho, bile su digitalno “svučene” protiv svoje volje uz pomoć te aplikacije. Njihovi roditelji su udružili snage da uzvrate.

Nage slike generisane pomoću AI predstavljaju novi i često zanemareni oblik sajber-nasilja, kaže Al Adib.

“Takve AI slike mogu biti izuzetno opasne po psihu mladih ljudi”, upozorava doktorka, koja vodi više centara za zdravlje žena u Španiji. “Odmah mi je palo na pamet: već je bilo slučajeva u kojima su žrtve sajber-nasilja iz očaja počinile samoubistvo”, prisjetila se trenutka šoka kada je prvi put ugledala lažne nage fotografije svoje kćerke.

“Špigl” je prvi put izvještavao o globalno rastućem problemu lažne (deepfake) pornografije u decembru 2024. godine. Sada, svjedočenja i dokumenta jednog insajdera otkrivaju koliko je taj posao unosan - i koliko su beskrupulozni ljudi koji iza njega stoje.

I mlade žene u Njemačkoj bile su žrtve ovakvih napada.

“Znam za škole u kojima su dječaci pravili lažne nage slike školskih drugarica kako bi ih zlostavljali i narušili im ugled”, kaže medijska pedagoškinja Saskia Nakari iz državnog medijskog centra u Baden-Virtembergu. Ona edukuje nastavnike i roditelje o rizicima digitalnog nasilja i vodi podkast na tu temu. Pored traumatskih posljedica za same žrtve, ovakve aplikacije prenose i opasno iskrivljenu sliku o seksualnosti, upozorava Nakari. Ipak, dodaje, neke škole i dalje ne shvataju ozbiljno ovaj problem.

“Bojim se da bi uskoro moglo biti još više slučajeva zlostavljanja pomoću lažnih nagih slika upravo zbog napretka u razvoju AI”.

Počinioci u Španiji potiču iz grupe od 15 maloljetnih lokalnih dječaka. U slučaju kćerke Mirjam al Adib, iskoristili su stvarnu fotografiju s njenog javno dostupnog WhatsApp statusa i postavili je na Clothoff. Aplikacija je, uz pomoć AI programa, generisala nagu sliku. Za ostale djevojčice uzimali su slike s njihovih Instagram profila ili su ih fotografisali dok su igrale odbojku.

Dječacima su u međuvremenu izrečene uslovne kazne od godinu dana zbog distribucije dječje pornografije. Budući da je presude donio sud za maloljetnike, nije javno objavljeno koji je od njih snosio koliki dio odgovornosti. Al Adib je ipak zadovoljna načinom na koji je grad postupio u ovom slučaju - roditelji obje strane postigli su dogovor na sudu.

“Djevojčice su dobile pravdu, a nadam se da su dječaci iz toga nešto naučili.”

Ono što Al Adib ne može prihvatiti je činjenica da slučaj dosad nije imao nikakve posljedice za ljude koji stoje iza aplikacije Clothoff.

“Smatram neetičnim to što zločini poput onog počinjenog nad mojom kćerkom i brojnim drugim djevojkama širom svijeta mogu i dalje da se događaju”, rekla je za “Špigl” početkom juna.

Clothoff je takozvana “nudify” (svlačenje) aplikacija. U posljednje dvije godine razvilo se globalno tržište koje rapidno raste, sa više od 60 novih servisa ovog tipa. Svi funkcionišu po sličnom principu: uz svega nekoliko klikova, AI pretvara običnu fotografiju u sliku u bikiniju ili potpuno nagu verziju. Ovakve lažne fotografije žena koje nisu ni znale da su slikane postali su jedna od zanemarenih opasnosti razvoja vještačke inteligencije.

Nudify aplikacije nisu sakrivene u opskurnim forumima niti na porno-platformama, već su slobodno dostupne na internetu. Jedino ograničenje je što mnoge od tih aplikacija funkcionišu isključivo sa tijelima žena. AI programi koje koriste očigledno nikada nisu trenirani da generišu nage slike muškaraca. Slike žena u donjem vešu obično su besplatne, dok se lažirane fotografije sa subjektima u tipičnim pornografskim pozama prodaju za svega nekoliko eura.

Uz svega nekoliko klikova, AI pretvara običnu fotografiju u sliku u bikiniju ili potpuno nagu verziju. Ovakve lažne fotografije žena koje nisu ni znale da su slikane postali su jedna od zanemarenih opasnosti razvoja vještačke inteligencije

Clothoff je jedna od vodećih aplikacija na tržištu. Samo u prvih šest mjeseci 2024. godine, prema navodima same kompanije, njihovu veb stranicu posjetilo je 27 miliona korisnika, a program dnevno generiše oko 200.000 slika. Hiljade žena najvjerovatnije su postale žrtve ove aplikacije. Kreatori Clothoffa spadaju među najbeskrupuloznije operatere u oblasti ‘nudify’ tehnologije. Oni nude foto-montaže sa ženama u školskim uniformama i trudnicama u seksualnim pozama. Nedavno su počeli da reklamiraju i mogućnost izrade lažnih videa iz jedne fotografije. Po informacijama iz same kompanije, ta funkcija već je korišćena više od milion puta.

Javni funkcioneri San Franciska su u avgustu 2024. godine objavili tužbu protiv Clothoffa i drugih srodnih nudify aplikacija. Zahtijevali su obustavu rada ovih servisa zbog distribucije dječje i maloljetničke pornografije. Dodatni podstrek za istražitelje iz srca Silicijumske doline vjerovatno je bila i pojava više slučajeva u školama širom države, gdje su kružile nage slike djevojčica napravljene uz pomoć AI.

Do sada su, međutim, zvaničnici imali samo djelimičan uspjeh u identifikovanju osoba koje stoje iza ovih aplikacija ili u pokušajima da ih natjeraju da obustave svoje usluge. Operateri Clothoffa, u svakom slučaju, ne djeluju nimalo pogođeni tužbom.

Zviždač

Koliko je zapravo postao unosan posao Clothoffa vidi se iz izjava uzbunjivača koji ima pristup internim podacima kompanije. Raditi za ovu aplikaciju, kaže, u početku je djelovalo kao da ste dio uzbudljivog startapa. “Ali vremenom su ljudi postajali sve ciničniji i opsjednuti novcem.” Zbog sopstvene bezbjednosti i straha od moguće odmazde kompanije, njegov identitet nije otkriven. I on je prvobitno ušao u projekat nadajući se zaradi, ali danas osjeća djelimičnu odgovornost za ono što je Clothoff postao. Upravo zato je odlučio da istupi u javnost.

“Clothoff je kupio čitavu mrežu nudify aplikacija”, kazao je zviždač. Istraživanje “Špigla”, uz pomoć tragova s interneta i izvoda iz poslovnog registra, potvrđuje da Clothoff sada posjeduje još deset sličnih nudify servisa. Svi oni imaju od nekoliko stotina hiljada do nekoliko miliona mjesečnih pregleda.

Godišnji budžet samog Clothoffa, prema riječima uzbunjivača, iznosi tri miliona eura. Dokumenti koje je dostavio “Špiglu” pokazuju da za kompaniju radi više od trideset ljudi. Koliko profesionalno i drsko kompanija djeluje, vidi se i po planovima za novu, široko postavljenu marketinšku kampanju namijenjenu njemačkom tržištu, koja se interno naziva “referendum”. Postoji jasan “vremenski okvir za sprovođenje”, koji precizno određuje kada programeri ili tim za društvene mreže treba da obave koji korak.

U sklopu kampanje Clothoff planira da proizvodi nage slike poznatih influenserki, pjevačica i glumica. “Izaberi koga želiš da svučeš”, navodi se iznad liste njemačkih poznatih ličnosti, prema dokumentima iz plana. Pobjednica će ponijeti titulu ‘najseksi od svih’. Ova kampanja predstavlja izvjesnu promjenu strategije za Clothoff. Do sada su u kreiranju lažnih slika slavnih prednjačile druge platforme.

Ciljna grupa: Fanovi Endrua Tejta

“Špigl” zna imena zvijezda koje Clothoff, očigledno protiv njihove volje, koristi u svoje svrhe. Osobe bliske nekima od pogođenih kažu da su posebno zgrožene činjenicom da aplikacija poput Clothoffa, koja se može koristiti za sajber-nasilje u školama, sada, navodno, planira da koristi fotografije poznatih ličnosti u reklamne svrhe. Više zastupnika zvijezda navelo je da će preduzeti pravne postupke ukoliko marketinška kampanja bude pokrenuta. Niko od njih nije želio dalje da komentariše.

Clothoff ne planira ovu kampanju samo za Njemačku, već i za francusko, britansko i špansko tržište. Prema riječima uzbunjivača, marketinški budžet iznosi 150.000 eura po zemlji. Taj novac je namijenjen za promotivne objave na posebnim Telegram kanalima, na seksualnim forumima Reddita i na 4chanu, platformi koja je ozloglašena zbog izuzetno labavih pravila moderacije. Prema dokumentima iz kampanje, ciljana grupa su “muškarci između 16 i 35 godina”. Njihova interesovanja su “video-igre”, “internet mimovi”, “ekstremno desničarske ideje”, “mizoginija” i “Endru Tejt” - influenser koji već godinama promoviše mizogini sadržaj publici od više miliona pratilaca.

Ljudi koji stoje iza Clothoffa čine sve da prikriju svoj identitet. Impresum na web stranici je više puta mijenjan: trenutno tvrde da im je sjedište na Britanskim Djevičanskim Ostrvima, dok su ranije navodili adresu u argentinskoj prijestonici Buenos Aires. Međutim, tokom ljeta 2024. napravili su grešku. Ostavili su internu bazu podataka javno dostupnu na internetu, preko koje je “Špigl” uspio da identifikuje četiri ključne osobe koje stoje iza veb-sajta u zemljama istočne Evrope: Aleksandra G. iz Rusije, Dašu i Aleksandra B. iz Bjelorusije, i Jevgenija B. iz Ukrajine, čija je kompanija jedno vrijeme bila pomenuta u impresumu Clothoffa. Taj tridesetogodišnjak se na internetu opisuje kao neko ko cijeni iskrenost i porodicu, navodeći da radi kao veb-dizajner i umjetnik.

Uzbunjivač je za “Špigl” potvrdio da svi zaposleni Clothoffa rade u zemljama koje su nekada bile dio Sovjetskog Saveza. To se poklapa s činjenicom da je sva interna komunikacija kompanije, kojom raspolaže “Špigl”, isključivo na ruskom jeziku, a da je i imejl servis kompanije baziran u Rusiji.

“Više podsjeća na garažni startap”

Četvoro ključnih aktera nije odgovorilo na pokušaje “Špigla” da ih kontaktira za potrebe teksta objavljenog u decembru 2024. Međutim, javio se neko po imenu Elias, koji je tvrdio da je portparol aplikacije. On je rekao da mu pomenute četiri osobe nisu poznate. Pozivajući se na ugovor o povjerljivosti, dodao je da ne može davati informacije o timu i o tome ko je za šta zadužen u Clothoffu. Portparol je takođe naveo da Clothoff zabranjuje korišćenje fotografija ljudi bez njihovog pristanka i tvrdio da taj servis nema nikakve veze sa “strašnom pričom” u Almendraljehu. Takođe je naglasio da tehnologija sajta ne obrađuje fotografije maloljetnika.

Na pitanje o bazi podataka koja je greškom ostavljena otvorena na internetu, Elias je najprije rekao da kompanija nije koristila veb-servis povezan s tom bazom - ali je Clothoff uklonio podatke sa interneta nakon što je upitan za komentar. Naziv baze podataka bio je na ruskom, a može se prevesti kao “moja mala”.

Elias je negirao i da aplikacija raspolaže godišnjim budžetom većim od tri miliona dolara. Prema njegovim riječima, manje od 30 ljudi čini centralni tim, koji se i dalje bori da uopšte ostvari profit. “Više liči na garažni startap nego na veliku tehnološku kompaniju iz Silicijumske doline”, rekao je Elias.

Ljudi koji stoje iza kompanije ne trude se samo da prikriju sopstveni identitet, već garantuju anonimnost i svojim korisnicima.

“Ne čuvamo nikakve podatke”, piše u impresumu. Ali to očigledno nije tačno. Jedan izvor je dostavio “Špiglu” listu imejl adresa hiljada korisnika koji su platili aplikaciji kako bi dobili pristup eksplicitnijim sadržajima. Među njima je i veliki broj korisnika iz zemalja njemačkog govornog područja.

Jedan od njih je 49-godišnji otac iz Švajcarske. Kada je s njim “Špigl” kontaktirao i pitao za Clothoff, s druge strane se začuo nervozan smijeh. Pristao je da razgovara pod uslovom da ostane anoniman. Rekao je da je potrošio oko 40 eura na aplikaciju i napravio nage slike i lažne pornografske fotografije poznatih američkih pjevačica.

“Poželio sam da isprobam, a naravno, bilo je to i iz požude”, rekao je, zvučeći posramljeno.

Neke slike su, kaže, bile očigledno vještačke, ali druge su djelovale veoma uvjerljivo. Prisjeća se i situacije kada aplikacija nije htjela da obradi fotografiju jer je pjevačica na njoj djelovala kao da je maloljetna. Tri dana kasnije istu fotografiju je ponovo postavio i tada ju je aplikacija bez problema obradila.

Kada mu je skrenuta pažnja da pomenuta američka pjevačica nikada nije dala dozvolu za pravljenje lažnih seksualnih slika, odgovorio je: “Ali tih slika već ima dovoljno po internetu”.

Švajcarac nije smatrao da je učinio nešto loše. Tvrdi da slike nikada nije dijelio, već ih je čuvao samo lokalno. Tek je iz razgovora s novinarima “Špigla” saznao da je protivzakonito proizvoditi takve slike bez pristanka osobe koja je na njima. “Neću zbog toga deinstalirati aplikaciju”.

Ipak, tvrdio je da nikada ne bi fotografisao privatne osobe i postavljao njihove slike u Clothoff.

“Kad bih ikada saznao da neko pravi takve fotografije moje kćerke, bio bih zgrožen”, rekao je.

Priredila: A.Š.

( “Špigl” )