Fotografijama djece više nije mjesto na internetu

Dvije fotografije nastale su kao tipični tinejdžerski selfiji: gledanje u ogledalo, potpuno obučeni. Ali kada su onlajn predatori došli do tih slika i provukli ih kroz alat za generisanje slika pomoću vještačke inteligencije, one su postale osnova za ekstremne pornografske video-snimke.

Ovi primjeri dolaze iz servisa Report Remove, koji omogućava djeci čije su eksplicitne fotografije distribuirane bez njihovog pristanka da povjerljivo prijave sliku i zatraže da bude blokirana ili uklonjena sa društvenih mreža. Zbog proboja u razvoju vještačke inteligencije i široke dostupnosti AI modela i aplikacija za “skidanje” odjeće sa fotografija, neka maloljetna lica postaju žrtve čak i bez ikakvog kontakta sa kriminalcima.

Ova dva slučaja, prema pisanju “Gardijana” pokazuju zašto su britanska Nacionalna agencija za kriminal (NCA) i Internet Watch Foundation (IWF), organizacija za zaštitu djece na internetu, izdale smjernice u kojima roditeljima savjetuju da razmotre ograničavanje vidljivosti porodičnih fotografija, na primjer tako što će profile na društvenim mrežama učiniti privatnim i fotografije djece dijeliti samo u grupama “bliskih prijatelja”.

U smjernicama se takođe preporučuje pregled naloga na društvenim mrežama radi starih fotografija koje bi predatori mogli da iskoriste, kao i ponovno razmatranje saglasnosti za korišćenje fotografija, na primjer sa školama ili sportskim klubovima, koje su možda potpisane prije nego što je napredak vještačke inteligencije omogućio manipulaciju slikama.

Smjernice navode tri mjere: provjeru podešavanja privatnosti na nalozima društvenih mreža; pregled toga ko može da vidi slike njihove djece; i otvorene razgovore o davanju dozvole ljudima i organizacijama da objavljuju slike na internetu.

“Prosječan roditelj ili staratelj ne objavljuje fotografiju djeteta na internetu misleći da bi ona mogla biti preuzeta i pretvorena u materijal seksualnog zlostavljanja djece”, rekla je za Gardijan Lorna Sinkler, menadžerka za edukaciju o seksualnom zlostavljanju djece u NCA. “Mnogo je roditelja i staratelja koji ne znaju da ovaj problem postoji.”

Objavljivanje smjernica uslijedilo je i nakon slučajeva u kojima su sajtovi škola u Ujedinjenom Kraljevstvu bili meta ucjenjivača, koji su preuzimali fotografije djece, koristili AI alate da ih pretvore u materijal seksualnog zlostavljanja djece, a zatim prijetili da će objaviti rezultate.

Obje organizacije tvrde da roditeljima ne govore šta da rade, već žele da budu svjesni problema i da znaju koje korake mogu preduzeti. Podaci pokazuju da je vještačka inteligencija sve veći izvor materijala seksualnog zlostavljanja djece. Količina materijala seksualnog zlostavljanja djece generisanog vještačkom inteligencijom, pronađenog na internetu, porasla je prošle godine za 14 odsto, prema IWF-u, koji je 2025. identifikovao 8.029 realističnih slika i video-snimaka takvog materijala napravljenih pomoću AI, navodi britanski list.

Prosječan roditelj ili staratelj ne objavljuje fotografiju djeteta na internetu misleći da bi ona mogla biti preuzeta i pretvorena u materijal seksualnog zlostavljanja djece. Mnogo je roditelja i staratelja koji ne znaju da ovaj problem postoji, kazala je Sinkler

Den Sekston, glavni direktor za tehnologiju u IWF-u, rekao je za “Gardijan” da se osjeća “veoma neprijatno” kada roditeljima govori da ne objavljuju fotografije svoje djece javno, ali smatra da nema drugu opciju jer, prema njegovim riječima, nema dovoljno zaštite od ove tehnologije.

Generalni sekretar Ujedinjenih nacija Antonio Gutereš upozorio je u ponedjeljak da se vještačka inteligencija razvija brže nego što bilo ko može da isprati, pozivajući na globalno usklađena pravila kako bi se smanjili potencijalni rizici - posebno za djecu.

“Tehnologija koja može preoblikovati ekonomije, transformisati svijet rada, uticati na izbore i promijeniti ravnotežu bezbjednosti uvodi se brže nego što bilo ko, uključujući ljude koji je stvaraju, može da isprati”, rekao je Gutereš delegatima na prvom globalnom dijalogu o vještačkoj inteligenciji na nivou vlada u Ženevi.

“Inovacijama su potrebne zaštitne ograde... Ako vještačka inteligencija treba da bude moćna, mora biti i regulisana”, poručio je Gutereš delegatima.

Gutereš je naglasio da globalno usklađena pravila o vještačkoj inteligenciji moraju dati prioritet bezbjednosti djece, nakon primjera u kojima su maloljetnici usmjeravani ka samopovređivanju i obmanjivani mašinama koje su se predstavljale kao prijatelji.

“Ne dozvoljavamo da lijek dođe do djeteta dok se ne dokaže da je bezbjedan. Testiramo svaku igračku. Ipak, vještačka inteligencija je stigla do naše djece - njihovog učenja, njihovih prijateljstava, njihovih najprivatnijih pitanja - prije nego što je iko pitao šta će im učiniti”, rekao je.

On je, kako prenosi Rojters, pozvao na Zavjet o bezbjednosti djece u oblasti vještačke inteligencije, prema kojem bi kompanije koje razvijaju sisteme morale da dokažu da su bezbjedni prije nego što ih učine dostupnim djeci. Sistemi takođe ne bi smjeli da generišu seksualne slike djece, a kada dijete pokaže znakove uznemirenosti, sistem bi trebalo da se zaustavi i poveže ga sa čovjekom koji može da pomogne.

Vlada Ujedinjenog Kraljevstva već uvodi ograničenja, uključujući i to da bude nezakonito posjedovati, praviti ili distribuirati AI alate namijenjene za generisanje materijala seksualnog zlostavljanja djece. Takođe daje tehnološkim kompanijama i agencijama za zaštitu djece ovlašćenje da testiraju da li alati vještačke inteligencije mogu proizvoditi slike zlostavljanja djece.

Sekston priznaje da dugoročno rješenje ne može biti uklanjanje fotografija sa javnih naloga na društvenim mrežama. On želi zakonodavstvo za AI modele koje bi zahtijevalo da budu “bezbjedni po dizajnu”, princip na koji se pozivaju aktivisti za bezbjednost na internetu, koji traže da platforme društvenih mreža budu građene odgovorno, uz dobrobit korisnika kao osnovni cilj. “Ljudi koriste izraz bezbjednost po dizajnu, ali ja to ovdje ne vidim”, kazao je on za Gardijan.

Portparol vlade rekao je da je zakon Ujedinjenog Kraljevstva “jasan” kada je riječ o nezakonitosti stvaranja, posjedovanja ili distribuiranja materijala seksualnog zlostavljanja djece, uključujući sadržaj generisan vještačkom inteligencijom, i da takav materijal mora biti proaktivno uklanjan sa tehnoloških platformi prema Zakonu o bezbjednosti na internetu.

Portparol je dodao: “Nećemo oklijevati da idemo dalje kako bismo zaštitili djecu.”

Sekston kaže da pedofili koriste različite AI alate u kombinaciji kako bi stvarali slike i video-snimke, uključujući AI modele “otvorenog koda”, koji se mogu slobodno preuzimati i prilagođavati korisnicima.

IWF navodi da je već sada postalo gotovo nemoguće razlikovati stvarne fotografije seksualnog zlostavljanja djece od materijala generisanog vještačkom inteligencijom. Takav sadržaj je takođe nezakonit u Ujedinjenom Kraljevstvu, ali to znači da vlasti mogu imati poteškoća da razlikuju žrtve koje su u stvarnoj opasnosti od deepfake sadržaja.

AI video-snimci se, prema riječima Sekstona, još mogu razlikovati od stvarnosti uz pomoć analitičara IWF-a, ali uglavnom je jedini način da se sa sigurnošću utvrdi porijeklo materijala to da se vidi da li pedofili na dark webu preuzimaju zasluge za određene slike.

“Jedini način na koji znamo jeste kada vidimo da autori ukazuju na ono što su stvorili”, kaže on, dodajući da bi razlikovanje AI sadržaja od stvarnosti moglo ostati stalna borba.

“To je problem koji mora biti riješen. Ali ne znam da li se može riješiti na nivou tačnosti koji nam je potreban, jer se tehnologija stalno mijenja”, kaže on.

Lorna Sinkler, menadžerka za edukaciju o seksualnom zlostavljanju djece u NCA, kaže da je cilj novih smjernica agencije da ukažu na opasnost za koju mnogi roditelji i staratelji ne znaju da postoji. Počinioci ponavljaju već dobro poznat obrazac - među prvima koriste tehnološke promjene.

“Kao društvo još učimo o vještačkoj inteligenciji i o tome kako se koristi u svakodnevnom životu”, kaže ona. “Učimo o koristima, ali i o tome kako se ova tehnologija može zloupotrijebiti. Realnost je da će počinioci uvijek biti među prvim korisnicima tehnološkog napretka”.

( N.B. )