Djeca u Velikoj Britaniji sve češće prijavljuju pojavu eksplicitnih deepfake fotografija na kojima su prikazana, nakon što su nadzorna tijela za sigurnost upozorila da razvoj umjetne inteligencije (AI) drastično olakšava proizvodnju ovakvog uznemirujućeg sadržaja.
Servis za uklanjanje intimnih slika koji radi na blokiranju njihovog širenja internetom, saopćio je da je došlo do naglog porasta broja digitalno manipulisanih i lažiranih fotografija, prvenstveno kroz upotrebu AI tehnologije i alata za “skidanje odjeće”.
U prvih šest mjeseci ove godine, servis je zaprimio 420 prijava od djece koja su prijavila fotografije za koje vjeruju da su lažirane ili manipulisane kako bi izgledale eksplicitno. Ovaj broj je već sada premašio ukupan broj od 397 prijava zabilježenih tokom cijele 2025. godine.
Neke od žrtava koje su kontaktirale servis “Report Remove” bile su meta takozvanog seksualnog iznuđivanja (sextortion).
Ucjenjivači su prijetili objavljivanjem manipulisanog materijala ukoliko ne dobiju finansijsku naknadu ili još eksplicitnije prave fotografije od žrtve.
“Ovo je jedna od štetnih posljedica od kojih smo strahovali kada smo prvi put vidjeli generatore slika umjetne inteligencije- da će se koristiti za stvaranje materijala o seksualnom zlostavljanju sa stvarnom djecom”, upozorava Dan Sexton, glavni tehnološki direktor u Fondaciji za nadzor interneta (IWF).
Program “Report Remove”, kojim IWF upravlja zajedno s dječjom humanitarnom organizacijom NSPCC, posljednjih godina prima toliko prijava o lažiranim fotografijama od osoba mlađih od 18 godina, da su u svoj online obrazac morali dodati posebnu opciju koja korisnicima omogućava da materijal označe kao “lažan”.
Sexton ističe da brojke naglašavaju koliko je teško spriječiti zloupotrebu u doba široko dostupnih AI alata.
“Ako neko može uzeti običnu, benignu sliku djeteta s interneta i od nje stvoriti materijal o seksualnom zlostavljanju, dijete tu ne može učiniti apsolutno ništa da to spriječi – osim da se uopće ne fotografiše ili da ne objavljuje svoje slike na internetu”, rekao je.
IWF napominje da je većina manipulisanih slika prijavljenih u 2025. i 2026. godini bila toliko ozbiljna da je prešla prag legalnosti.
