Nove smjernice preporučuju roditeljima da fotografije svoje djece dijele isključivo u zatvorenim grupama ili da postavke privatnosti na društvenim mrežama prilagode.
Britanska Nacionalna agencija za borbu protiv kriminala (NCA) upozorila je roditelje da budu oprezni prilikom objavljivanja fotografija djece na internetu, jer kriminalci uz pomoć umjetne inteligencije mogu zloupotrijebiti te fotografije i pretvoriti ih u eksplicitan sadržaj.
Stručnjaci ističu da ovakve zloupotrebe postaju sve češće i pozivaju roditelje da bolje zaštite privatnost svoje djece na društvenim mrežama.
Umjetna inteligencija sve češće alat za ucjene
NCA i Fondacija za nadzor interneta (IWF) objavili su nove smjernice s ciljem zaštite djece od sve učestalije zloupotrebe umjetne inteligencije za izradu materijala koji prikazuje seksualno zlostavljanje djece.
Povod za upozorenje bio je slučaj iz Velike Britanije u kojem su kriminalne grupe iskoristile javno dostupne fotografije učenika jedne škole. Pomoću umjetne inteligencije napravili su lažni eksplicitni sadržaj, a zatim prijetili njegovom objavom ukoliko ne dobiju novac.
Prema podacima IWF-a, analitičari su tokom 2025. godine otkrili čak 3.400 videosnimaka generisanih umjetnom inteligencijom, dok ih je godinu ranije bilo svega 13.
"Ova prijetnja je veoma uznemirujuća", rekao je izvršni direktor IWF-a Kerry Smith.
"Ne želimo poručiti roditeljima da nikada ne dijele fotografije svoje djece s porodicom i prijateljima kojima vjeruju. Želimo da budu svjesni mogućih rizika i da na osnovu svih činjenica donose informisane odluke", istakao je Smith.
Posljedice mogu biti dugoročne
Smith upozorava da posljedice ovakvih zloupotreba mogu biti veoma ozbiljne.
"Šteta je stvarna, a mogućnost dugoročnih posljedica nešto je što svaki roditelj želi spriječiti", poručio je.
Organizacije upozoravaju da s razvojem tehnologije sadržaj koji prikazuje seksualno zlostavljanje djece postaje sve uvjerljiviji i dostupniji. Istovremeno, takvi sadržaji postaju sve brutalniji.
Podaci pokazuju da je 65 posto od ukupno 3.443 videosnimka generisana umjetnom inteligencijom tokom 2025. godine svrstano u kategoriju A prema britanskom krivičnom zakonu, što znači da prikazuju najteža krivična djela, uključujući silovanje i seksualno mučenje.
Savjeti roditeljima
Nove smjernice preporučuju roditeljima da fotografije svoje djece dijele isključivo u zatvorenim grupama ili da postavke privatnosti na društvenim mrežama prilagode tako da objave mogu vidjeti samo osobe kojima vjeruju.
IWF je uputio poziv i tehnološkim kompanijama da prije nego što svoje AI modele učine dostupnim korisnicima uvedu snažne zaštitne mehanizme kako bi spriječile njihovu zloupotrebu za izradu materijala koji prikazuje seksualno zlostavljanje djece.
