Broj videozapisa seksualnog zlostavljanja djece koji su generirani uz pomoć umjetne inteligencije (AI) eksplozivno raste i izaziva ozbiljnu zabrinutost među stručnjacima i borcima protiv zlostavljanja djece.
Prema podacima međunarodnih nadzornih organizacija, tijekom prvih šest mjeseci 2025. godine identificirano je čak 1286 AI-generiranih videa koji prikazuju zlostavljanje djece. Za usporedbu, u istom razdoblju prošle godine otkrivena su samo dva takva slučaja. Riječ je o drastičnom porastu koji stručnjaci nazivaju alarmantnim.
Ti materijali pripadaju takozvanoj kategoriji A – što je klasifikacija za najteže i najteže oblike seksualnog zlostavljanja djece.
Organizacija IWF (Internet Watch Foundation), koja prati i prijavljuje ovakve sadržaje, upozorava da se AI-generirani materijali sve više oslanjaju na stvarne identitete i slike žrtava. Videozapisi postaju toliko uvjerljivi da ih je iznimno teško razlikovati od autentičnih snimki zločina.
U izvješću se ističe da se zahvaljujući napretku tehnologije i širokoj dostupnosti alata za generiranje slika i videa, ovakvi sadržaji mogu stvarati brzo, masovno i gotovo bez tehničkog znanja. Zbog toga se strahuje da bi internet uskoro mogao biti preplavljen pseudo-dokumentacijom seksualnog zlostavljanja djece.
“Stvaramo savršenu oluju”, navodi se u izvješću IWF-a. “Tehnologija se koristi za stvaranje materijala koji potiče zlostavljanje, normalizira nasilje nad djecom i dodatno traumatizira postojeće žrtve.”
Osim užasnog utjecaja koji ti sadržaji imaju na stvarne ljude, postoji i realna opasnost da će njihovo širenje potaknuti i druge oblike kriminala – poput trgovine djecom, seksualne eksploatacije te modernih oblika ropstva.
Zakonodavni okvir, barem u nekim zemljama, već uključuje ovakve slučajeve. Primjerice, u Ujedinjenom Kraljevstvu Zakon o zaštiti djece iz 1978. kriminalizira i izradu, distribuciju i posjedovanje nepristojnih slika ili pseudo-fotografija djece – u što spadaju i sadržaji koje stvara umjetna inteligencija.
Organizacije za zaštitu djece i stručnjaci za digitalnu sigurnost pozivaju na hitno djelovanje, uključujući strožu regulaciju AI tehnologije, bržu detekciju i uklanjanje takvog sadržaja te jaču međunarodnu suradnju u borbi protiv digitalnog iskorištavanja djece, piše Net.hr.
