Het nieuwe gezicht van digitaal misbruik
Ervaringen van kinderen met naaktdeepfakes
De opkomst van generatieve AI-tools heeft het gemakkelijker gemaakt om realistische seksuele deepfakes te produceren. Naaktdeepfakes vormen ongeveer 98% van alle deepfakes.
99% van de naaktdeepfakes bevat vrouwen en meisjes. Bekijk hieronder ons rapport dat de opkomst van deepfakes in klaslokalen onderzoekt en onze aanbevelingen over hoe dit aan te pakken.
Over ons onderzoek naar naaktdeepfakes
Jongeren worstelen met veel sociale en emotionele veranderingen in hun tienerjaren: ze ontdekken wie ze zijn, hoe ze hun emoties kunnen identificeren en beheren, en ontwikkelen een gevoel voor hoe ze passen in bredere peer groups. Gezien het belang van technologie in het moderne leven, spelen sommige van deze veranderingen zich af in online ruimtes.
Om jongeren te ondersteunen tijdens de ups en downs van de adolescentie, is het van groot belang om te begrijpen hoe onlineplatformen hun ontwikkeling beïnvloeden.
Belangrijkste bevindingen
De meeste gezinnen hebben weinig tot geen verstand van deepfakes.
Bijna twee derde van de kinderen en bijna de helft van alle ouders zegt dat ze de term 'deepfake' niet kennen of begrijpen.
Seksueel misbruik van kinderen vindt plaats door middel van nudisering.
Hoewel de meeste nudify-sites het produceren van deepfake-seksuele afbeeldingen met kinderen verbieden, zijn deze beperkingen vaak gemakkelijk te omzeilen.
Jongens en kwetsbare kinderen hebben vaker te maken gehad met een deepfake naaktfoto.
Tienerjongens geven twee keer zo vaak aan ervaring te hebben gehad met een naaktdeepfake als tienermeisjes. 25% van de kwetsbare kinderen zegt ervaring te hebben met een naaktdeepfake, vergeleken met 11% van de niet-kwetsbare kinderen.
Het aantal deepfakes online is snel toegenomen.
Bewijs suggereert dat de meerderheid van deepfakes voor schadelijke doeleinden wordt gebruikt. Bovendien is het moeilijk om de ware omvang van deepfakes die online circuleren vast te stellen.
Tieners vinden deepfake-naaktbeelden erger dan seksueel misbruik met echte beelden.
De redenen die tieners noemden, waren onder andere een gebrek aan autonomie over of bewustzijn van de afbeelding, de anonimiteit van de dader, hoe de afbeelding gemanipuleerd zou kunnen worden en de angst dat mensen zouden denken dat de afbeelding echt is.
Families zijn het erover eens dat de overheid en het bedrijfsleven meer moeten doen om deepfakes met naaktfoto's aan te pakken.
De meerderheid van de tieners en ouders vinden dat nudizing tools voor iedereen in het Verenigd Koninkrijk verboden moeten worden, inclusief volwassenen. Families zijn het er ook over eens dat er meer educatie nodig is over dit onderwerp.
Nudify-tools zijn online volop beschikbaar.
Deze AI-modellen, die de kleding van afbeeldingen van echte mensen, waaronder kinderen, ontdoen, komen steeds vaker voor dankzij de ontwikkeling van GenAI.
Een aanzienlijk aantal kinderen heeft ervaring met een deepfake naaktfoto.
13% van de tieners zegt enige ervaring te hebben met naaktdeepfakes. Dit komt overeen met ongeveer 4 kinderen in een klas van 30, oftewel bijna een half miljoen tieners in het Verenigd Koninkrijk.
Er zijn wetgeving en maatregelen van de industrie nodig om kinderen te beschermen tegen seksueel misbruik via deepfakes.
Van ouders en scholen kan en mag niet worden verwacht dat zij alleen kinderen beschermen. Wij roepen de regering op om nudify-tools als prioriteit in dit parlement te verbieden.
