Ouders en kinderen zeggen: verbied nudizing-apps

Met de opkomst van AI-technologieën zijn er online nieuwe bedreigingen voor kinderen ontstaan, waaronder naaktdeepfakes. Naaktdeepfakes zijn seksuele beelden die met AI-nudificatietools zijn gemaakt op basis van afbeeldingen van echte mensen, waaronder kinderen.

Vorig jaar nam online deepfake seksuele content met meer dan 400% toe. Ons onderzoek toont ook aan dat naar schatting een half miljoen kinderen (13%) al een naaktdeepfake online hebben meegemaakt. Dit omvat het tegenkomen van een deepfake op een website, het ontvangen van een deepfake van een vriend of het zelf gebruiken van een nudificerende app.

Het is nu snel, goedkoop en makkelijk om zeer overtuigende naaktfoto's en video's te genereren met echte mensen met een klik op een paar knoppen. Platforms hebben moeite gedaan om nudificerende tools te verwijderen wanneer ze die tegenkomen. Ze blijven echter toegankelijk in app stores en zijn gebruikelijk in zoekresultaten van reguliere zoekmachines.

Deepfake naaktfoto's kunnen een grote impact hebben op kinderen, onder andere door misbruik en intimidatie. Slachtoffers van dit misbruik kunnen hierdoor PTSS, depressie, angst en zelfs suïcidale gedachten ervaren. Ze kunnen ook bang zijn voor fysiek geweld, als een dader zijn of haar persoonlijke gegevens deelt met de afbeelding.

Sterker nog, de meeste tieners (55%) vinden dat een naakt deepfake-afbeelding die van hen is gemaakt en gedeeld erger zou zijn dan een echte afbeelding. Toen hen werd gevraagd waarom, noemden tieners:

• het verlies van lichamelijke autonomie voelen
• bezorgdheid dat ze misschien niet wisten dat het bestond, wie het had gemaakt of waarom
• de angst die het zou kunnen veroorzaken. Dit omvatte vrienden, leraren en ouders die dachten dat het echt was en hen anders zagen. Ze waren ook bang dat de afbeelding hen volledig verkeerd zou kunnen voorstellen.

Hoewel dit probleem zowel jongens als meisjes treft, zijn 99% van de naaktdeepfakes die gemaakt worden van vrouwen en meisjes. Bovendien werken veel nudificerende tools niet op afbeeldingen van jongens en mannen. Ons onderzoek suggereert dat naaktdeepfakes een andere tool worden die gebruikt wordt om geweld te plegen tegen vrouwen en meisjes.

Het maken, bezitten of delen van een naakt deepfake-afbeelding van een kind is illegaal en wordt geclassificeerd als Materiaal met seksueel misbruik van kinderen (CSAM)De gereedschappen waarmee ze worden gemaakt, zijn echter momenteel niet illegaal en kinderen komen er steeds vaker mee in aanraking.

Verbod op nudificerende tools

Uit ons onderzoek blijkt dat 84% van de tieners en 80% van de ouders voorstander is van een verbod op naakte content voor iedereen in het Verenigd Koninkrijk, inclusief volwassenen.

In het Lagerhuis, parlementslid Jess Asato drong er bij de regering op aan om naar de stem van ouders en kinderen te luisteren over dit onderwerp door nudizing-apps te verbieden.

Mevrouw Asato zei: "De opkomst van naakt deepfakes is een steeds zorgwekkender probleem - met name op scholen. Onderzoek door Internet Matters heeft aangetoond welke schade het kinderen al toebrengt - en de potentie van de technologie voor nog grotere schade. Door nudizing-programma's gemakkelijk toegankelijk te laten blijven, brengen we onze kinderen in gevaar om schade te lijden en zelfs gecriminaliseerd te worden. Daarom heb ik de regering opgeroepen om nudizing-tools en -apps te verbieden."

Het verbieden van nudificerende tools was een van de belangrijkste aanbevelingen in ons rapport, Het nieuwe gezicht van digitaal misbruik: ervaringen van kinderen met naaktdeepfakes.

De verantwoordelijkheid om kinderen te beschermen tegen deepfake seksueel misbruik kan niet bij scholen en ouders liggen. De industrie en de overheid moeten ingrijpen. Het verbieden van nudizing tools zou helpen om kinderen te beschermen tegen schade online. Bovendien zou het de ambitieuze doelstelling van de overheid ondersteunen om geweld tegen vrouwen en meisjes in het komende decennium te halveren.