Le nouveau visage de la maltraitance numérique

Les expériences des enfants face aux deepfakes nus

L'essor des outils d'IA générative a considérablement augmenté la facilité de production de deepfakes sexuels réalistes, les deepfakes nus représentant environ 98 % de tous les deepfakes.

99 % des deepfakes nus représentent des femmes et des filles. Découvrez notre rapport ci-dessous qui examine l'augmentation des deepfakes dans les salles de classe et nos recommandations sur la manière d'y remédier.

Voir le rapport complet

87 J'aime

À propos de notre recherche sur les deepfakes nus

Ce rapport se concentre sur la question des deepfakes de nus : des images sexuelles générées à l'aide d'outils d'IA. Dans la quasi-totalité des cas, ces images ne sont pas consensuelles et on estime que 98 % de tous les deepfakes en circulation sont de nature sexuelle. De plus, 99 % de ces deepfakes sexuels mettent en scène des femmes et des filles.

Les deepfakes de nus peuvent avoir un impact sur les enfants de plusieurs façons :

Actes sexuels entre enfants abus et harcèlement;
Perpétré par un adulte matériel pédopornographique (CSAM)Et
Sexextortion.

Dans le rapport ci-dessous, vous trouverez un résumé des développements actuels de l'IA générative (GenAI) qui ont donné lieu à des deepfakes et outils de « nudification »Le rapport fournit également des informations sur les points de vue et les expériences des familles concernant les deepfakes, y compris les deepfakes nus.

Lire le résumé

Résultats de recherche clés

La majorité des familles ont peu ou pas de compréhension des deepfakes.

Près des deux tiers des enfants et près de la moitié des parents déclarent ne pas connaître ou comprendre le terme « deepfake ».

Le volume de deepfakes a augmenté rapidement en ligne.

Les données suggèrent que la majorité des deepfakes sont utilisés à des fins néfastes. De plus, il est difficile d’établir l’ampleur réelle des deepfakes qui circulent en ligne.

Les outils Nudify sont largement disponibles en ligne.

Ces modèles d’IA qui dépouillent les images de personnes réelles, y compris d’enfants, sont devenus plus courants avec le développement de GenAI.

Les outils de nudification sont utilisés pour abuser sexuellement des enfants.

Bien que la plupart des sites de nudification interdisent la production d’images sexuelles truquées mettant en scène des enfants, ces garde-fous sont souvent faciles à contourner.

Les adolescents considèrent les abus de deepfake nus comme pires que les abus sexuels impliquant de vraies images.

Les raisons invoquées par les adolescents comprenaient le manque d’autonomie ou de conscience de l’image, l’anonymat de l’auteur, la manière dont l’image pourrait être manipulée et la crainte que les gens pensent que l’image est réelle.

Un nombre important d'enfants ont déjà été confrontés à un deepfake nu.

13 % des adolescents déclarent avoir une certaine expérience avec les deepfakes nus, ce qui équivaut à environ 4 enfants dans une classe de 30 ou près d'un demi-million d'adolescents britanniques.

Les garçons et les enfants vulnérables sont plus susceptibles d'avoir été impliqués dans un deepfake nu.

Les adolescents sont deux fois plus susceptibles que les adolescentes de signaler une expérience avec un deepfake nu. 25 % des enfants vulnérables déclarent avoir eu une expérience avec un deepfake nu, contre 11 % des enfants non vulnérables.

Les familles conviennent que le gouvernement et l’industrie doivent faire davantage pour lutter contre les deepfakes de nus.

La majorité des adolescents et des parents estiment que les outils de nudification devraient être interdits à tous au Royaume-Uni, y compris aux adultes. Les familles conviennent également qu'il faut davantage d'éducation sur le sujet.

Une législation et des mesures industrielles sont nécessaires pour protéger les enfants contre les abus sexuels de type deepfake.

Les parents et les écoles ne peuvent et ne doivent pas être tenus de protéger seuls les enfants. Nous demandons au gouvernement d'interdire les outils de nudification en priorité lors de ce Parlement.

Lire l'étude complète sur les deepfakes nus

Télécharger le rapport Deepfakes

Télécharger le résumé

Ressources de soutien

Guide pour les parents sur les deepfakes

Ceci est l'image pour : Guide Deepfakes pour les jeunes

Guide sur les deepfakes pour les jeunes

Qu’est-ce que l’IA de déshabillage ?

Était-ce utile?

Oui Non

Dites-nous pourquoi