Le nouveau visage de la maltraitance numérique
Les expériences des enfants face aux deepfakes nus
L'essor des outils d'IA générative a considérablement augmenté la facilité de production de deepfakes sexuels réalistes, les deepfakes nus représentant environ 98 % de tous les deepfakes.
99 % des deepfakes nus représentent des femmes et des filles. Découvrez notre rapport ci-dessous qui examine l'augmentation des deepfakes dans les salles de classe et nos recommandations sur la manière d'y remédier.
À propos de notre recherche sur les deepfakes nus
Les jeunes sont confrontés à de nombreux changements sociaux et émotionnels au cours de leur adolescence : ils découvrent qui ils sont, comment identifier et gérer leurs émotions et comment ils s'intègrent dans des groupes de pairs plus larges. Étant donné l'importance de la technologie dans la vie moderne, certains de ces changements se produisent dans les espaces en ligne.
Ainsi, si l’on veut aider les jeunes à traverser les hauts et les bas de l’adolescence, il est essentiel de comprendre comment les plateformes en ligne influencent leur développement.
Principales conclusions
La majorité des familles ont peu ou pas de compréhension des deepfakes.
Près des deux tiers des enfants et près de la moitié des parents déclarent ne pas connaître ou comprendre le terme « deepfake ».
Les outils de nudification sont utilisés pour abuser sexuellement des enfants.
Bien que la plupart des sites de nudification interdisent la production d’images sexuelles truquées mettant en scène des enfants, ces garde-fous sont souvent faciles à contourner.
Les garçons et les enfants vulnérables sont plus susceptibles d'avoir été impliqués dans un deepfake nu.
Les adolescents sont deux fois plus susceptibles que les adolescentes de signaler une expérience avec un deepfake nu. 25 % des enfants vulnérables déclarent avoir eu une expérience avec un deepfake nu, contre 11 % des enfants non vulnérables.
Le volume de deepfakes a augmenté rapidement en ligne.
Les données suggèrent que la majorité des deepfakes sont utilisés à des fins néfastes. De plus, il est difficile d’établir l’ampleur réelle des deepfakes qui circulent en ligne.
Les adolescents considèrent les abus de deepfake nus comme pires que les abus sexuels impliquant de vraies images.
Les raisons invoquées par les adolescents comprenaient le manque d’autonomie ou de conscience de l’image, l’anonymat de l’auteur, la manière dont l’image pourrait être manipulée et la crainte que les gens pensent que l’image est réelle.
Les familles conviennent que le gouvernement et l’industrie doivent faire davantage pour lutter contre les deepfakes de nus.
La majorité des adolescents et des parents estiment que les outils de nudification devraient être interdits à tous au Royaume-Uni, y compris aux adultes. Les familles conviennent également qu'il faut davantage d'éducation sur le sujet.
Les outils Nudify sont largement disponibles en ligne.
Ces modèles d’IA qui dépouillent les images de personnes réelles, y compris d’enfants, sont devenus plus courants avec le développement de GenAI.
Un nombre important d'enfants ont déjà été confrontés à un deepfake nu.
13 % des adolescents déclarent avoir une certaine expérience avec les deepfakes nus, ce qui équivaut à environ 4 enfants dans une classe de 30 ou près d'un demi-million d'adolescents britanniques.
Une législation et des mesures industrielles sont nécessaires pour protéger les enfants contre les abus sexuels de type deepfake.
Les parents et les écoles ne peuvent et ne doivent pas être tenus de protéger seuls les enfants. Nous demandons au gouvernement d'interdire les outils de nudification en priorité lors de ce Parlement.
