Parents et enfants disent : interdire les applications de nudification

Avec l'essor des technologies d'intelligence artificielle, de nouvelles menaces pour les enfants sont apparues en ligne, notamment les deepfakes de nus. Les deepfakes de nus sont des images sexuelles créées à l'aide d'outils d'IA de nudification à partir d'images de personnes réelles, y compris d'enfants.

L’année dernière, les contenus sexuels deepfake en ligne ont augmenté de plus de 400 %. Nos recherches révèlent également qu’environ un demi-million d’enfants (13 %) ont déjà été victimes d’un deepfake de nudité en ligne. Cela peut se produire lorsqu’ils tombent sur un deepfake de nudité sur un site Web, lorsqu’ils en reçoivent un d’un ami ou lorsqu’ils utilisent eux-mêmes une application de nudification.

Il est désormais facile, rapide et peu coûteux de générer des images et des vidéos de nu très convaincantes mettant en scène de vraies personnes en quelques clics. Les plateformes s'efforcent de supprimer les outils de nudification lorsqu'elles en rencontrent. Cependant, ils restent accessibles sur les magasins d'applications et courants dans les résultats de recherche des moteurs de recherche traditionnels.

Les photos de nus deepfake peuvent avoir de graves conséquences sur les enfants, notamment par le biais d'abus et de harcèlement. Les victimes de ces abus peuvent souffrir de syndrome de stress post-traumatique, de dépression, d'anxiété et même de pensées suicidaires. Elles peuvent également craindre la violence physique si l'auteur partage ses données personnelles avec l'image.

En fait, la plupart des adolescents (55 %) estiment qu'avoir une fausse image d'eux nus créée et partagée serait pire qu'une vraie image. Lorsqu'on leur a demandé pourquoi, les adolescents ont cité :

• ressentir la perte de l'autonomie corporelle
• inquiétude qu'ils ne sachent peut-être pas qu'il existe, qui l'a fait ou pourquoi
• la peur que cela pouvait susciter. Cela incluait des amis, des enseignants et des parents qui pensaient que c'était réel et qui les voyaient différemment. Ils craignaient également que l'image puisse complètement les dénaturer.

Bien que ce problème touche aussi bien les garçons que les filles, 99 % des deepfakes nus réalisés concernent des femmes et des filles. De plus, de nombreux outils de nudification ne fonctionnent pas sur les images de garçons et d'hommes. Nos recherches suggèrent que les deepfakes nus deviennent un autre outil utilisé pour commettre des violences contre les femmes et les filles.

Créer, posséder ou partager une image deepfake nue d'un enfant est illégal et classé comme matériel pédopornographique (CSAM). Pourtant, les outils qui les créent ne sont actuellement pas illégaux et les enfants sont de plus en plus souvent en contact avec eux.

Interdire les outils de nudification

Nos recherches ont révélé que 84 % des adolescents et 80 % des parents sont favorables à l'interdiction des outils de nudification pour tous au Royaume-Uni, y compris les adultes.

À la Chambre des communes, le député Jess Asato a exhorté le gouvernement écouter la voix des parents et des enfants sur cette question en interdisant les applications de nudification.

Mme Asato a déclaré : « L’augmentation des deepfakes de nudité est un problème de plus en plus préoccupant, en particulier dans les écoles. Une étude menée par Internet Matters a montré les dommages qu’ils causent déjà aux enfants, et le potentiel de cette technologie à causer des dommages encore plus importants. En permettant aux programmes de nudification de rester facilement accessibles, nous exposons nos enfants au risque d’être blessés, voire criminalisés. C’est pourquoi j’ai appelé le gouvernement à interdire les outils et applications de nudification. »

L’interdiction des outils de nudification était l’une des principales recommandations de notre rapport, Le nouveau visage des abus numériques : les expériences des enfants face aux deepfakes nus.

La responsabilité de protéger les enfants contre les abus sexuels de type deepfake ne peut pas incomber aux écoles et aux parents. L'industrie et le gouvernement doivent intervenir. L'interdiction des outils de nudification contribuerait à protéger les enfants contre les dangers en ligne. En outre, elle soutiendrait l'objectif ambitieux du gouvernement de réduire de moitié la violence à l'égard des femmes et des filles au cours de la prochaine décennie.