Qu’est-ce que l’IA de déshabillage ? Conseils aux parents et tuteurs

Bien que le fonctionnement de chaque application ou site Web puisse varier, tous offrent ce service similaire. Bien que l’image manipulée ne montre pas réellement le corps nu réel de la victime, cela peut l’impliquer.

Les auteurs de violences qui utilisent des outils d’IA de déshabillage peuvent conserver les images pour eux-mêmes ou les partager plus largement. Ils pourraient utiliser ces images pour contrainte sexuelle (sextorsion), d'intimidation/d'abus ou comme forme de vengeance pornographique.

Les enfants et les jeunes risquent un préjudice encore plus grand si quelqu'un les « déshabille » à l'aide de cette technologie. UN rapport de l'Internet Watch Foundation a trouvé plus de 11,000 3,000 images d’enfants potentiellement criminelles générées par l’IA sur un forum du Dark Web dédié au matériel d’abus sexuel sur enfants (CSAM). Ils ont évalué environ XNUMX XNUMX images comme criminelles.

L’IWF a déclaré avoir également trouvé « de nombreux exemples d’images générées par l’IA mettant en scène des victimes connues et des enfants célèbres ». L’IA générative ne peut créer des images convaincantes que si elle apprend à partir de sources précises. Essentiellement, les outils d’IA qui génèrent du CSAM devraient apprendre d’images réelles montrant de la maltraitance d’enfants.

Un site d’IA de déshabillage affirme que leur technologie n’était « pas destinée à être utilisée avec des sujets masculins ». En effet, ils ont formé l’outil à l’aide d’images féminines, ce qui est vrai pour la plupart de ces types d’outils d’IA. Avec les CSAM générés par l’IA sur lesquels l’Internet Watch Foundation a enquêté, 99.6 % d’entre eux présentaient également des filles.

Recherche de Graphika a mis en évidence une augmentation de 2000 2023 % du spam de liens de référence pour les services d'IA de déshabillage en 34. Le rapport a également révélé que 24 de ces fournisseurs ont reçu plus de XNUMX millions de visiteurs uniques sur leurs sites Web en un mois. Ils prédisent « d’autres cas de préjudices en ligne », notamment la sextorsion et le CSAM.

Les auteurs continueront probablement de cibler les filles et les femmes plutôt que les garçons et les hommes, surtout si ces outils s’inspirent principalement des images féminines.

Toutefois, le ministère de la Justice a annoncé un nouvelle loi cette semaine cela va changer cela. En vertu de la nouvelle loi, ceux qui créent de fausses images sexuellement explicites d’adultes sans leur consentement seront poursuivis. Les personnes reconnues coupables seront également passibles d’une « amende illimitée ».

Cela contredit un déclaration faite début 2024. Il a déclaré que la création d’une image intime deepfake n’était « pas suffisamment nuisible ou coupable pour constituer une infraction pénale ».

Pas plus tard que l'année dernière, les auteurs pourraient créer ainsi que partagez ces images (d’adultes) sans enfreindre la loi. Cependant, le Loi sur la sécurité en ligne a rendu illégal le partage d’images intimes générées par l’IA sans consentement en janvier 2024.

De manière générale, cette loi devrait couvrir toute image à caractère sexuel. Cela inclut ceux qui présentent des sujets nus ou partiellement nus.

Il convient toutefois de noter que cette loi repose sur l’intention de causer un préjudice. Ainsi, une personne qui crée un deepfake sexuellement explicite doit le faire pour humilier ou nuire d’une autre manière à la victime. Le problème, c’est qu’il est assez difficile de prouver l’intention. En tant que tel, il pourrait être difficile de poursuivre en justice les parties créant des deepfakes sexuellement explicites.