O que é IA despir-se? Orientação para pais e responsáveis

Embora o funcionamento de cada aplicativo ou site possa variar, todos eles oferecem esse serviço semelhante. Embora a imagem manipulada não mostre realmente o corpo nu real da vítima, ela pode sugerir isso.

Os perpetradores que usam ferramentas de IA para tirar a roupa podem manter as imagens para si ou compartilhá-las de forma mais ampla. Eles poderiam usar essas imagens para coerção sexual (sextorsão), intimidação/abuso ou como forma de pornografia de vingança.

As crianças e os jovens enfrentam danos adicionais se alguém os “despir” utilizando esta tecnologia. A relatório da Internet Watch Foundation encontraram mais de 11,000 imagens de crianças potencialmente criminosas geradas por IA em um fórum da dark web dedicado a material de abuso sexual infantil (CSAM). Eles avaliaram cerca de 3,000 imagens como criminosas.

A IWF disse que também encontrou “muitos exemplos de imagens geradas por IA apresentando vítimas conhecidas e crianças famosas”. A IA generativa só pode criar imagens convincentes se aprender com material de origem preciso. Essencialmente, as ferramentas de IA que geram CSAM precisariam aprender com imagens reais de abuso infantil.

Um site de IA diz que sua tecnologia “não se destina ao uso com indivíduos do sexo masculino”. Isso ocorre porque eles treinaram a ferramenta usando imagens femininas, o que é verdade para a maioria desses tipos de ferramentas de IA. Com o CSAM gerado por IA que a Internet Watch Foundation investigou, 99.6% deles também apresentavam crianças do sexo feminino.

Pesquisa da Graphika destacou um aumento de 2000% no spam de links de referência para serviços de IA de nudez em 2023. O relatório também descobriu que 34 desses provedores receberam mais de 24 milhões de visitantes únicos em seus sites em um mês. Eles prevêem “outros casos de danos online”, incluindo sextorção e CSAM.

É provável que os perpetradores continuem a visar raparigas e mulheres em detrimento de rapazes e homens, especialmente se estas ferramentas aprenderem principalmente com imagens femininas.

No entanto, o Ministério da Justiça anunciou uma nova lei esta semana isso vai mudar isso. De acordo com a nova lei, aqueles que criarem imagens sexualmente explícitas de adultos sem o seu consentimento serão processados. Os condenados também enfrentarão uma “multa ilimitada”.

Isto contradiz uma declaração feita no início de 2024. Afirmou que a criação de uma imagem íntima falsa “não era suficientemente prejudicial ou culposa para constituir uma ofensa criminal”.

Ainda no ano passado, os perpetradores podiam criar e compartilhe essas imagens (de adultos) sem infringir a lei. No entanto, o Lei de Segurança Online tornou ilegal o compartilhamento de imagens íntimas geradas por IA sem consentimento em janeiro de 2024.

Geralmente, esta lei deve abranger qualquer imagem de natureza sexual. Isso inclui aqueles que apresentam assuntos nus ou parcialmente nus.

Uma coisa a notar, no entanto, é que esta lei se baseia na intenção de causar danos. Portanto, uma pessoa que cria um deepfake sexualmente explícito deve fazê-lo para humilhar ou prejudicar a vítima. O problema com isso é que é bastante difícil provar a intenção. Como tal, pode ser difícil processar realmente as partes que criam deepfakes sexualmente explícitos.