Pais e filhos dizem: Proíbam aplicativos de nudez

Com o surgimento das tecnologias de IA, novas ameaças às crianças surgiram online, incluindo deepfakes nus. Deepfakes nus são imagens sexuais criadas com ferramentas de nudismo de IA a partir de imagens de pessoas reais, incluindo crianças.

No ano passado, o conteúdo sexual deepfake online aumentou em mais de 400%. Nossa pesquisa também descobriu que cerca de meio milhão de crianças (13%) já experimentaram um deepfake nu online. Isso inclui encontrar um em um site, receber um de um amigo ou usar um aplicativo de nudez.

Agora é rápido, barato e fácil gerar imagens e vídeos de nudez altamente convincentes com pessoas reais com um clique de alguns botões. As plataformas têm se esforçado para remover ferramentas de nudez quando as encontram. No entanto, elas continuam acessíveis em lojas de aplicativos e comuns em resultados de pesquisa de mecanismos de busca convencionais.

Nudez deepfake pode impactar profundamente crianças, inclusive por meio de abuso e assédio. Vítimas desse abuso podem sofrer de TEPT, depressão, ansiedade e até mesmo pensamentos suicidas como resultado. Elas também podem temer violência física, se um perpetrador compartilhar seus dados pessoais junto com a imagem.

Na verdade, a maioria dos adolescentes (55%) sente que ter uma imagem deepfake nua criada e compartilhada deles seria pior do que uma imagem real. Quando perguntados sobre o porquê, os adolescentes citaram:

• sentindo a perda da autonomia corporal
• preocupação de que eles não soubessem que existia, quem o fez ou por quê
• o medo que isso poderia causar. Isso incluía amigos, professores e pais achando que era real e os vendo de forma diferente. Eles também se preocupavam que a imagem pudesse representá-los completamente de forma errada.

Embora esse problema afete meninos e meninas, 99% dos deepfakes nus feitos são de mulheres e meninas. Além disso, muitas ferramentas de nudismo não funcionam em imagens de meninos e homens. Nossa pesquisa sugere que os deepfakes nus estão se tornando outra ferramenta usada para cometer violência contra mulheres e meninas.

Criar, possuir ou compartilhar uma imagem deepfake nua de uma criança é ilegal e classificado como material de abuso sexual infantil (CSAM). No entanto, as ferramentas que os criam atualmente não são ilegais e as crianças estão cada vez mais entrando em contato com elas.

Proibição de ferramentas de nudismo

Nossa pesquisa descobriu que 84% dos adolescentes e 80% dos pais apoiam a proibição de ferramentas de nudez para todos no Reino Unido, incluindo adultos.

Na Câmara dos Comuns, a deputada Jess Asato apelou ao Governo ouvir as vozes dos pais e das crianças sobre esta questão, proibindo aplicativos de nudez.

A Sra. Asato disse: “O aumento de deepfakes de nudez é uma questão cada vez mais preocupante – particularmente nas escolas. Uma pesquisa da Internet Matters mostrou o dano que isso já está causando às crianças – e o potencial que a tecnologia tem para danos ainda maiores. Ao permitir que programas de nudismo permaneçam facilmente acessíveis, estamos colocando nossas crianças em risco de serem prejudicadas e até mesmo de serem criminalizadas. É por isso que pedi ao Governo que proíba ferramentas e aplicativos de nudismo.”

A proibição de ferramentas de nudez foi uma das principais recomendações do nosso relatório, A nova face do abuso digital: experiências de crianças com deepfakes nus.

O ônus de proteger as crianças do abuso sexual deepfake não pode recair sobre as escolas e os pais. A indústria e o governo devem intervir. Proibir ferramentas de nudez ajudaria a proteger as crianças de danos online. Além disso, apoiaria a meta ambiciosa do governo de reduzir pela metade a violência contra mulheres e meninas na próxima década.