Pesquisar

Solicita que o governo tome medidas urgentes, já que cerca de meio milhão de adolescentes do Reino Unido encontraram deepfakes nus gerados por IA

Equipe de Assuntos da Internet | 22nd outubro, 2024
Uma adolescente olha para seu smartphone.

Resumo

A Internet Matters, a principal organização sem fins lucrativos da Grã-Bretanha que apoia a segurança online das crianças, está publicando hoje (terça-feira, 22 de outubro) um novo relatório, “A nova face do abuso digital: experiências de crianças com nude deep fakes”. O relatório estima que quatro crianças em cada turma de trinta tiveram alguma experiência com "deepfakes nudificados" e pede ao governo que introduza uma nova legislação para combater o crescimento de nus falsos de jovens, especialmente meninas, por meio de IA generativa (GenAI), proibindo os chamados aplicativos de "nudificação".

O relatório explica as maneiras pelas quais a GenAI tornou rápido, simples e barato produzir imagens explícitas não consensuais de pessoas comuns – incluindo crianças. Ele argumenta que a legislação atual não está acompanhando o ritmo; os modelos de IA usados ​​para gerar imagens sexuais de crianças atualmente não são ilegais no Reino Unido, apesar da posse de uma imagem sexual deepfake de uma criança ser uma infração criminal.

Embora a tecnologia deepfake possa ser usada para propósitos positivos, como educação ou treinamento, evidências sugerem que a maioria dos deepfakes é criada para causar danos, incluindo abuso sexual, exploração sexual com motivação financeira, desinformação, golpes ou fraudes. Antes um fenômeno amplamente voltado para celebridades femininas, a criação de imagens falsas de nudez é algo que agora é mais amplamente acessível e impacta crianças, sendo as meninas o alvo mais provável.

O relatório Internet Matters de hoje destaca o quão amplamente disponíveis e fáceis de usar as ferramentas de "nudificação" se tornaram para uso online. Estima-se que 99% dos deepfakes nus apresentam meninas e mulheres, e modelos "nudificadores" geralmente não funcionam em imagens de meninos e homens. Imagens sexuais geradas por IA com crianças têm sido usadas para facilitar o abuso sexual entre crianças, abuso sexual perpetrado por adultos e sextortion e podem impactar as vítimas profundamente, levando ao início de ansiedade, depressão e pensamentos suicidas.

Adolescentes têm usado aplicativos de "nudificação" para gerar imagens sexualmente explícitas de suas colegas de classe, muitas vezes compartilhando essas imagens em chats de grupo e mídias sociais. Meninas disseram à Internet Matters que se sentiriam horrorizadas e envergonhadas e temeriam que um professor ou pai pensasse que elas eram genuínas.

O relatório de hoje detalha uma pesquisa nacionalmente representativa da Internet Matters com 2,000 pais de crianças de 3 a 17 anos e 1,000 crianças de 9 a 17 anos no Reino Unido, conduzida pela Opinium em junho de 2024. A pesquisa mostra:

O relatório defende tanto uma nova legislação quanto uma ação da indústria para proteger as crianças do abuso sexual deepfake e argumenta que não se pode esperar que os pais e as escolas protejam as crianças sozinhos. Ele pede ação, incluindo:

Para coincidir e apoiar o relatório de hoje, a Internet Matters está lançando novos recursos, incluindo conselhos de especialistas para pais sobre como proteger crianças de deepfakes.

Carolyn Bunting MBE, co-CEO da Internet Matters, disse:

“A IA tornou possível produzir deepfakes altamente realistas de crianças com o clique de alguns botões. Deepfakes nus são uma invasão profunda da autonomia e dignidade corporal, e seu impacto pode ser devastador. Com ferramentas de nudismo amplamente focadas em mulheres, elas estão tendo um impacto desproporcional em meninas.

“Crianças nos contaram sobre o medo que têm de que isso possa acontecer com elas sem nenhum conhecimento e por pessoas que elas não conhecem. Elas veem o abuso de imagens deepfake como uma violação potencialmente maior porque está além do controle delas.

“O abuso de imagens deepfake pode acontecer com qualquer pessoa, a qualquer momento. Os pais não devem ser deixados sozinhos para lidar com essa questão preocupante. É hora do governo e da indústria tomarem medidas para preveni-lo, reprimindo as empresas que produzem e promovem essas ferramentas que são usadas para abusar de crianças.”

Sobre o autor

Equipe de Assuntos da Internet

Equipe de Assuntos da Internet

O Internet Matters oferece suporte a pais e profissionais com recursos abrangentes e orientação especializada para ajudá-los a navegar no mundo em constante mudança da segurança infantil na Internet.

Obtenha aconselhamento personalizado e suporte contínuo

O primeiro passo para garantir a segurança online do seu filho é obter a orientação correta. Facilitamos isso com o 'My Family's Digital Toolkit.'