A nova face do abuso digital
Experiências de crianças com deepfakes nus
O surgimento de ferramentas de IA generativa aumentou significativamente a facilidade de produzir deepfakes sexuais realistas, com deepfakes de nudez representando cerca de 98% de todos os deepfakes.
99% dos deepfakes nus apresentam mulheres e meninas. Explore nosso relatório abaixo que examina o aumento de deepfakes em salas de aula e nossas recomendações sobre como lidar com isso.
Sobre nossa pesquisa de deepfakes nus
Os jovens lidam com muitas mudanças sociais e emocionais na adolescência: eles estão descobrindo quem são, como identificar e administrar suas emoções e desenvolvendo um senso de como se encaixam em grupos de colegas mais amplos. Dada a importância da tecnologia na vida moderna, algumas dessas mudanças acontecem em espaços online.
Portanto, para que os jovens recebam apoio durante os altos e baixos da adolescência, é fundamental entender como as plataformas online influenciam seu desenvolvimento.
Principais conclusões
A maioria das famílias tem pouca ou nenhuma compreensão sobre deepfakes.
Quase dois terços das crianças e quase metade de todos os pais dizem que não conhecem ou não entendem o termo "deepfake".
Ferramentas de nudismo são usadas para abusar sexualmente de crianças.
Embora a maioria dos sites de nudez proíba a produção de imagens sexuais deepfake com crianças, essas barreiras geralmente são fáceis de contornar.
Meninos e crianças vulneráveis são mais propensos a se envolver com um deepfake nu.
Adolescentes do sexo masculino têm duas vezes mais chances do que adolescentes do sexo feminino de relatar experiências com deepfakes de nudez. 25% das crianças vulneráveis dizem ter tido experiências com deepfakes de nudez, em comparação com 11% das crianças não vulneráveis.
O volume de deepfakes cresceu rapidamente online.
As evidências sugerem que a maioria dos deepfakes é usada para propósitos prejudiciais. Além disso, é difícil estabelecer a verdadeira escala de deepfakes circulando online.
Adolescentes veem abuso de nudez deepfake como pior do que abuso sexual com imagens reais.
Os motivos dados pelos adolescentes incluíram falta de autonomia ou conhecimento da imagem, anonimato do agressor, como a imagem pode ser manipulada e medo de que as pessoas pensem que a imagem é real.
As famílias concordam que o governo e a indústria precisam fazer mais para combater os deepfakes de nudez.
A maioria dos adolescentes e pais acha que ferramentas de nudismo devem ser proibidas para todos no Reino Unido, incluindo adultos. As famílias também concordam que mais educação é necessária sobre o tópico.
Ferramentas Nudify estão amplamente disponíveis online.
Esses modelos de IA que retiram as roupas de imagens de pessoas reais, incluindo crianças, se tornaram mais comuns com o desenvolvimento do GenAI.
Um número significativo de crianças já passou por experiências com nudez deepfake.
13% dos adolescentes dizem ter algum tipo de experiência com deepfakes nus, o que equivale a cerca de 4 crianças em uma classe de 30 ou quase meio milhão de adolescentes no Reino Unido.
É necessária ação legislativa e da indústria para proteger as crianças do abuso sexual causado pelo deepfake.
Pais e escolas não podem e não devem ser esperados para proteger as crianças sozinhos. Estamos pedindo ao Governo que proíba ferramentas de nudismo como prioridade neste Parlamento.
