La nueva cara del abuso digital
Experiencias de niños con deepfakes de desnudos
El auge de las herramientas de inteligencia artificial generativa ha aumentado significativamente la facilidad de producir deepfakes sexuales realistas, y los deepfakes de desnudos representan alrededor del 98 % de todos los deepfakes.
El 99 % de los deepfakes de desnudos muestran a mujeres y niñas. Explore nuestro informe a continuación que analiza el aumento de los deepfakes en las aulas y nuestras recomendaciones sobre cómo abordar este problema.
Acerca de nuestra investigación sobre deepfakes de desnudos
Los jóvenes se enfrentan a una gran cantidad de cambios sociales y emocionales durante la adolescencia: están descubriendo quiénes son, cómo identificar y gestionar sus emociones y desarrollando un sentido de pertenencia a grupos más amplios de pares. Dada la importancia de la tecnología en la vida moderna, algunos de estos cambios se manifiestan en los espacios en línea.
Por lo tanto, para apoyar a los jóvenes durante los altibajos de la adolescencia, es fundamental comprender cómo las plataformas en línea influyen en su desarrollo.
Principales conclusiones
La mayoría de las familias tienen poco o ningún conocimiento sobre los deepfakes.
Casi dos tercios de los niños y casi la mitad de todos los padres dicen que no conocen o no entienden el término “deepfake”.
Se utilizan herramientas de nudificación para abusar sexualmente de niños.
Si bien la mayoría de los sitios de nudificación prohíben la producción de imágenes sexuales deepfake que incluyan niños, estas restricciones suelen ser fáciles de eludir.
Los niños y los niños vulnerables tienen más probabilidades de haber visto un deepfake desnudo.
Los adolescentes varones tienen el doble de probabilidades que las adolescentes mujeres de informar haber tenido experiencias con un deepfake de desnudos. El 25 % de los niños vulnerables dicen haber tenido experiencias con un deepfake de desnudos, en comparación con el 11 % de los niños no vulnerables.
El volumen de deepfakes ha crecido rápidamente en línea.
La evidencia sugiere que la mayoría de los deepfakes se utilizan con fines dañinos. Además, es difícil establecer la verdadera escala de deepfakes que circulan en línea.
Los adolescentes consideran que el abuso de desnudos en deepfakes es peor que el abuso sexual con imágenes reales.
Las razones que dieron los adolescentes incluyeron la falta de autonomía o conciencia sobre la imagen, el anonimato del perpetrador, cómo la imagen podría ser manipulada y el temor de que la gente piense que la imagen es real.
Las familias coinciden en que el Gobierno y la industria deben hacer más para combatir las falsificaciones de desnudos.
La mayoría de los adolescentes y padres creen que los instrumentos de nudización deberían prohibirse para todos en el Reino Unido, incluidos los adultos. Las familias también coinciden en que se necesita más educación sobre el tema.
Las herramientas de Nudify están ampliamente disponibles en línea.
Estos modelos de IA que quitan la ropa de imágenes de personas reales, incluidos niños, se han vuelto más comunes con el desarrollo de GenAI.
Un número significativo de niños tienen experiencia con un deepfake desnudo.
El 13% de los adolescentes dicen tener algún tipo de experiencia con deepfakes de desnudos, lo que equivale a alrededor de 4 niños en una clase de 30 o casi medio millón de adolescentes del Reino Unido.
Se necesita legislación y acción de la industria para proteger a los niños del abuso sexual deepfake.
No se puede ni se debe esperar que los padres y las escuelas protejan a los niños por sí solos. Hacemos un llamamiento al Gobierno para que prohíba las herramientas Nudify como prioridad en este Parlamento.
