Padres e hijos dicen: Prohíban las aplicaciones que desnuden

Con el auge de las tecnologías de inteligencia artificial, han surgido nuevas amenazas para los niños en línea, incluidos los deepfakes de desnudos. Los deepfakes de desnudos son imágenes sexuales creadas con herramientas de desnudez de IA a partir de imágenes de personas reales, incluidos niños.

El año pasado, el contenido sexual deepfake en línea aumentó más del 400 %. Nuestra investigación también revela que aproximadamente medio millón de niños (13 %) ya han experimentado un deepfake desnudo en línea. Esto incluye haberlo visto en un sitio web, haberlo recibido de un amigo o haber usado una aplicación de desnudos.

Ahora es rápido, barato y fácil generar imágenes y vídeos de desnudos muy convincentes con personas reales con solo pulsar unos pocos botones. Las plataformas han estado haciendo esfuerzos para eliminar las herramientas de desnudez cuando las encuentran. Sin embargo, siguen estando disponibles en las tiendas de aplicaciones y son comunes en los resultados de búsqueda de los principales motores de búsqueda.

Los desnudos falsos pueden afectar profundamente a los niños, incluso a través del abuso y el acoso. Las víctimas de este abuso pueden sufrir trastorno de estrés postraumático, depresión, ansiedad e incluso pensamientos suicidas como resultado. También pueden temer sufrir violencia física si un agresor comparte sus datos personales junto con la imagen.

De hecho, la mayoría de los adolescentes (55%) creen que tener una imagen falsa de ellos desnudos y compartirla sería peor que una imagen real. Cuando se les preguntó por qué, los adolescentes mencionaron:

• Sintiendo la pérdida de autonomía corporal
• Preocupación de que tal vez no supieran que existía, quién lo había hecho o por qué.
• El miedo que podría causarles. Esto incluía a amigos, maestros y padres que pensaban que era real y los veían de manera diferente. También les preocupaba que la imagen pudiera distorsionarlos por completo.

Si bien este problema afecta tanto a niños como a niñas, el 99 % de los desnudos falsos que se realizan son de mujeres y niñas. Además, muchas herramientas de desnudez no funcionan con imágenes de niños y hombres. Nuestra investigación sugiere que los desnudos falsos se están convirtiendo en otra herramienta utilizada para cometer violencia contra mujeres y niñas.

Crear, poseer o compartir una imagen deepfake desnuda de un niño es ilegal y se clasifica como material de abuso sexual infantil (CSAM)Sin embargo, las herramientas que las crean actualmente no son ilegales y los niños entran cada vez más en contacto con ellas.

Prohibición de herramientas nudistas

Nuestra investigación encontró que el 84% de los adolescentes y el 80% de los padres apoyan la prohibición de las herramientas nudificantes para todos en el Reino Unido, incluidos los adultos.

En la Cámara de los Comunes, el diputado Jess Asato instó al Gobierno Escuchar las voces de los padres y los niños sobre este tema prohibiendo las aplicaciones que desnuden.

La Sra. Asato dijo: “El aumento de las falsificaciones de desnudos es un problema cada vez más preocupante, especialmente en las escuelas. La investigación de Internet Matters ha demostrado el daño que ya está causando a los niños, y el potencial que tiene la tecnología para causar un daño aún mayor. Al permitir que los programas de desnudos sigan siendo fácilmente accesibles, estamos poniendo a nuestros niños en riesgo de sufrir daños e incluso de ser criminalizados. Es por eso que he pedido al Gobierno que prohíba las herramientas y aplicaciones de desnudos”.

La prohibición de las herramientas de nudificación fue una de las recomendaciones clave de nuestro informe, La nueva cara del abuso digital: las experiencias de los niños con deepfakes de desnudos.

La responsabilidad de proteger a los niños de los abusos sexuales en deepfake no puede recaer en las escuelas y los padres. La industria y el gobierno deben intervenir. Prohibir las herramientas de desnudez ayudaría a proteger a los niños de los daños en línea. Además, apoyaría el ambicioso objetivo del gobierno de reducir a la mitad la violencia contra las mujeres y las niñas en la próxima década.