¿Qué es la IA desnuda? Orientación para padres y cuidadores

Si bien el funcionamiento de cada aplicación o sitio web puede variar, todos ofrecen este servicio similar. Aunque la imagen manipulada en realidad no muestra el cuerpo desnudo real de la víctima, puede implicarlo.

Los perpetradores que utilizan herramientas de inteligencia artificial para desnudarse podrían quedarse con las imágenes o compartirlas más ampliamente. Podrían usar estas imágenes para coerción sexual (sextorsión), intimidación/abuso o como una forma de pornografía de venganza.

Los niños y jóvenes se enfrentan a daños adicionales si alguien los "desnuda" utilizando esta tecnología. A informe de la Fundación Internet Watch encontró más de 11,000 imágenes de niños potencialmente criminales generadas por IA en un foro de la web oscura dedicado al material de abuso sexual infantil (CSAM). Consideraron criminales alrededor de 3,000 imágenes.

La IWF dijo que también encontró "muchos ejemplos de imágenes generadas por IA que muestran víctimas conocidas y niños famosos". La IA generativa sólo puede crear imágenes convincentes si aprende de material fuente preciso. Básicamente, las herramientas de inteligencia artificial que generan CSAM tendrían que aprender de imágenes reales que muestren abuso infantil.

Un sitio de inteligencia artificial para desnudarse dice que su tecnología "no estaba destinada a ser utilizada con sujetos masculinos". Esto se debe a que entrenaron la herramienta utilizando imágenes femeninas, lo cual es cierto para la mayoría de estos tipos de herramientas de IA. Con los CSAM generados por IA que investigó la Internet Watch Foundation, el 99.6% de ellos también presentaban a niñas.

Investigación de Graphika destacó un aumento del 2000% en el spam de enlaces de referencia para servicios de inteligencia artificial para desnudarse en 2023. El informe también encontró que 34 de estos proveedores recibieron más de 24 millones de visitantes únicos en sus sitios web en un mes. Predicen “más casos de daño en línea”, incluida la sextorsión y el CSAM.

Es probable que los perpetradores sigan apuntando a niñas y mujeres en lugar de niños y hombres, especialmente si estas herramientas aprenden principalmente de imágenes femeninas.

Sin embargo, el Ministerio de Justicia anunció una nueva ley esta semana eso cambiará esto. Según la nueva ley, quienes creen imágenes falsas sexualmente explícitas de adultos sin su consentimiento se enfrentarán a procesamiento. Los condenados también se enfrentarán a una “multa ilimitada”.

Esto contradice una declaración hecha a principios de 2024. Dijo que la creación de una imagen íntima deepfake “no era lo suficientemente dañina o culpable como para constituir un delito penal”.

Tan recientemente como el año pasado, los perpetradores podrían crear y comparte estas imágenes (de adultos) sin infringir la ley. sin embargo, el Ley de seguridad en línea prohibió compartir imágenes íntimas generadas por IA sin consentimiento en enero de 2024.

Generalmente, esta ley debería cubrir cualquier imagen que sea de naturaleza sexual. Esto incluye aquellos que presentan sujetos desnudos o parcialmente desnudos.

Sin embargo, una cosa a tener en cuenta es que esta ley se basa en la intención de causar daño. Por lo tanto, una persona que crea un deepfake sexualmente explícito debe hacerlo para humillar o dañar a la víctima. El problema con esto es que es bastante difícil demostrar la intención. Como tal, podría ser difícil procesar a las partes que crean deepfakes sexualmente explícitos.