人工智能生成的性图像泛滥

你在这里：

呼吁政府采取紧急行动，因为估计有 50 万英国青少年遭遇了人工智能生成的裸体深度伪造

互联网事务团队 | 22nd十月，2024

总结

互联网事务组织 (Internet Matters) 的最新报告敦促新政府严厉打击人工智能生成的性爱图像“流行病”，此前调查显示，13% 的青少年曾有过裸体深度伪造的经历。
不受控制的裸体深度伪造滥用的可能性给许多孩子的生活中埋下了恐惧；超过一半的青少年（55%）认为，制作和分享他们的深度伪造裸照比真实图像更糟糕。
互联网事务呼吁禁止使用“裸体化”工具，因为该报告警告说，在网上制作裸体深度伪造实在是太容易了。
建议对学校课程进行改革，包括教孩子如何识别深度伪造作品并负责任地使用人工智能技术。

Internet Matters 是英国领先的支持儿童网络安全的非营利组织，今天（22 月 XNUMX 日星期二）发布了一份新报告， “数字虐待的新面孔：儿童裸照深度伪造经历”。该报告估计，每三十个班级中就有四个孩子有过“裸体深度伪造”的经历，并呼吁政府出台新立法，通过禁止所谓的“裸体化”应用程序来应对生成式人工智能 (GenAI) 伪造年轻人（特别是女孩）裸照的增长。

报告解释了 GenAI 如何快速、简单且廉价地制作普通人（包括儿童）的非自愿露骨图像。报告指出，现行立法没有跟上步伐；尽管拥有儿童的深度伪造性爱图像属于刑事犯罪，但用于生成儿童性爱图像的人工智能模型目前在英国并不违法。

虽然深度伪造技术可用于教育或培训等积极目的，但有证据表明，大多数深度伪造都是为了伤害他人而制作的，包括性虐待、以经济为目的的性剥削、错误和虚假信息、诈骗或欺诈。伪造裸照曾经是一种主要针对女性名人的现象，但现在这种现象越来越普遍，并影响到儿童，而女孩最有可能成为目标。

今天的《互联网事务》报告强调了“裸体化”工具在网上的普及程度和易用性。据估计，99% 的裸体深度伪造视频都是女孩和女性，而“裸体化”模型通常对男孩和男人的图片不起作用。人工智能生成的儿童色情图片被用来助长儿童对儿童的性虐待、成人实施的性虐待和性勒索，并可能对受害者产生深远影响，导致焦虑、抑郁和自杀念头的产生。

十几岁的男孩使用“裸体”应用程序生成女同学的色情图片，并经常在群聊和社交媒体上分享这些图片。女孩们告诉 Internet Matters，她们会感到恐惧和羞愧，担心老师或家长会认为她们的照片是真实的。

今天的报告详细介绍了一项具有全国代表性的 Internet Matters 调查，该调查由 Opinium 于 2,000 年 3 月在英国开展，调查对象为 17 名 1,000-9 岁儿童的父母和 17 名 2024-XNUMX 岁儿童。调查显示：

相当多的孩子有过某种程度的裸体深度伪造经历。总体而言，13% 的孩子有过裸体深度伪造的经历（包括发送或接收裸体深度伪造、在网上遇到裸体深度伪造、使用裸体应用程序或他们认识的人使用裸体应用程序）。这意味着英国约有 529,632 万（4）名青少年，或 30 人班级中的 XNUMX 名青少年有过裸体深度伪造的经历。
报告称经历过深度伪造裸照的青少年男孩（18%）的可能性是青少年女孩（9%）的两倍，但男孩更有可能成为深度伪造裸照的创造者，而女孩更有可能成为受害者。
男孩和弱势儿童更有可能接触到裸体深度伪造。10% 的 13-17 岁男孩曾在网上看到过裸体深度伪造，而同龄女孩的比例仅为 2%。四分之一的弱势儿童曾接触过裸体深度伪造，而非弱势儿童的比例为 11%。
青少年认为，深度伪造裸照比真实照片更恶劣。超过一半的青少年（55%）认为，制作和分享他们的深度伪造裸照比真实照片更糟糕。
大多数家庭对深度伪造几乎一无所知，近三分之二的儿童（61％）和近一半的父母（45％）表示他们不知道或不理解“深度伪造”一词。
家庭希望政府和科技公司采取更多措施解决裸体深度伪造问题。84% 的青少年和 80% 的父母认为英国应该禁止所有人（包括成年人）使用裸体伪造工具。
家庭也同意需要对深度伪造进行更多的教育。只有 11% 的青少年在学校学习过深度伪造的相关知识，只有 6% 的青少年学习过裸体深度伪造的相关知识。绝大多数青少年 (92%) 和家长 (88%) 认为应该在学校向孩子传授深度伪造的风险。

该报告主张制定新立法并采取行动保护儿童免受深度伪造性虐待，并认为不能指望父母和学校独自保护儿童。报告呼吁采取行动，包括：