在过去的一年里，我们看到裸体深度伪造的数量迅速增加，而且网上很容易获取裸体伪造工具。
这在年轻人中引起了焦虑和恐惧，他们支持禁止使用制造这些产品的工具。
随着人工智能技术的兴起，网络上出现了针对儿童的新威胁，其中就包括裸体深度伪造。裸体深度伪造是利用人工智能裸体工具根据真人（包括儿童）的图像制作的性爱图像。
去年，网上深度伪造色情内容数量增长了 400% 以上。我们的研究还发现，估计有 13 万名儿童（XNUMX%）已经在网上体验过裸体深度伪造。这包括在网站上看到、从朋友那里收到或自己使用裸体伪造应用。
现在，只需点击几下按钮，就能快速、廉价、轻松地生成令人信服的真人裸照和视频。平台一直在努力删除裸照工具。然而，它们仍然可以在应用商店中找到，在主流搜索引擎的搜索结果中也很常见。
深度伪造裸照会对儿童产生深远影响，包括虐待和骚扰。这种虐待的受害者可能会因此患上创伤后应激障碍、抑郁、焦虑甚至产生自杀念头。如果施暴者在照片旁边分享他们的个人数据，他们可能还会担心遭受身体暴力。
事实上，大多数青少年 (55%) 认为，制作并分享他们的裸体深度伪造图像比真实图像更糟糕。当被问及原因时，青少年们表示：
虽然这个问题影响到男孩和女孩，但 99% 的裸体深度伪造都是针对女性和女孩的。此外，许多裸体工具对男孩和男人的图像不起作用。我们的研究表明，裸体深度伪造正在成为另一种用于对女性和女孩实施暴力的工具。
制作、持有或分享儿童裸体深度伪造图像属于违法行为，并被归类为 儿童性虐待材料 (CSAM)。然而，制造这些产品的工具目前并不违法，而且儿童接触这些产品的情况也越来越多。
我们的研究发现，84% 的青少年和 80% 的父母支持禁止英国所有人（包括成年人）使用裸体工具。
下议院议员 Jess Asato 敦促政府 通过禁止裸体应用程序来倾听父母和孩子对这一问题的声音。
Asato 女士表示：“裸体伪造视频的兴起是一个日益令人担忧的问题，尤其是在学校。Internet Matters 的研究表明，它已经对儿童造成了伤害，而且这项技术可能造成更大的伤害。通过允许裸体伪造节目继续随处可见，我们正在将我们的孩子置于受到伤害甚至被定罪的风险之中。这就是为什么我呼吁政府禁止裸体伪造工具和应用程序。”
禁止使用裸体工具是我们报告中的主要建议之一， 数字虐待的新面孔：儿童裸照深度伪造的经历.
保护儿童免受深度伪造性虐待的责任不能落在学校和家长身上。行业和政府必须介入。禁止裸体工具将有助于保护儿童免受网络伤害。此外，它还将支持政府在未来十年将针对妇女和女孩的暴力行为减半的雄心勃勃的目标。
与此同时，我们希望帮助家庭在网上得到更好的保护。探索以下资源，这些资源旨在帮助他们应对这一令人担忧的新趋势。
