Deepfake技术是一种人工智能，可以传播错误信息和虚假信息。随时了解情况，帮助保护上网的儿童和青少年。
深度伪造的两种主要类型是视频和音频。视频深度伪造品操纵一个人的外表，而音频深度伪造品操纵他们的声音。
视频和音频深度伪造经常一起产生误导性内容。创建这些虚假内容的人可能有无辜的意图。例如，他们可能会制作一段名人跳有趣舞蹈的视频，以逗人发笑。然而，即使是最好的意图也可能导致错误信息和混乱。
视频深度伪造是最常见的类型。创建这些视频的人使用 人工智能 替换现有视频片段中某人的脸部或身体。例如让名人发表有争议的言论或让新闻主播报道捏造的故事。
在一些视频深度伪造中，配音演员会模仿名人或原始音频来提供新的声音。或者，创建者也可以使用语音克隆。
语音克隆或音频深度伪造可以操纵语音而不是视频，使其听起来像其他人。一种越来越常见的骗局利用语音克隆来瞄准目标人群。对于父母来说，他们可能会接到孩子的紧急电话，孩子出于某种目的需要立即用钱。这些骗局极具说服力，并造成了经济损失。
有人还可以使用音频深度伪造来欺负另一个人。例如，他们可以模仿同学的声音，让他们看起来好像说了一些他们没有说过的话。
无论深度伪造的类型如何，重要的是要记住有人需要使用人工智能工具来创建它。 Deepfake 的创作者并不总是清楚，但 AI 不会自动生成这些内容。
Deepfake 可以通过多种方式影响人们，并使儿童和青少年容易受到网络伤害。
儿童和年轻人可能很难识别虚假视频和音频，尤其是随着技术变得越来越复杂。此外，人工智能工具的可访问性增加可能意味着更多的人可以创建深度伪造品。因此，这可能会增加潜在危害的范围。
在线用户可以使用 Deepfakes 来：
儿童仍在发展批判性思维能力，因此他们特别容易相信此类信息。
一些报告将深度伪造与报复色情联系起来。在这些情况下，犯罪者将受害者添加到色情视频或图像等有害内容中。
然后，犯罪者可能会利用这些深度伪造品来胁迫受害者。这可能包括要求付款或提供真实图像，以阻止他们更广泛地分享深度假货。 通过我们的性勒索指南了解有关这种做法的更多信息。
犯罪者还可能利用深度伪造技术制作旨在嘲笑、恐吓或令他人难堪的视频来欺凌他人。
深度造假的性质可能会使受害者遭受的欺凌行为更加严重。它甚至可能接近虐待行为。 了解儿童间虐待的情况。
A 2023 年互联网观察基金会 (IWF) 报告 警告人工智能生成的儿童性虐待材料（CSAM）不断增加。他们识别出其中 20,000 多张发布在某个网站上的图片 暗网 CSAM 论坛为期一个月。他们认为其中一半以上“最有可能是犯罪分子”。
虽然这个数字不包括深度伪造，但 IWF 表示“逼真的全动态视频内容将变得司空见惯。”他们还指出，人工智能生成的 CSAM 短视频已经存在。 “这些只会变得更加现实、更加广泛。”
一些音频深度伪造或语音克隆诈骗会导致受害者损失金钱。公众人物的肖像也被用来推销诈骗投资。
YouTuber Mr Beast 就是一个例子，他似乎向他的粉丝提供了新 iPhone。然而，实际上并不是他。 YouTube 在儿童和青少年中很受欢迎。因此，模仿他们最喜欢的创作者的深度假货可能会让他们容易遭受这些骗局。
看看这个：英国居民不再需要工作，这是我们今天的嘉宾埃隆·马斯克宣布的。在连接期间，谁将推出一个新的投资项目。我将向您详细介绍这个项目，该项目为英国人民获得投资回报带来了新的机会。新项目投资超过30亿美元，目前已投入运行。
很奇怪，不是吗？你可能会说，看起来像我，听起来像我。很难理解这个问题，不是吗？所以我和斯蒂芬妮·海尔（Stephanie Hair）进行了交谈，我应该说她是一位独立的技术专家。
独立技术专家 Stephanie Hair 接受采访，谈论识别深度赝品的难度。
海尔说：“很多人发现很难发现这些东西。” “不幸的是，你不是第一个，我认为你也不会是最后一个，因为没有什么可以真正阻止这种情况的发生。确实没有任何法规可以让任何人承担责任。例如，如果您想起诉，我不确定您会从谁那里得到任何乐趣。现在，我们进入 Facebook 并说你需要将其删除，它是假的，而且它已经做到了……他们已经做到了，Meta 从那以后也做到了。然而，呃，还有更多深度虚假视频将观众引向诈骗，令人担忧的是，人们实际上正在花掉自己的钱，因为他们相信自己的钱是真的，这就是令人担忧的地方，人们如何辨别真假什么不是？``
“老实说，我不确定是否要从技术限制中找出答案，因为即使通过您的视频，我们也能看到某些事情不太正确。我已经明确表示这是不合法的。你真正想做的是问问自己这听起来是否好得令人难以置信，很可能是这样。如果看起来有点奇怪，那可能就是这样。呃，天下没有免费的午餐。``
“当然没有，我已经在推特上发布或分享了一篇由 BBC 撰写的有关此问题的文章，其中为您提供了如何识别深度虚假视频的重要提示。”
确保儿童上网安全的最佳方法是为他们提供发现伤害并获得支持的工具。以下是如何帮助他们应对深度赝品的方法。
尽早并经常开始有关在线安全的对话。讨论深度伪造的概念。解释人们如何使用人工智能来创建它们以及它们带来的潜在危险。
与您的孩子讨论在分享信息之前验证信息的重要性。鼓励他们在相信网上看到的任何内容之前先检查可靠的来源和事实核查网站。
与您的孩子谈论在线隐私，并解释控制他们的在线足迹的重要性。请记住，任何人都可能出于任何目的使用您孩子的公开图像。因此，限制您分享孩子的照片，并教他们限制分享自己的照片。
利用这些资源寻找有关 Deepfakes 和其他类型 AI 内容的更多支持。
中 
