什么是深度伪造？

什么是深度伪造？

深度伪造的两种主要类型是视频和音频。视频深度伪造品操纵一个人的外表，而音频深度伪造品操纵他们的声音。

视频和音频深度伪造经常一起产生误导性内容。创建这些虚假内容的人可能有无辜的意图。例如，他们可能会制作一段名人跳有趣舞蹈的视频，以逗人发笑。然而，即使是最好的意图也可能导致错误信息和混乱。

什么是视频深度伪造？

视频深度伪造是最常见的类型。创建这些视频的人使用 人工智能 替换现有视频片段中某人的脸部或身体。例如让名人发表有争议的言论或让新闻主播报道捏造的故事。

在一些视频深度伪造中，配音演员会模仿名人或原始音频来提供新的声音。或者，创建者也可以使用语音克隆。

什么是声音克隆？

语音克隆或音频深度伪造可以操纵语音而不是视频，使其听起来像其他人。一种越来越常见的骗局利用语音克隆来瞄准目标人群。对于父母来说，他们可能会接到孩子的紧急电话，孩子出于某种目的需要立即用钱。这些骗局极具说服力，并造成了经济损失。

有人还可以使用音频深度伪造来欺负另一个人。例如，他们可以模仿同学的声音，让他们看起来好像说了一些他们没有说过的话。

无论深度伪造的类型如何，重要的是要记住有人需要使用人工智能工具来创建它。 Deepfake 的创作者并不总是清楚，但 AI 不会自动生成这些内容。

有哪些潜在危害？

Deepfake 可以通过多种方式影响人们，并使儿童和青少年容易受到网络伤害。

儿童和年轻人可能很难识别虚假视频和音频，尤其是随着技术变得越来越复杂。此外，人工智能工具的可访问性增加可能意味着更多的人可以创建深度伪造品。因此，这可能会增加潜在危害的范围。

虚假信息和宣传

在线用户可以使用 Deepfakes 来：

• 传播虚假信息；
• 破坏公众人物的信任；或者
• 操纵围绕政治和其他重要问题的对话。

儿童仍在发展批判性思维能力，因此他们特别容易相信此类信息。

名誉受损

一些报告将深度伪造与报复色情联系起来。在这些情况下，犯罪者将受害者添加到色情视频或图像等有害内容中。

然后，犯罪者可能会利用这些深度伪造品来胁迫受害者。这可能包括要求付款或提供真实图像，以阻止他们更广泛地分享深度假货。

什么是色情？

了解更多有关网上儿童性胁迫的信息。

网络欺凌、骚扰和虐待

犯罪者还可能利用深度伪造技术制作旨在嘲笑、恐吓或令他人难堪的视频来欺凌他人。

深度造假的性质可能会使受害者遭受的欺凌行为更加严重。它甚至可能接近虐待行为。

在网上了解儿童虐待

获得针对父母、教师和年轻人的指导。

A 2023 年互联网观察基金会 (IWF) 报告 警告人工智能生成的儿童性虐待材料（CSAM）不断增加。他们识别出其中 20,000 多张发布在某个网站上的图片 暗网 CSAM 论坛为期一个月。他们认为其中一半以上“最有可能是犯罪分子”。

虽然这个数字不包括深度伪造，但 IWF 表示“逼真的全动态视频内容将变得司空见惯。”他们还指出，人工智能生成的 CSAM 短视频已经存在。 “这些只会变得更加现实、更加广泛。”

经济损失和诈骗

一些音频深度伪造或语音克隆诈骗会导致受害者损失金钱。公众人物的肖像也被用来推销诈骗投资。

YouTuber Mr Beast 就是一个例子，他似乎向他的粉丝提供了新 iPhone。然而，实际上并不是他。 YouTube 在儿童和青少年中很受欢迎。因此，模仿他们最喜欢的创作者的深度假货可能会让他们容易遭受这些骗局。

显示视频脚本

好吧，让我们继续讨论技术，因为人工智能正在助长网络犯罪的繁荣。据网络安全专家估计，今年的损失预计将达到 8 万亿美元，超过日本的经济。全球最大的 YouTuber 是那些视频图像被人工智能操纵以宣传骗局的人之一，甚至 BBC 主持人也未能幸免。看看这个：英国居民不再需要工作，这是我们今天的嘉宾埃隆·马斯克宣布的。在连接期间，他将公布一项新的投资项目。我将向您详细介绍这个项目，它为英国人打开了获得投资回报的新机会。新项目投资超过 XNUMX 亿美元，目前已经启动并运行。

很奇怪，不是吗？你可能会说，这看起来像我，听起来也像我。要理解这一点有点困难，不是吗？所以我和斯蒂芬妮·海尔谈了谈，她应该说是一位独立技术专家。

独立技术专家 Stephanie Hair 接受采访，谈论识别深度赝品的难度。

“很多人发现很难发现这些东西，”海尔说。“不幸的是，你不是第一个，也不认为你会是最后一个，因为没有什么可以真正阻止这种情况发生。没有任何法规可以真正追究任何人的责任。例如，如果你想起诉，我不知道你会从谁那里得到任何快乐。现在，我们在 Facebook 上说你需要删除这个，它是假的，它已经这样做了……他们已经这样做了，Meta 从那时起也这样做了。然而，呃，还有更多的深度伪造视频将观众引向骗局，令人担忧的是，人们实际上正在花自己的钱，因为他们相信这些视频是真的，这就是令人担忧的，人们如何区分什么是真实的，什么不是真实的？”

“说实话，我不确定是否能从技术限制中看出这一点，因为即使从你的视频中我们也能看到某些事情不太对劲。我非常清楚地表明了它不合法。你真正想做的是问问自己，这听起来是否好得令人难以置信，很可能是的。如果它看起来有点奇怪，很可能就是的。呃，天下没有免费的午餐。”

“当然没有，我已经在推特上发布或分享了一篇由 BBC 撰写的有关此事的文章，其中提供了如何识别深度伪造视频的最佳技巧。”

关闭视频

确保儿童上网安全的最佳方法是向他们提供发现危害和获得支持的工具。以下是帮助他们应对深度伪造的方法。