网站地图

什么是深度伪造?

Deepfake技术是一种人工智能,可以传播错误信息和虚假信息。随时了解情况,帮助保护上网的儿童和青少年。

一位妈妈拿着一台平板电脑,周围都是安全图标。

指导一览

快速获取有关 Deepfake 技术的见解和建议。

这是什么意思?

Deepfakes 是操纵一个人的肖像的视频或音频记录。然后他们似乎做了/说了一些他们从未做过的事情。

了解深度造假

有什么风险?

Deepfakes 有可能传播虚假信息或宣传。他们还可能参与网络欺凌和诈骗。

了解危害

如何保护儿童

通过定期对话帮助孩子培养批判性思维是保护他们免受伤害的关键部分。

查看安全提示

什么是深度伪造?

深度伪造的两种主要类型是视频和音频。视频深度伪造品操纵一个人的外表,而音频深度伪造品操纵他们的声音。

视频和音频深度伪造经常一起产生误导性内容。创建这些虚假内容的人可能有无辜的意图。例如,他们可能会制作一段名人跳有趣舞蹈的视频,以逗人发笑。然而,即使是最好的意图也可能导致错误信息和混乱。

什么是视频深度伪造?

视频深度伪造是最常见的类型。创建这些视频的人使用 人工智能 替换现有视频片段中某人的脸部或身体。例如让名人发表有争议的言论或让新闻主播报道捏造的故事。

在一些视频深度伪造中,配音演员会模仿名人或原始音频来提供新的声音。或者,创建者也可以使用语音克隆。

什么是声音克隆?

语音克隆或音频深度伪造可以操纵语音而不是视频,使其听起来像其他人。一种越来越常见的骗局利用语音克隆来瞄准目标人群。对于父母来说,他们可能会接到孩子的紧急电话,孩子出于某种目的需要立即用钱。这些骗局极具说服力,并造成了经济损失。

有人还可以使用音频深度伪造来欺负另一个人。例如,他们可以模仿同学的声音,让他们看起来好像说了一些他们没有说过的话。

无论深度伪造的类型如何,重要的是要记住有人需要使用人工智能工具来创建它。 Deepfake 的创作者并不总是清楚,但 AI 不会自动生成这些内容。

有哪些潜在危害?

Deepfake 可以通过多种方式影响人们,并使儿童和青少年容易受到网络伤害。

儿童和年轻人可能很难识别虚假视频和音频,尤其是随着技术变得越来越复杂。此外,人工智能工具的可访问性增加可能意味着更多的人可以创建深度伪造品。因此,这可能会增加潜在危害的范围。

虚假信息和宣传 

在线用户可以使用 Deepfakes 来:

  • 传播虚假信息;
  • 破坏公众人物的信任;或者
  • 操纵围绕政治和其他重要问题的对话。

儿童仍在发展批判性思维能力,因此他们特别容易相信此类信息。

名誉受损

一些报告将深度伪造与报复色情联系起来。在这些情况下,犯罪者将受害者添加到色情视频或图像等有害内容中。

然后,犯罪者可能会利用这些深度伪造品来胁迫受害者。这可能包括要求付款或提供真实图像,以阻止他们更广泛地分享深度假货。 通过我们的性勒索指南了解有关这种做法的更多信息。

网络欺凌、骚扰和虐待

犯罪者还可能利用深度伪造技术制作旨在嘲笑、恐吓或令他人难堪的视频来欺凌他人。

深度造假的性质可能会使受害者遭受的欺凌行为更加严重。它甚至可能接近虐待行为。 了解儿童间虐待的情况。

A 2023 年互联网观察基金会 (IWF) 报告 警告人工智能生成的儿童性虐待材料(CSAM)不断增加。他们识别出其中 20,000 多张发布在某个网站上的图片 暗网 CSAM 论坛为期一个月。他们认为其中一半以上“最有可能是犯罪分子”。

虽然这个数字不包括深度伪造,但 IWF 表示“逼真的全动态视频内容将变得司空见惯。”他们还指出,人工智能生成的 CSAM 短视频已经存在。 “这些只会变得更加现实、更加广泛。”

经济损失和诈骗

一些音频深度伪造或语音克隆诈骗会导致受害者损失金钱。公众人物的肖像也被用来推销诈骗投资。

YouTuber Mr Beast 就是一个例子,他似乎向他的粉丝提供了新 iPhone。然而,实际上并不是他。 YouTube 在儿童和青少年中很受欢迎。因此,模仿他们最喜欢的创作者的深度假货可能会让他们容易遭受这些骗局。

Deepfake 诈骗视频示例
显示视频记录
好吧,让我们继续关注技术,因为人工智能正在助长网络犯罪的繁荣。根据网络安全专家的估计,今年的成本预计将达到 8 万亿美元,比日本的经济还要多。世界上最大的 YouTuber 就是其中之一,他们的视频图像被人工智能操纵来宣传骗局,甚至 BBC 主持人也未能幸免。

看看这个:英国居民不再需要工作,这是我们今天的嘉宾埃隆·马斯克宣布的。在连接期间,谁将推出一个新的投资项目。我将向您详细介绍这个项目,该项目为英国人民获得投资回报带来了新的机会。新项目投资超过30亿美元,目前已投入运行。

很奇怪,不是吗?你可能会说,看起来像我,听起来像我。很难理解这个问题,不是吗?所以我和斯蒂芬妮·海尔(Stephanie Hair)进行了交谈,我应该说她是一位独立的技术专家。

独立技术专家 Stephanie Hair 接受采访,谈论识别深度赝品的难度。

海尔说:“很多人发现很难发现这些东西。” “不幸的是,你不是第一个,我认为你也不会是最后一个,因为没有什么可以真正阻止这种情况的发生。确实没有任何法规可以让任何人承担责任。例如,如果您想起诉,我不确定您会从谁那里得到任何乐趣。现在,我们进入 Facebook 并说你需要将其删除,它是假的,而且它已经做到了……他们已经做到了,Meta 从那以后也做到了。然而,呃,还有更多深度虚假视频将观众引向诈骗,令人担忧的是,人们实际上正在花掉自己的钱,因为他们相信自己的钱是真的,这就是令人担忧的地方,人们如何辨别真假什么不是?``

“老实说,我不确定是否要从技术限制中找出答案,因为即使通过您的视频,我们也能看到某些事情不太正确。我已经明确表示这是不合法的。你真正想做的是问问自己这听起来是否好得令人难以置信,很可能是这样。如果看起来有点奇怪,那可能就是这样。呃,天下没有免费的午餐。``

“当然没有,我已经在推特上发布或分享了一篇由 BBC 撰写的有关此问题的文章,其中为您提供了如何识别深度虚假视频的重要提示。”

如何保护儿童免受深度造假伤害

确保儿童上网安全的最佳方法是为他们提供发现伤害并获得支持的工具。以下是如何帮助他们应对深度赝品的方法。

开放的沟通是关键

尽早并经常开始有关在线安全的对话。讨论深度伪造的概念。解释人们如何使用人工智能来创建它们以及它们带来的潜在危险。

培养儿童的媒介素养

通过鼓励孩子质疑他们在网上看到和听到的内容,培养他们的批判性思维能力。教他们寻找视频可能是假的线索。示例包括不自然的移动或音频和视频质量的不一致。

了解虚假信息

设置边界和设置

在家庭宽带或移动网络上,设置家长控制以限制接触不当内容。对您孩子使用的应用程序执行同样的操作。然后,共同设定使用设备的地点和时间的界限。

获取家庭协议模板

谈论数字公民

帮助您的孩子养成积极的在线行为。阻止他们创建或分享他人的虚假内容,即使他们这样做只是为了开玩笑。

查看顶级互联网礼仪

向他们展示如何验证来源

与您的孩子讨论在分享信息之前验证信息的重要性。鼓励他们在相信网上看到的任何内容之前先检查可靠的来源和事实核查网站。

保密

与您的孩子谈论在线隐私,并解释控制他们的在线足迹的重要性。请记住,任何人都可能出于任何目的使用您孩子的公开图像。因此,限制您分享孩子的照片,并教他们限制分享自己的照片。

家长的 Deepfakes 指南

有关人工智能的最新资源和指南

利用这些资源寻找有关 Deepfakes 和其他类型 AI 内容的更多支持。

这有用吗?
告诉我们如何改进它