什么是人工智能？它安全吗？

关于人工智能你需要知道什么

单击您想了解更多信息的任何一点。

• 父母和孩子之间最常用的人工智能是聊天机器人，孩子们用它来完成学业、提供建议和陪伴。
• 人工智能有多种形式，包括聊天机器人、搜索引擎概览以及流行应用程序的一部分。
• 大多数人工智能工具尚未包含家长控制功能或强大的安全设置，这使得年轻用户面临风险。
• 您的孩子可能会使用一系列人工智能工具和聊天机器人，您应该了解这些。
• 使用人工智能的好处包括培养批判性思维和迎接新的教育挑战的机会。
• 风险包括滥用、过度分享以及依赖人工智能工具来取代主动学习。
• 查找一系列资源来了解有关人工智能的更多信息。

什么是AI？

AI 代表人工智能。它指的是能够执行类似人类任务（例如推理和学习）的计算机系统。

当然，它实际上无法像人类一样推理或学习。这就是为什么它被认为是“人工智能”。人类必须对人工智能工具进行编程，使其以特定方式做出响应。它还需要人类提供来自人工智能的信息，以便在完成任务时参考。

我们大多数人最熟悉的是生成式人工智能或人工智能聊天机器人，因此对您和您的孩子的大部分指导都将集中在这里。

儿童如何接触人工智能

大多数主流人工智能聊天机器人都可以轻松免费地供任何有互联网连接的人使用。年轻人最常用的聊天机器人之一是 My AI ，来自 Snapchat。这是一个聊天机器人，它会在所有用户的应用中显示为好友，通常位于列表顶部。因此，使用 Snapchat 也可以轻松使用 AI 聊天机器人。

由于孩子们天生好奇，听到新的人工智能工具的消息可能会促使他们主动去寻找。这些工具的门槛很低，如果孩子们还没有学会如何安全地使用这些工具，就很容易受到伤害。

儿童如何使用聊天机器人

我们的研究表明，孩子们使用人工智能聊天机器人的方式多种多样。其中，帮助完成学业/家庭作业、查找信息和满足好奇心是主要原因。然而，许多使用人工智能的孩子也是为了寻求建议或陪伴。

人工智能如何工作？

人工智能的工作原理是计算并提供最可能的结果。对于普通人来说，这看起来是什么样子，取决于你遇到的是哪种人工智能。

了解下面的更多信息或跳至以下章节：

• 聊天机器人的工作原理
• 人工智能搜索引擎的工作原理
• 人工智能如何与社交媒体合作

聊天机器人的工作原理

聊天机器人 是包括儿童在内的普通人使用的最常见的人工智能形式。 Google Gemini, Character AI 以及 ChatGPT 所有这些都采用了对话式的人工智能。人类以这种方式对聊天机器人进行编程，让你感觉就像在与真人交谈。因此，你可能会更愿意与它互动。

聊天机器人如何与大型语言模型 (LLM) 协同工作

关闭视频

虽然聊天机器人似乎无所不知，但它们也会犯很多错误。很大程度上是因为它们的运作方式。

首先，人类需要向 AI 聊天机器人提供信息，以便“教”该工具。然而，该工具的响应方式类似于预测文本。它提供 从统计上看接下来会出现哪个词，不一定是正确的信息。

聊天机器人往往会根据用户期望的答案进行回复。例如，很多英国人都知道“保持冷静，然后……”这句话的结尾很可能是“继续”。然而，它有很多不同的表达方式，所以如果你搜索的是其他内容，可能会很难找到。

当然，人工智能聊天机器人公司将继续致力于改进他们的产品以减少这些限制。

人工智能搜索引擎的工作原理

现在，许多搜索引擎都会将人工智能响应融入到搜索结果中。当搜索引擎系统识别出某个搜索查询可能有帮助时，就会显示这些“概览”。

大多数情况下，概述会包含解答您疑问的关键信息。它还会提供一些链接，方便您了解更多信息。然而，就像聊天机器人一样，它也可能出错。

以以下虚构短语“像大象一样蓝”为例。如果你在谷歌搜索中搜索这个虚构短语， AI 概述提供了一个虚构的答案.

但是如果你直接在 Google Gemini，聊天机器人会告诉你这不是一个真正的短语。它还会提供其含义的建议，尽管这种解释与搜索引擎中的AI概览有所不同。

因此，虽然人工智能生成的概述可能有所帮助，但探索源信息以 确认是否属实. 对于儿童在网上接触到的任何信息来说都是如此。

人工智能如何与社交媒体合作

继普及 ChatGPT许多科技公司正在努力将人工智能融入其平台。你可以看到 My AI on Snapchat，MetaAI WhatsApp 以及 X 上的 Grok。它们都以不同的方式工作。

例如，Grok on X 部分学习平台内的实时帖子。然而， My AI 无法访问实时数据，这会限制其响应。

一般来说，所有聊天机器人都为用户提供了一种沟通方式。有了这样的平台 Gemini，谷歌对“个性”进行了编程。

像这样的平台 Character.AI另一方面，允许用户创建个性化内容来引导他们的聊天机器人体验。与其他用户生成内容一样，这可能会带来更高的风险。因此，您应该对孩子的使用情况（如果有）有更全面的了解。

儿童使用人工智能是否安全？

大多数人工智能工具并非为儿童设计，这可能会让他们容易受到伤害。热门聊天机器人包括 ChatGPT, Google Gemini 以及 Microsoft Copilot 所有平台都要求用户年满 13 岁。然而，并非所有青少年都具备使用这些平台的技能，因此在考虑是否允许访问时，请务必牢记这一点。

此外，许多聊天机器人的应用程序版本都可以在设备应用商店中找到。这可以帮助您判断哪些应用程序适合您的孩子。但是，某些应用商店的年龄指南可能未反映平台的最低要求。因此，最好同时检查两者。

这些聊天机器人平台内均不具备家长控制功能。唯一的设置通常与隐私有关。请检查这些设置，确保人工智能不会从您孩子的问题或回答中学习。

如果您想限制对这些工具的访问，您可以使用外部家长控制工具，例如 Google Family Link or Apple 屏幕时间。通过这两者，您可以阻止对 AI 网站或应用程序的访问，或者您可以为每个应用程序设置时间限制。

隐私和数据考虑

无论您的家人以何种方式使用人工智能，请务必查看隐私政策和使用条款。请注意：

• 收集什么数据：该工具是否收集语音记录、键入的回复或图像等内容？
• 平台如何存储和共享数据：这些信息会与第三方共享吗？会保存多久？
• 您对数据有何控制权：您可以删除孩子的数据或限制平台收集的数据吗？
• 最低年龄要求：该工具是否适用于儿童，或者是否有最低使用年龄限制？
• 家长控制和安全设置：您可以关闭个性化内容或调整隐私设置吗？

花几分钟检查这些要点可以帮助您为您的孩子做出更安全、更明智的决定。

值得了解的热门AI工具

了解您的孩子可能会遇到的常用人工智能工具。

Character.AI

ChatGPT

Microsoft Copilot

Google Gemini

X 上的 Grok

Perplexity AI

Replika

Snapchat My AI

人工智能有哪些好处？

人工智能能给您的孩子和家人带来诸多益处。然而，您必须 采取措施安全使用人工智能工具 以便从中受益。

只要采取适当的预防措施，使用人工智能可以带来以下好处。

增加学习机会

每 4 个孩子中就有 10 个使用聊天机器人“来帮助完成课业/家庭作业”和“查找信息或学习某些东西”。这意味着孩子们已经看到了利用人工智能学习的好处。

然而，这些孩子中的大多数可能没有接受过关于如何使用这些工具进行正确学习的教育。

你可以帮助孩子安全地使用人工智能聊天机器人，探索正确和错误的使用方法。例如，与其让聊天机器人解答数学题，不如让他们说“不要直接告诉我答案，而是教我如何找到答案”。然后，他们可以向聊天机器人确认得到的答案是否正确。

阅读《研究救援》

学习正确使用在线工具。

培养批判性思维能力

许多家长和老师担心孩子们使用人工智能会对学习产生负面影响。然而，它实际上提供了一个机会，通过培养更强的批判性思维能力来进一步学习。

当计算器变得更容易获得时，许多人对人工智能抱有与现在一样的担忧。他们担心 计算器随手可得会让孩子依赖它们。然而，使用计算器意味着孩子们可以学习更复杂的数学 围绕计算器设计. 现在，GCSE 考试中有了计算器和非计算器考试来反映这一点。

同样，在课堂上有效使用人工智能工具的核心在于创建积极涉及其使用的课程。

例如，一位英语老师可以让十年级的学生使用人工智能撰写一份五年级样题答案。然后，在课堂上，学生可以根据之前的教学成果，不断改进这篇作文。

这让学生扮演“老师”的角色，帮助他们批判性地思考从 5 年级到 9 年级的进步是什么样的。

人工智能在教育领域的其他用途包括“采访”书中人物或历史人物，并找出其中的不准确之处。它还可以帮助学生提高基本的创意写作能力。

如果创造性地使用，您可以增强孩子的批判性思维和评估技能，以帮助他们学习。

人工智能的风险

由于人工智能尚属新兴事物，使用这些工具存在一系列风险。随着人工智能工具的不断发展，我们可能会看到更强大的安全功能，但也可能面临更大的危害风险。

过度依赖和滥用

虽然家长、老师和孩子可以利用人工智能带来一系列好处，但并非每个人都知道如何去做。如果孩子没有学会如何正确使用，他们可能会过度依赖这项技术，甚至滥用它。

这可能包括：

• 通过让人工智能聊天机器人为他们完成所有“思考”任务；
• 将更复杂的任务留给人工智能去完成，而不是自己尝试；
• 由于过度使用这些工具，难以在测试空间中应用学习；
• 使用有害的人工智能工具（例如 裸体应用) 是为了“好玩”，而不了解其危害。

偏好人工关系

把人工智能聊天机器人当“朋友”的孩子可能比真正的朋友更喜欢它们，尤其是在他们难以进行线下交流的情况下。例如，自闭症儿童可能会因为感官超负荷或误读社交线索而难以与同龄人建立有意义的联系。这可能会导致欺凌而不是友谊，但人工智能聊天机器人会更“理解”他们。

虽然一些人工智能聊天机器人可以提供心理健康支持，但监督其使用至关重要。尽可能优先考虑线上线下真正的友谊。

年轻人的数字关系

人工智能机器人和角色

相信和传播错误信息

生成式人工智能可能会出错。这可能是由于其源数据、编程、计算错误或误解造成的。尤其是幼儿，他们可能难以以“正确”的方式提问并获得准确的答案。

缺乏事实核查或批判性思维能力的孩子很容易轻信聊天机器人的回答。他们可能会误以为虚假信息是真的，进而将其广泛传播。

因此，向他们展示如何检查信息并鼓励他们这样做非常重要。

隐私和安全问题

我们当中有多少人真正阅读过我们所使用的新工具的隐私政策？这个数字是多少？阅读这些政策的儿童数量就更少了。像以下这些流行的人工智能工具： ChatGPT, Gemini 和 Copilot 从用户输入聊天机器人的提示中收集信息。

这并不意味着平台会与他人共享这些数据，但确实意味着他们会保留这些数据。随着人工智能隐私和安全选项的发展，孩子们应该妥善保管个人信息。

如果您的家人使用聊天机器人或其他人工智能工具，请务必检查隐私设置并关闭数据收集功能。在探索新工具时，请务必确认有此选项，并确保您的孩子知道哪些信息可以分享，哪些信息不可以分享。