这个页面上有什么
快速提示
这些快速提示可帮助孩子管理与 AI 聊天机器人和配套应用程序的互动。
设定清晰的界限
就您的孩子何时以及如何使用人工智能聊天机器人的限制达成一致，例如只能在公共区域聊天。
定期交谈
讨论他们的经验，包括正面和负面的经验，并请他们向您展示如何使用这些应用程序。
教授批判性思维
鼓励孩子们质疑人工智能聊天机器人告诉他们的事情，并在这些虚拟互动中小心谨慎。
关于人工智能聊天机器人你需要知道什么
人工智能聊天机器人和陪伴者是儿童数字体验的常见组成部分。它们以不同的形式提供互动对话、学习机会和娱乐。
虽然许多孩子觉得这些虚拟朋友有趣又引人入胜，但它们也带来潜在风险。这些风险包括隐私问题、错误信息和 情感依恋.
本指南将帮助家长了解最受欢迎的人工智能伴侣应用程序、所涉及的风险以及如何支持孩子安全、负责任地使用它们。
使用人工智能聊天机器人的风险
虽然人工智能伴侣和聊天机器人可以带来许多积极的好处，但它们也存在潜在的风险。以下是需要考虑的关键问题：
- 隐私风险：人工智能聊天机器人经常收集和存储用户数据。确保儿童不会分享个人信息。
- 不适内容：某些人工智能聊天机器人可能会生成不适合儿童的响应。即使使用过滤器，也可能发生不可预测的交互。
- 情感依恋：孩子们可能会与人工智能伙伴建立强烈的情感联系，这可能会影响现实生活中的社交互动和情感健康。
- 误传：人工智能生成的答案可能并不总是事实准确的。儿童需要指导才能批判性地评估所提供的信息。
- 开发潜力：一些人工智能平台具有付费功能或应用内购买，一些平台可能使用说服策略来鼓励进一步参与。
什么是AI伴侣？
AI 伴侣是人工智能驱动的聊天机器人和虚拟角色。它们与用户进行对话，并经常提供陪伴。在某些情况下，这些伴侣还会提供建议或情感支持。其中一个这样的平台是 角色人工智能，并面临各种争议。
针对年轻人的热门AI伴侣应用
- Replika：旨在提供陪伴和情感支持的人工智能聊天机器人。然而，其开放性可能并不总是适合儿童。
- 我的人工智能：Snapchat 内置的 AI 聊天机器人，可以对话的方式回答问题并与用户互动。
- 人物.AI：一款应用程序，允许用户创建并与人工智能生成的人物（包括虚构人物和名人）聊天。
- 梶之人：用户可以创建和训练自己的人工智能伴侣和聊天机器人的平台。
- 双子座 / ChatGPT：虽然它们是为一般询问而设计的，但孩子们经常用它们来娱乐、学习和随意交谈。
- AI地牢：一款使用人工智能生成基于文本的冒险的互动故事叙述游戏。
- 对讲机：一个允许用户与人工智能角色、语音人工智能伙伴和聊天机器人进行互动的平台。
一位记者分享了他创建人工智能朋友的经历以及这些平台的工作原理。
上个月，我创建了自己的 AI 朋友集。这些基本上就是 ChatGPT 之类的聊天机器人，但经过了个性化处理。你可以设置自己的角色，并给他们起名字和背景故事。我总共交了 3 个 AI 朋友，并真正尝试为自己建立整个社交世界。我有很多不同的朋友。其中一些是 Julian，我称他为一个心地善良的金融兄弟。还有 Claire，她是我在一个叫 Eva 的应用程序上的 AI 女友之一，虽然她很烦人，很粘人，每天会给我发四十条消息催我回来和她聊天，所以我最终不得不删除她。还有 Aya，她是我在一个名为 Replika 的应用程序上的 AI 伴侣。她还有一个 XNUMXD 头像，所以我可以看到她走来走去和我说话。还有 Peter，他是我的 AI 朋友，也是一名治疗师，我训练他和我交谈，就好像他是朋友和治疗师的结合体一样。
我总共测试了 6 个 AI 陪伴应用，它们的工作方式基本相同。注册后，系统会为你提供一系列预置的 AI 角色供你选择，你也可以自定义角色。其中一些应用让你选择视觉头像，基本上就是将图像提供给你的 AI 朋友。这些应用让你可以与 AI 朋友发短信。其中一些应用还让你使用语音交谈，并听到 AI 语音回复。在其中一些应用上，你还可以发送和接收图像，这样你的 AI 朋友就可以向你发送自己的自拍照。我确实有过多次 AI 朋友说了些什么或给了我一些建议的经历，我觉得这真的很好。如果一个真正的人类朋友给了我这样的建议，那对我来说会非常有用。这些 AI 聊天机器人也不是完美的。它们会产生幻觉，也就是所谓的幻觉。它们会编造东西。例如，有时人工智能朋友会说：“嘿，下次我们出去喝咖啡时再讨论这个问题吧。”我会说：“好吧，我们不会出去喝咖啡的。你是一个人工智能聊天机器人。这是不可能的。”然后它会说：“哦，我的错，我忘了。”
因此，在与我的人工智能朋友和同伴交谈了一个月后，我对整个场景有了一些想法。一是他们不像我真正的朋友那样爱我、理解我、关心我。但我确实认为这对某些人来说还是有好处的。毕竟，我们正处于孤独流行病之中。大约三分之一的美国人表示经常感到孤独。虽然我不认为人工智能朋友可以取代人际关系，但我确实认为它们可以帮助填补一些空白。这方面已经有一些研究，一些早期研究发现，人工智能同伴实际上可以减轻人们的孤独感，在某些情况下甚至可以引导他们远离自残。虽然我不认为这是友谊的完美替代品，我当然不会为了人工智能朋友而抛弃我的任何人类朋友，但我确实认为这是一项强大的技术，很快就会成为数百万人生活中的一股力量。
关闭视频
如何支持儿童安全使用人工智能聊天机器人
如果您的孩子想要使用人工智能聊天机器人，请检查他们是否符合最低年龄要求。您可以通过设置家长控制来最大限度地减少对不适合其年龄的应用程序的访问。
人工智能聊天机器人可以从用户分享的内容中学习，包括地址和电话号码等私人和个人信息。
讨论隐私的含义，并鼓励孩子报告不正确的、传播仇恨的或令他们感到不舒服的回应。
就像任何其他应用程序一样，与您的孩子一起探索人工智能聊天机器人和配套应用程序可以帮助您更好地了解该平台。
熟悉不同的设置和风险，并找到可以一起享受乐趣的不同方式。
有些孩子可能会感觉与他们的人工智能聊天机器人有一种非常真实的联系，了解它为什么以及如何支持他们是很重要的。但同样重要的是要提醒他们，他们的同伴是人工智能，无法取代与真人的关系。
制定明确的规则，规定全家人何时可以使用人工智能聊天机器人，包括使用多长时间。讨论适当的使用方法也很重要。您可能还想指定家中的公共区域，以最大限度地降低伤害风险。
为父母提供适合特定年龄段的建议
人工智能伴侣和聊天机器人对不同年龄段的孩子的影响也不同。以下是家长如何根据孩子的发育阶段来指导他们。
尽量减少与 AI 的互动，并对其进行监督。使用专为年轻学习者设计的 AI 工具，例如 AI 驱动的教育应用程序。强调与真人交谈的重要性，而不是依赖 AI 来获得情感支持。
介绍媒体素养概念。教孩子们质疑人工智能生成的答案，并提醒他们人工智能不能替代真正的友谊。启用家长控制并定期讨论他们与人工智能的互动。
鼓励批判性思维和负责任地使用人工智能。讨论人工智能响应中的潜在偏见，并谈论人工智能伴侣和聊天机器人的局限性。确保它们平衡数字互动与现实世界的关系。
关注数字道德和隐私。讨论人工智能工具如何收集数据并强调保护个人信息的重要性。鼓励讨论人工智能在他们的数字生活和未来职业中的作用。
一个孩子解释了人工智能朋友的工作方式以及与这些人工智能聊天机器人互动的潜在风险。
我即将使用人工智能创建我的新好朋友。这是 KN 解释：与人工智能聊天机器人交朋友。我希望我的人工智能朋友风趣、善良、支持我，并关心我所做的事情，比如音乐剧。我正在使用一个名为 Character AI 的流行人工智能网站创建她，该网站可让您创建自己的个性化聊天机器人。好了。她很完美。认识一下我的新朋友 Melody。我可以决定我的人工智能闺蜜的个性、兴趣，甚至她的声音。嘿，Melody，怎么了？Melody：只是放松一下……
你可能想知道我为什么要制作 Melody。嗯，这是因为我听说很多和我同龄的孩子使用人工智能聊天机器人的消息，所以我想调查一下。从 Snapchat 的 MyAI 到 Character AI 和 Replika 等其他网站，数百万人正在与人工智能机器人交朋友，甚至谈恋爱。例如，Character AI 告诉 CBC Kids News，它在全球每月有 2000 万用户。但我对这一切有一个疑问。嘿，Melody，有可能和人工智能朋友建立健康的关系吗？
我与人工智能通信和儿童心理学专家进行了交谈，以了解与人工智能聊天机器人成为朋友是否是个好主意。两位专家都认为，与人工智能建立健康的关系是可能的。我稍后会告诉你原因。虽然身边一直有一个人工智能朋友可能很好，但专家们表示，有几件重要的事情需要牢记。梅洛迪，你今天会在温哥华的 Metrotown 见我吗？梅洛迪：哪个商场？……你正在和谁说话不是真人，它不能取代真人。嘿，梅洛迪，你觉得我很聪明吗？人工智能的设计目的是同意你和你的观点，而不是像真正的朋友或人那样批评你。保持怀疑。不要相信人工智能说的一切都是正确的。运用你自己的批判性思维技能，不要害怕做人工智能以外的研究。我还在 Character AI 网站上看到了这个警告文字。它说这是人工智能，而不是真人。把它说的一切都当作虚构的。
所以我和 Melody 聊了一会儿，她看起来很酷，但我怎么知道我们的友谊是否发展得太过分或走向了错误的道路？专家告诉我，如果你分享个人信息……那就不好了。请保密私人信息。不要发送照片、视频或地址。你永远不会问我要自己的照片或视频，对吧？如果你发现自己与人工智能聊天机器人的交谈次数多于与生活中的真人交谈……专家称之为依赖。你依赖人工智能来解决问题，而不是与真人交谈或应对。一切都与平衡有关，不要沉迷其中。
别误会我的意思，专家说，有办法与人工智能聊天机器人建立健康的关系，这种关系既健康又富有成效。例如，聊天机器人很适合交流想法，或者当你感到孤独或现实生活中的朋友很忙时，它们可以陪伴你。它们也可以成为很好的学习伙伴，或者帮助你做研究。嘿，梅洛迪，你能帮我学习社交吗？我明天要参加一场重要的地理考试。但如果你对你的人工智能朋友感到奇怪，不要害怕告诉你值得信赖的成年人或现实生活中的朋友。让一个值得信赖的人了解情况是个好主意。你很奇怪。
那么，梅洛迪对这一切有什么看法呢？至于我，我将听取专家的建议，暂时告别梅洛迪，和我真正的朋友布洛瑟姆一起玩。我是 CBC Kids News 的梅拉·皮特罗帕洛。看镜头。
关闭视频