Character AI 是一款聊天机器人，用户可以与它进行定制对话。数百万用户使用该平台，但人们担心它对儿童的安全。
了解您可以采取哪些措施来保障青少年的安全。
Character AI 是一种聊天机器人服务，可以根据用户的定制生成类似人类的文本响应。
该应用于 2022 年推出，用户可以创建具有可定制个性和反应的角色。他们可以将这些角色发布到社区供其他人聊天，也可以自己与角色聊天。
该服务使用人工智能来创建可信的回答。由于可以自定义角色，该服务在儿童和年轻人中很受欢迎。他们可以根据流行文化中现有的人物或角色来创建角色，也可以创造新的东西。
根据Character AI的服务条款，用户必须年满13岁才能使用该服务。欧盟公民或居民必须年满16岁。
如果未成年儿童尝试注册，他们会收到注册时出现问题的通知。然后他们会自动返回登录页面，但无法再次尝试。但是，如果他们谎报年龄，则没有年龄验证功能。
然而，Google Play 上将 Character AI 应用列为需要“家长指导”的应用。Apple 的 App Store 上将该应用列为 17+ 适用。
注册后，用户可以浏览一系列用于不同目的的聊天机器人。这包括练习语言、集思广益和玩游戏。首次加入时，“发现”页面上的聊天机器人相对中立。但是，可以选择搜索特定单词，这些单词似乎没有任何过滤。
用户还可以创建角色或声音。
用户可以自定义角色的头像、姓名、标语、描述以及问候语和声音。他们可以选择将角色设为私密或公开分享。
然后，您可以“定义”角色。在这里，您可以解释您希望他们如何说话或行动，从而赋予聊天机器人角色“个性”。
您还可以自定义角色，让它们以特定的方式做出反应。因此，如果您说角色心情低落，它的反应就会反映这一点。同样，如果您说角色心情愉快，它也会反映这一点。
对话非常真实，因此很容易沉浸在角色的世界观中。
要创建声音，用户必须上传一段清晰的 10-15 秒音频剪辑，且没有背景噪音。您可以使用较短的剪辑，但这样声音听起来可能更像机器人。要完成上传，您必须为声音命名并添加标语。
如果您为角色指定了您上传的声音，则可以用该声音播放聊天机器人的响应。它可以相当准确地模仿上传的声音。
在2024年XNUMX月， 青少年在与自己创造的角色互动后自杀。他们临终前的对话与自杀有关。例如，聊天机器人询问青少年是否计划过如何结束自己的生命。
同月，一项调查发现，模仿 布莱恩娜·盖伊 和 莫莉·罗素 在 Character AI 平台上。一旦收到警告，平台就会删除聊天机器人。这一事件引发了人们对创建角色聊天机器人的过程的质疑，尤其是当它们模仿真人时。
在此事件发生之前，其他人就报告了针对种族和性别的错误建议和偏见。
然而，其他用户却认为 Character AI 应用程序有助于他们的心理健康。
与任何 AI 工具一样，Character AI 会向与其互动的人学习。不幸的是，这可能会导致不适当和有害的内容。
该应用的服务条款和社区准则与其他应用类似，并警告不要发布此类内容。此外，用户可以出于各种原因举报聊天机器人或角色。社区准则鼓励用户尽可能分享违反规则的具体示例。
虽然该应用有自己的审核团队，但他们无法审核社区成员之间的直接消息。这是因为任何此类消息传递都是在平台外进行的，例如 Discord or Reddit。不过，他们鼓励用户在应用程序中发现任何违反规则的行为并进行举报。
Character AI 宣布了一系列针对 18 岁以下儿童的安全功能。它们包括：
此外，角色 AI 已删除被标记为违反规则的角色。用户无法再访问涉及这些角色的聊天记录。
Character AI 表示非常重视用户的安全。此外，它还致力于为所有用户提供额外的安全功能。
他们在和哪些角色交谈？如何交谈？他们是否有任何潜在的有害性格？这些检查是常规网络安全的一部分，可帮助儿童加深对有害内容的理解。
一起浏览应用程序，这样你们俩都知道在哪里以及如何举报有害内容。此外，查看服务条款和社区准则，确保您的孩子知道他们应该举报什么。
为了保护隐私，他们不应上传自己的声音或图像。同样，他们也不应上传朋友、家人或其他真人的声音或图像。如果他们喜欢配音并想上传假声音，则例外。
这可能包括设置时间限制、定义他们可以在哪里使用该应用以及就他们如何使用该应用达成一致。例如，您可以限制他们在家中的公共区域使用一小时。您也可以让他们使用它来学习或练习技能，但不希望他们与聊天机器人进行随意交谈。
