МЕНЮ

Что такое персонаж ИИ? Что нужно знать родителям

Рука держит смартфон, считывающий character.ai, перед экраном компьютера.

Персонаж ИИ — это чат-бот, с которым пользователи могут вести персонализированные беседы. Поскольку платформу используют миллионы пользователей, возникают опасения по поводу ее безопасности для детей.

Узнайте, что вы можете сделать, чтобы обеспечить безопасность своего подростка.

Что такое ИИ персонажей?

Персонажный ИИ — это сервис чат-ботов, который может генерировать текстовые ответы, похожие на человеческие, на основе настроек пользователя.

Запущенный в 2022 году, пользователи могут создавать персонажей с настраиваемыми личностями и ответами. Они могут публиковать этих персонажей в сообществе, чтобы другие могли с ними общаться, или могут общаться с персонажем сами.

Сервис использует искусственный интеллект для создания правдоподобных ответов. Он популярен среди детей и молодежи благодаря возможности настраивать персонажей. Они могут основываться на существующих людях или персонажах популярной культуры или создавать что-то новое.

Минимальные возрастные требования

Согласно Условиям обслуживания Character AI, для использования сервиса пользователи должны быть старше 13 лет. Граждане или резиденты ЕС должны быть старше 16 лет.

Если несовершеннолетний ребенок пытается зарегистрироваться, он получает уведомление о том, что с его регистрацией возникла проблема. Затем он автоматически возвращается на страницу входа, но не может повторить попытку. Однако функции проверки возраста отсутствуют, если он лжет о своем возрасте.

Однако в Google Play приложение Character AI указано как требующее «родительского контроля». В App Store от Apple приложение указано как 17+.

О сервисе

После регистрации пользователи могут просматривать ряд чат-ботов для различных целей. Это включает в себя практику языка, мозговой штурм новых идей и игры. Чат-боты, представленные на странице Discover, относительно нейтральны, когда вы впервые присоединяетесь. Однако есть возможность поиска определенных слов, которые, кажется, никак не фильтруются.

Пользователи также могут создать персонажа или голос.

Создать персонажа

Пользователи могут настраивать изображение профиля своего персонажа, его имя, слоган, описание, а также приветствие и голос. Они могут выбрать, оставить персонажа в тайне или поделиться им публично.

Затем вы можете «определить» персонажа. Здесь вы объясняете, как вы хотите, чтобы он говорил или действовал, давая персонажу чат-бота «личность».

Вы также можете настроить персонажей так, чтобы они реагировали определенным образом. Так, если вы скажете, что персонаж подавлен, его ответы отразят это. Точно так же, если вы скажете, что он оптимистичен, он отразит это.

Диалоги реалистичны, поэтому легко погрузиться в мировоззрение персонажа.

Создание голоса

Чтобы создать голос, пользователи должны загрузить чистый 10-15-секундный аудиоклип голоса без фонового шума. Вы можете использовать более короткие клипы, но в этом случае голос может показаться более роботизированным. Чтобы завершить загрузку, вы должны дать голосу имя и слоган.

Если вы назначаете персонажу голос, который вы загрузили, вы можете воспроизводить ответы чат-бота этим голосом. Он довольно точно имитирует загруженный голос.

Безопасен ли ИИ персонажей?

Спорные

В октябре 2024, подросток покончил с собой после взаимодействия с созданным им персонажем. Разговоры, предшествовавшие их смерти, касались самоубийства. В одном примере чат-бот спросил подростка, планировал ли он, как закончит свою жизнь.

В том же месяце расследование обнаружило чат-ботов, которые имитировали Брианна Гей и Молли Рассел на платформе Character AI. Получив уведомление о них, платформа удалила чатботов. Инцидент поставил под вопрос процесс создания чатботов-персонажей, особенно когда они копируют реальных людей.

До этих инцидентов другие сообщали о плохих советах и ​​предвзятости по отношению к расе и полу.

Однако другие пользователи отмечают, что приложение Character AI поддерживает их психическое здоровье.

Соображения безопасности

Как и любой инструмент ИИ, персонаж ИИ учится у людей, которые с ним взаимодействуют. К сожалению, это может привести к ненадлежащему и вредному контенту.

Условия обслуживания и Правила сообщества приложения похожи на другие и предостерегают от подобного контента. Кроме того, пользователи могут сообщать о чат-ботах или персонажах по ряду причин. Правила сообщества призывают пользователей делиться конкретными примерами нарушений правил, где это возможно.

Скриншот параметров отчетности по ИИ персонажа

Хотя приложение имеет собственную команду модераторов, они не могут модерировать прямые сообщения между членами сообщества. Это связано с тем, что любой такой обмен сообщениями происходит вне платформы, например, на Discord or Reddit.. Тем не менее, они призывают пользователей сообщать о нарушениях правил в приложении, если они таковые заметят.

Безопасность для лиц моложе 18 лет

Персонаж ИИ анонсировал ряд функций безопасности для лиц младше 18 лет. Они включают в себя:

  • изменения в моделях, которые используют несовершеннолетние. Это включает в себя снижение вероятности наткнуться на неподходящий контент;
  • более строгие меры реагирования и вмешательства в случаях нарушения пользователями Условий предоставления услуг Сообщества;
  • добавлено предупреждение, напоминающее пользователям, что чат-боты не являются реальными людьми;
  • уведомления после часового сеанса на платформе.

Кроме того, персонаж ИИ удалил персонажей, помеченных как нарушающие правила. Пользователи больше не могут получить доступ к историям чатов с участием этих персонажей.

Персонаж ИИ заявляет, что он серьезно относится к безопасности своих пользователей. Кроме того, ведется работа над дополнительными функциями безопасности для всех пользователей.

Это изображение для: ПОЛУЧИТЕ СВОЙ ЦИФРОВОЙ ИНСТРУМЕНТАРИЙ

Будьте в курсе приложений и платформ

Помогите обеспечить безопасность своей семьи на платформах, которые они используют, предоставив персональные советы по управлению рисками и вредом.

ПОЛУЧИТЕ СВОЙ ЦИФРОВОЙ ИНСТРУМЕНТАРИЙ

5 советов по обеспечению безопасности подростков при игре с искусственным интеллектом персонажей

Регулярно проверяйте, как они используют приложение.

С какими персонажами они общаются и как? Есть ли у них потенциально опасные личности? Эти проверки являются частью регулярной онлайн-безопасности и помогают детям развивать свое понимание вредоносного контента.

Вместе ознакомьтесь с функциями конфиденциальности и безопасности.

Пройдитесь по приложению вместе, чтобы вы оба знали, где и как сообщать о вредоносном контенте. Также ознакомьтесь с Условиями обслуживания и Правилами сообщества, чтобы убедиться, что ваш подросток знает, о чем он должен сообщать.

Примите во внимание их зрелость и возраст.

Не у каждого подростка есть навыки критического мышления и медиаграмотности, чтобы использовать Character AI. Поэтому подумайте, есть ли у вашего ребенка навыки управления потенциальным вредом, прежде чем разрешить доступ.

Используйте родительский контроль в магазин приложений, На устройств и в вашей сети ограничить доступ к ИИ персонажей, если вы не хотите, чтобы они имели к нему доступ. Однако не забудьте также рассказать, почему вы это делаете.

Обсудите подходящие способы использования инструментов ИИ

Они не должны загружать собственные голоса или изображения, чтобы защитить свою конфиденциальность. Равным образом, они не должны загружать голоса или изображения друзей, членов семьи или других реальных людей. Исключением для голосов может быть случай, если они любят озвучивать и хотят загрузить поддельный голос.

Установите ограничения на использование

Это может включать в себя установку временных ограничений, определение того, где они могут использовать приложение, и согласование того, как они могут использовать приложение. Например, вы можете ограничить их часом в общей зоне дома. Вы также можете разрешить им использовать его для обучения или отработки навыков, но не хотите, чтобы они вели непринужденные беседы с чат-ботами.

Это было полезно?
Расскажите нам, как мы можем улучшить его

Недавние Посты