Что такое Character AI?
Что нужно знать родителям
Character AI — это чат-бот, с которым пользователи могут общаться в персонализированных беседах. Учитывая, что платформой пользуются миллионы пользователей, возникают опасения по поводу её безопасности для детей.
В этом руководстве
Что такое Character AI?
Character AI — это сервис чат-ботов, который может генерировать текстовые ответы, похожие на человеческие, на основе настроек пользователя.
Запущенный в 2022 году, пользователи могут создавать персонажей с настраиваемыми личностями и ответами. Они могут публиковать этих персонажей в сообществе, чтобы другие могли с ними общаться, или могут общаться с персонажем сами.
Сервис использует искусственный интеллект для создания правдоподобных ответов. Он популярен среди детей и молодежи благодаря возможности настраивать персонажей. Они могут основываться на существующих людях или персонажах популярной культуры или создавать что-то новое.
Минимальные возрастные требования
По оценкам Character AIАвтора Условия Предоставления Услуг, для использования сервиса пользователи должны быть старше 13 лет. Граждане или резиденты ЕС должны быть старше 16 лет.
Если несовершеннолетний ребенок пытается зарегистрироваться, он получает уведомление о проблеме с регистрацией. После этого он автоматически возвращается на страницу входа, но повторная попытка невозможна. Однако пользователи могут создать учетную запись, указав возраст от 13 до 17 лет, без какой-либо проверки возраста.
Пользователи младше 18 лет не имеют доступа к открытым чатам с персонажами, управляемыми ИИ. Они могут получать доступ только к видео и сценам и не могут вступать в диалог с ИИ. Для доступа к беседам с ИИ пользователи должны подтвердить свой возраст, сделав селфи, и могут быть обязаны предоставить действительное удостоверение личности, если возраст пользователя не может быть определен по селфи.
Однако Google Play перечисляет Character AI Приложение требует «родительского контроля». App Store от Apple указано, что приложение 17+.
Как заказать?
После регистрации пользователи могут просматривать ряд чат-ботов для различных целей. Это включает в себя практику языка, мозговой штурм новых идей и игры. Чат-боты, представленные на странице Discover, относительно нейтральны, когда вы впервые присоединяетесь. Однако есть возможность поиска определенных слов, которые, кажется, никак не фильтруются.
Пользователи также могут создать персонажа или голос.
Создать персонажа
Пользователи могут настраивать изображение профиля своего персонажа, его имя, слоган, описание, а также приветствие и голос. Они могут выбрать, оставить персонажа в тайне или поделиться им публично.
Затем вы можете «определить» персонажа. Здесь вы объясняете, как вы хотите, чтобы он говорил или действовал, давая персонажу чат-бота «личность».
Вы также можете настроить персонажей так, чтобы они реагировали определенным образом. Так, если вы скажете, что персонаж подавлен, его ответы отразят это. Точно так же, если вы скажете, что он оптимистичен, он отразит это.
Диалоги реалистичны, поэтому легко погрузиться в мировоззрение персонажа.
Создание голоса
Чтобы создать голос, пользователи должны загрузить чистый 10-15-секундный аудиоклип голоса без фонового шума. Вы можете использовать более короткие клипы, но в этом случае голос может показаться более роботизированным. Чтобы завершить загрузку, вы должны дать голосу имя и слоган.
Если вы назначаете персонажу голос, который вы загрузили, вы можете воспроизводить ответы чат-бота этим голосом. Он довольно точно имитирует загруженный голос.
Is Character AI безопасный?
Спорные
В том же месяце расследование обнаружило чат-ботов, которые имитировали Брианна Гей и Молли Рассел на Character AI Платформа. Получив уведомление, платформа удалила чат-ботов. Инцидент поставил под сомнение сам процесс создания персонажей-чат-ботов, особенно когда они копируют реальных людей.
До этих инцидентов другие сообщали о плохих советах и предвзятости по отношению к расе и полу.
Однако другие пользователи отдали должное Character AI приложение с поддержкой их психического здоровья.
Соображения безопасности
Как и любой инструмент искусственного интеллекта, Character AI Учится у людей, которые с ним взаимодействуют. К сожалению, это может привести к появлению нежелательного и вредоносного контента.
Условия обслуживания и Правила сообщества приложения похожи на другие и предостерегают от подобного контента. Кроме того, пользователи могут сообщать о чат-ботах или персонажах по ряду причин. Правила сообщества призывают пользователей делиться конкретными примерами нарушений правил, где это возможно.
Хотя приложение имеет собственную команду модераторов, они не могут модерировать прямые сообщения между членами сообщества. Это связано с тем, что любой такой обмен сообщениями происходит вне платформы, например, на Discord or Reddit. Тем не менее, они призывают пользователей сообщать о нарушениях правил в приложении, если они таковые заметят.
Безопасность для лиц моложе 18 лет
Character AI Приложение имеет ряд функций безопасности для лиц младше 18 лет. Им запрещено вести открытые беседы с чат-ботами на основе искусственного интеллекта; вместо этого они ограничены взаимодействием с заранее созданными сценами и видеороликами. Это снижает вероятность получения ими неподобающих ответов от чат-ботов на основе ИИ.
Помимо вышесказанного, Character AI Удалены персонажи, помеченные как нарушающие правила. Пользователи больше не могут получить доступ к истории чатов с участием этих персонажей.
Однако на сайте по-прежнему встречаются некоторые неподобающие персонажи и сцены, например, следующие. Изображение Джеффри Эпштейна и Гислейн Максвелл.Хотя лицам младше 18 лет общаться с этими чат-ботами нельзя, они всё равно могут видеть их первые сообщения, которые могут содержать тревожные ситуации.
Character AI говорит, что серьезно относится к безопасности своих пользователей. Кроме того, ведется работа над дополнительными функциями безопасности для всех пользователей.
5 советов по обеспечению безопасности подростков Character AI
С какими персонажами они общаются и как? Есть ли у них потенциально опасные личности? Эти проверки являются частью регулярной онлайн-безопасности и помогают детям развивать свое понимание вредоносного контента.
Пройдитесь по приложению вместе, чтобы вы оба знали, где и как сообщать о вредоносном контенте. Также ознакомьтесь с Условиями обслуживания и Правилами сообщества, чтобы убедиться, что ваш подросток знает, о чем он должен сообщать.
Не у каждого подростка есть навыки критического мышления и медиаграмотности, необходимые для использования Character AI. Поэтому, прежде чем разрешить ребенку доступ, подумайте, есть ли у него навыки, позволяющие предотвратить потенциальный вред.
Используйте родительский контроль в магазин приложений, На устройств и в вашей сети ограничить доступ к Character AI Если вы не хотите, чтобы они получали к нему доступ. Однако не забудьте также объяснить, почему вы это делаете.
Они не должны загружать собственные голоса или изображения, чтобы защитить свою конфиденциальность. Равным образом, они не должны загружать голоса или изображения друзей, членов семьи или других реальных людей. Исключением для голосов может быть случай, если они любят озвучивать и хотят загрузить поддельный голос.
Это может включать в себя установку временных ограничений, определение того, где они могут использовать приложение, и согласование того, как они могут использовать приложение. Например, вы можете ограничить их часом в общей зоне дома. Вы также можете разрешить им использовать его для обучения или отработки навыков, но не хотите, чтобы они вели непринужденные беседы с чат-ботами.