Что такое генеративный ИИ (Gen-AI) и как он может повлиять на благополучие детей?

Генеративный ИИ (Gen-AI) — это форма искусственного интеллекта, которая создает оригинальный текст, изображения и аудио. Модели Gen-AI обучаются на наборах данных, используемых для создания нового контента, с использованием шаблонов, полученных в процессе обучения.

Ген-ИИ использует Обработка естественного языка (НЛП). Это отрасль искусственного интеллекта, которая «сосредотачивается на том, чтобы помочь компьютерам понимать, интерпретировать и генерировать человеческий язык». Эти технологии открывают детям множество интересных возможностей. Однако, как и в случае со всеми новыми технологиями, наряду с преимуществами существуют и потенциальные риски, о которых следует знать.

Индивидуальный опыт обучения

Генеративный ИИ может помочь учителям адаптировать свои планы уроков и материалы для лучшей поддержки различных учебных потребностей своих учеников. Таким образом, это обеспечивает более увлекательный и инклюзивный опыт обучения для разных классов.

Фактически, учителя уже используют генеративные инструменты искусственного интеллекта для оказания индивидуальной поддержки ученикам с особыми образовательными потребностями и ограниченными возможностями (SEND).

Поддержка через горячие линии

Дети могут воспользоваться услугами линий помощи, использующих генеративный искусственный интеллект. Линии помощи по социальному и психическому здоровью, созданные на основе генеративного искусственного интеллекта, могут обеспечить очень оперативную и персонализированную поддержку для молодых людей. Это может привести к немедленной помощи и повысить общую эффективность человеческой поддержки.

Например, Помощь детям — это онлайн-служба психического здоровья, которая использует генеративную технологию искусственного интеллекта для круглосуточной поддержки детей по всей Канаде. Этот сервис с помощью НЛП анализирует и сопоставляет стиль общения молодых людей. Это, в свою очередь, направляет детей к конкретному каналу обслуживания, который им нужен, будь то поддержка при эмоциональном стрессе, проблемах издевательств или других проблемах.

«Горячие линии» предлагают молодым людям безопасное и анонимное пространство, где они могут выразить свои чувства и проблемы, не опасаясь осуждения. Однако, хотя чат-боты линии помощи могут обеспечить быстрые ответы, им не хватает нюансов и адаптируемости, которые предлагает человеческая поддержка. Поэтому им придется изо всех сил пытаться полностью заменить эффективность человеческого взаимодействия.

Чат-боты эмоциональной поддержки

Помимо поддержки и направления молодых людей по телефону, чат-боты с искусственным интеллектом могут выступать в качестве виртуальных компаньонов. В некоторых случаях они могут оказать эмоциональную поддержку детям, которым сложно завести друзей или справиться с социальными проблемами. Кроме того, эти чат-боты могут поддерживать детей, которые чувствуют себя одинокими или которым сложно поделиться своими чувствами с другими.

При наличии правильных мер безопасности чат-боты также могут поддерживать детей, которые борются с социальной тревожностью. Эти инструменты могут предложить непредвзятое пространство для участия в разговорах, а также для развития и практики социальных взаимодействий.

Пример такого чат-бота: Харли. Harlie — это приложение для смартфонов, которое использует технологию искусственного интеллекта и алгоритмы НЛП для общения с людьми. Однако вместо того, чтобы просто отвечать на вопросы, Харли поощряет диалог, задавая вопросы пользователю. Кроме того, с разрешения пользователя Харли может собирать информацию о моделях речи, чтобы поделиться ею с медицинскими и исследовательскими группами и обеспечить целенаправленную терапию.

Влияние на критическое мышление

Чрезмерная зависимость от генеративного искусственного интеллекта может негативно повлиять на навыки критического мышления детей. Это связано с тем, что это уменьшает возможности для проведения независимого анализа и решения проблем. Более того, использование ИИ в качестве основного источника знаний может поставить под угрозу способность подвергать сомнению и оценивать информацию. Посмотрите наше онлайн-руководство по критическому мышлению.

Важно помогите детям внедрить инструменты искусственного интеллекта в их обучение, не полагаясь на них слишком сильно.

Парасоциальные отношения и издевательства

Существует тревожная тенденция: молодые пользователи копируют агрессивное поведение и направляют его на чат-бота с искусственным интеллектом. В социальных сетях некоторые пользователи поощряют других «запугивать» чат-ботов посредством газлайтинга и общего жестокого обращения.

Хотя дети не издеваются над другими людьми, существует обеспокоенность по поводу того, как виртуальное взаимодействие может нормализовать агрессивное поведение.

Воздействие откровенного контента

Использование некоторых чат-ботов с искусственным интеллектом может подвергнуть детей откровенный и неуместный контент. Одним из примеров такого чат-бота является Replika. Replika — это специальный чат-бот с искусственным интеллектом, который побуждает пользователей делиться личной информацией. Чем больше информации пользователь делится с ним, тем больше он может персонализировать свои ответы.

Хотя на сайте утверждается, что он предназначен только для лиц старше 18 лет, проверка возраста не требуется. Таким образом, дети не столкнутся с небольшими препятствиями при использовании сайта.

Реплика поощряет пользователей участвовать в откровенных разговорах для взрослых. Это также побуждает их платить комиссию за то, чтобы чат-бот поделился непристойными фотографиями или организовал «романтический» видеозвонок. Нормализация оплаты за откровенный контент могла бы способствовать развитию культуры, в которой дети считают приемлемым запрашивать, получать и отправлять неуместные изображения — как с помощью чат-бота, так и между собой.

Незаконное создание контента

Отчеты показывают, что дети все чаще используют инструменты искусственного интеллекта для создания непристойных изображений сверстников, чему способствуют легкодоступные приложения для «раздевания». Непристойные изображения лиц младше 18 лет являются незаконными независимо от обстоятельств их создания. Это включает материалы о сексуальном насилии над детьми (CSAM) произведено по технологии deepfake.

Хотя динамика производства и распространения дипфейков отличается от других форм сексуального насилия с использованием изображений, вред для жертв, вероятно, будет столь же серьезным, если не более серьезным.

Правительство Великобритании приняло решение не вводить новое законодательство об ИИ. Вместо этого все будет зависеть от существующей законодательной базы, регулирующей производство и использование новых технологий искусственного интеллекта.

До сих пор неясно, сможет ли этот мягкий подход в достаточной степени защитить людей — особенно детей — от всего спектра рисков, создаваемых ИИ, включая возникающий вред от новых услуг и технологий.

Важно, чтобы мнения и опасения молодых людей и родителей учитывались при разработке политики в отношении использования генеративного ИИ. Это особенно верно, когда речь идет об использовании технологий в образовании, где возможные применения могут оказаться наиболее эффективными.

Итак, мы рады сообщить новое исследование влияния генеративного ИИ на образование, исходя из мнений детей и родителей. В ходе исследования будет изучено, как семьи и школы используют Gen-AI, а также надежды и опасения детей и родителей на будущее.