Что такое ИИ и безопасен ли он?
Руководство для родителей и опекунов
Искусственный интеллект (ИИ) становится всё более распространённой частью онлайн-жизни. Поскольку он продолжает развиваться, убедитесь, что вы знаете, как он работает и как обеспечить безопасность ребёнка, если он им пользуется.
Что вам нужно знать об искусственном интеллекте
Кликните на любой пункт, о котором вы хотите узнать больше.
- Наиболее часто используемым искусственным интеллектом среди родителей и детей являются чат-боты, которых дети используют для выполнения школьных заданий, получения советов и общения.
- ИИ существует во многих различных формах, включая чат-ботов, обзоры поисковых систем и часть популярных приложений.
- Большинство инструментов ИИ пока не включают функции родительского контроля или надежные настройки безопасности, что подвергает риску юных пользователей.
- Существует целый ряд инструментов искусственного интеллекта и чат-ботов, которые может использовать ваш ребенок, и о которых вам следует знать.
- Преимущества использования ИИ включают развитие критического мышления и возможность решения новых образовательных задач.
- Риски включают неправильное использование, чрезмерное распространение информации и зависимость от инструментов ИИ как замены активного обучения.
- Найдите множество ресурсов, чтобы узнать больше об искусственном интеллекте.
Что такое ИИ?
ИИ означает искусственный интеллект. Под ним подразумеваются компьютерные системы, которые, по-видимому, выполняют задачи, свойственные человеческим, такие как рассуждение и обучение.
Конечно, он не может рассуждать или учиться так же, как человек. Именно поэтому его считают «искусственным» интеллектом. Людям приходится программировать инструменты искусственного интеллекта на определённые реакции. Кроме того, для выполнения задач требуется, чтобы люди предоставляли информацию от ИИ.
Большинство из нас лучше всего знакомы с генеративным ИИ или чат-ботами на основе ИИ, поэтому основные рекомендации для вас и вашего ребенка будут сосредоточены здесь.
Как дети получают доступ к ИИ
Большинство популярных чат-ботов на основе искусственного интеллекта легко и бесплатно доступны любому человеку, имеющему подключение к интернету. Один из самых популярных чат-ботов, используемых молодёжью, — это My AI от Snapchat. Это чат-бот, который отображается во всех приложениях пользователей как друг, обычно в верхней части списка. Таким образом, дети, использующие Snapchat также можно легко использовать чат-бота на основе искусственного интеллекта.
Поскольку дети от природы любопытны, услышав о новом инструменте искусственного интеллекта, они могут начать искать его самостоятельно. Препятствий очень мало, и дети могут быть уязвимы для травм, если они не научились безопасно использовать эти инструменты.
Как дети используют чат-ботов
Наши исследования показывают, что дети используют чат-боты с искусственным интеллектом по-разному. Среди них — помощь с учебой/домашними заданиями, поиск информации и проявление любопытства. Однако многие дети, использующие искусственный интеллект, также делают это, чтобы получить совет или пообщаться.
Дети, использующие ИИ в школе, отмечают, что получают помощь в планировании эссе, изучении математики, языков и творческого письма. Они также используют чат-ботов для подготовки к экзаменам и поддержки в учёбе по предметам, которые им даются с трудом.
Когда чат-бот с искусственным интеллектом работает хорошо, дети говорят, что его легче понять, чем материалы, предоставляемые в школе.
К сожалению, разные чат-боты отвечают на вопросы по школьным заданиям по-разному. Некоторые из них более полезны, предлагая дополнительные вопросы и ресурсы, в то время как другие не могут предложить дополнительную поддержку.
Кроме того, часть информации, предоставляемой чат-ботами, ненадёжна. Если информация неверна, это не всегда очевидно сразу, что может привести к тому, что дети поверят в ложную информацию.
Если ваш ребёнок использует чат-ботов для обучения, следите за тем, чтобы он делал это умеренно. Также следует научить его правильно пользоваться инструментом, чтобы он понимал, как это правильно использовать.
Дети, которые обращаются к чат-ботам за советами, говорят, что просят помощи по самым разным вопросам. Например, они хотят получить совет по перепланировке комнаты или узнать о здоровых способах справиться со стрессом перед экзаменами.
Чат-боты могут дать мгновенный совет, особенно по темам, о которых детям может быть неловко говорить с друзьями или родителями. Они также могут оказать поддержку уязвимым детям, у которых может не быть близких людей, на которых можно положиться.
Дети рассказывали, что обращались к чат-ботам за советом, как сказать что-то другу, или за помощью в принятии решений. В некоторых случаях чат-боты также указывают на дополнительные ресурсы, которые могут им помочь.
Однако подобное использование чат-ботов может привести к тому, что дети будут полагаться на то, что советы могут быть непоследовательными. Такие платформы, как Character.AI и Replika, например, разрешить пользователям создавать чат-ботов, которые могут давать вредные советы.
Хотя некоторые платформы чат-ботов используют модерацию для ограничения вредоносных советов, это не всегда эффективно. Поэтому важно, чтобы ваш ребёнок понимал, как безопасно использовать эти инструменты. Они не должны быть единственным источником советов для ребёнка.
Дети из уязвимых групп чаще используют чат-ботов на основе искусственного интеллекта, имитирующих человеческое общение. В частности, они чаще используют чат-ботов для эскапизма, дружбы и терапии. Причины использования чат-ботов в таких целях могут быть разными: от желания найти друга до нехватки общения.
Хотя чат-боты — это инструмент, многие дети используют местоимения «он/она/они» для обозначения их. Это говорит о том, что для некоторых детей не всегда чётко различить инструмент и человекоподобного собеседника.
Поскольку многие чат-боты на основе искусственного интеллекта стремятся создавать иллюзию отношений, дети сталкиваются с дополнительными рисками. Например, чат-боты знают только то, чем делится ребёнок, поэтому не могут предоставить внешний контекст или сбалансированную точку зрения.
Важно обсуждать с детьми ограничения ИИ. Это поможет им понять, что эмоции и личности чат-ботов нереальны.
Как работает ИИ?
Искусственный интеллект работает, вычисляя и предлагая наиболее вероятный результат. То, как это выглядит для обычного человека, зависит от того, с каким типом ИИ вы сталкиваетесь.
Узнайте больше ниже или перейдите к разделу:
- Как работают чат-боты
- Как работают поисковые системы на базе искусственного интеллекта
- Как ИИ работает с социальными сетями
Как работают чат-боты
ЧатБоты являются наиболее распространенной формой ИИ, используемой обычными людьми, включая детей. Google Gemini, Character AI и ChatGPT Все они используют разговорную форму искусственного интеллекта. Люди запрограммировали чат-ботов таким образом, чтобы создать ощущение общения с реальным человеком. Поэтому вы можете быть более охотно взаимодействовать с ними.
Как чат-боты работают с большими языковыми моделями (LLM)
Закрыть видео
Хотя может показаться, что чат-боты предлагают ответы на все вопросы, они допускают множество ошибок. Одна из главных причин — сам принцип их работы.
Сначала люди предоставляют информацию чат-боту ИИ, чтобы «обучить» его. При этом ответы инструмента работают по принципу предиктивного ввода текста. Он обеспечивает какое слово статистически идет следующим, не обязательно верная информация.
Чат-боты, как правило, отвечают, исходя из того, какой ответ, по их мнению, ожидает получить пользователь. Например, многие британцы знают, что фраза «Keep calm and…» скорее всего закончится как «carry on». Однако существует несколько вариантов, поэтому, если вы ищете что-то другое, вам может быть сложно найти ответ.
Конечно, компании, занимающиеся разработкой чат-ботов на основе искусственного интеллекта, продолжат работать над совершенствованием своих продуктов, чтобы уменьшить эти ограничения.
Как работают поисковые системы на базе искусственного интеллекта
Многие поисковые системы теперь включают ответы ИИ в свои результаты поиска. Эти «обзоры» появляются, когда поисковые системы обнаруживают поисковый запрос, для которого обзор может быть полезен.
В большинстве случаев обзор будет содержать ключевую информацию в ответ на ваш запрос. Он также будет содержать ссылки, по которым вы сможете узнать больше. Однако, как и чат-боты, он может ошибаться.
Возьмём следующий пример выдуманной фразы «синий как слон». Если вы введёте эту выдуманную фразу в поиск Google, Обзор ИИ дает выдуманный ответ.
Однако, если вы спросите о фразе непосредственно внутри Google Gemini, чат-бот сообщает вам, что это не настоящая фраза. Он также предлагает варианты её возможного значения, хотя это объяснение отличается от обзора ИИ в поисковой системе.
Итак, хотя обзоры, созданные с помощью ИИ, могут быть полезны, важно изучить исходную информацию, чтобы подтвердить, правда ли это. Это справедливо для любой информации, с которой дети сталкиваются в Интернете.
Как ИИ работает с социальными сетями
Вслед за популярностью ChatGPTМногие технологические компании работают над внедрением ИИ в свои платформы. Это можно увидеть на примере My AI on Snapchat, MetaAI на WhatsApp и Grok на X. Все они работают по-разному.
Например, Grok на X частично обучается на основе публикаций в реальном времени внутри платформы. Однако My AI не имеет доступа к данным в реальном времени, что может ограничить его реакцию.
Как правило, все чат-боты предлагают пользователям определённую форму общения. С помощью такой платформы, как Gemini, Google программирует «личность».
Платформа как Character.AIС другой стороны, позвольте пользователям создавать личности, которые будут управлять их взаимодействием с чат-ботом. Как и любой другой контент, создаваемый пользователями, это может привести к повышению уровня риска. Поэтому вам следует иметь более полное представление о том, как ваш ребёнок использует чат-бот, если таковой имеется.
Лучший способ понять, как работают чат-боты на основе искусственного интеллекта и как они используют данные вашего ребёнка, — это изучить политику конфиденциальности или обратиться в справочные центры. Некоторые из них приведены ниже:
- Snapchat My AI Статьи поддержки
- Мета ИИ Центр конфиденциальности
- Microsoft Copilot Положение о конфиденциальности
- X Grok Справочный центр
Безопасно ли использовать ИИ для детей?
Большинство инструментов искусственного интеллекта не предназначены для детей, что может сделать их уязвимыми к травмам. Популярные чат-боты, такие как ChatGPT, Google Gemini и Microsoft Copilot Для всех этих платформ требуется возраст пользователя не менее 13 лет. Однако не у всех подростков есть необходимые навыки для использования этих платформ, поэтому имейте это в виду, когда решаете, предоставлять ли им доступ.
Кроме того, многие версии приложений чат-ботов доступны в магазинах приложений для устройств. Это может помочь определить, подходят ли приложения вашему ребёнку. Однако возрастные ограничения в некоторых магазинах приложений могут не соответствовать минимальным требованиям, предъявляемым к платформам. Поэтому лучше всего проверить оба варианта.
Ни один из этих чат-ботов не имеет родительского контроля на платформах. Единственные настройки часто связаны с конфиденциальностью. Проверьте эти настройки, чтобы убедиться, что ИИ не обучается на вопросах или ответах вашего ребёнка.
Если вы хотите ограничить доступ к этим инструментам, вы можете использовать внешние инструменты родительского контроля, такие как Google Family Link or Apple Экранное время. С помощью обоих этих инструментов вы можете блокировать доступ к веб-сайтам или приложениям ИИ, а также устанавливать временные ограничения для каждого приложения.
Вопросы конфиденциальности и данных
Независимо от того, каким образом ваша семья использует искусственный интеллект, обязательно ознакомьтесь с Политикой конфиденциальности и Условиями использования. Обратите внимание на:
- Какие данные собираются: Собирает ли инструмент такие данные, как голосовые записи, печатные ответы или изображения?
- Как платформа хранит и передает данные: Передаётся ли информация третьим лицам? Как долго она хранится?
- Какой контроль вы имеете над данными?: Можно ли удалить данные вашего ребенка или ограничить объем собираемой платформой информации?
- Минимальные возрастные требования: Предназначен ли этот инструмент для детей или есть минимальный возраст для его использования?
- Родительский контроль и настройки безопасности: Можно ли отключить персонализированный контент или изменить настройки конфиденциальности?
Потратив несколько минут на проверку этих пунктов, вы сможете принять более безопасное и обоснованное решение для своего ребенка.
Популярные инструменты ИИ, о которых стоит знать
Узнайте больше о распространенных инструментах искусственного интеллекта, с которыми может столкнуться ваш ребенок.
Каковы преимущества ИИ?
ИИ может принести много пользы вашему ребёнку и семье. Однако вам следует принять меры для безопасного использования инструментов ИИ чтобы извлечь из них пользу.
При соблюдении соответствующих мер предосторожности использование ИИ может привести к следующим преимуществам.
Расширенные возможности обучения
Четверо из десяти детей используют чат-ботов «для помощи с учебой/домашними заданиями» и «для поиска информации или изучения чего-либо». Это означает, что дети уже видят преимущества обучения с помощью ИИ.
Однако вполне вероятно, что большинство этих детей не получили образования о том, как правильно использовать эти инструменты для обучения.
Вы можете помочь своему ребёнку безопасно использовать чат-ботов с искусственным интеллектом, изучив правильные и неправильные способы использования этого инструмента. Например, вместо того, чтобы спрашивать у чат-бота ответ на математическую задачу, он может сказать: «Не давай мне ответ, а покажи, как найти ответ». Затем он сможет подтвердить чат-боту правильность полученного ответа.
Развитие навыков критического мышления
Многие родители и учителя обеспокоены тем, что использование искусственного интеллекта детьми негативно скажется на их обучении. Однако на самом деле это даёт возможность для дальнейшего обучения, развивая навыки критического мышления.
Когда калькулятор стал более доступным, у многих возникли те же опасения, что и сейчас, по поводу искусственного интеллекта. Они беспокоились, что Если бы калькуляторы были легкодоступны, дети стали бы от них зависеть.Однако доступ к калькуляторам означал, что дети могли изучать более сложные виды математики. разработанный вокруг калькуляторов. В рамках GCSE теперь есть экзамены с калькулятором и без него, отражающие эту ситуацию.
Аналогичным образом, эффективное использование инструмента ИИ в классе основано на создании уроков, которые активно подразумевают его применение.
Например, учитель английского языка может попросить учеников 10-го класса использовать искусственный интеллект для написания ответа на пример экзаменационного задания для 5-го класса. Затем, на уроке, ученики могут поработать над улучшением письменной работы, опираясь на результаты предыдущего урока.
Это дает учащимся роль «учителя», помогая им критически осмыслить, как может выглядеть улучшение с 5-го по 9-й класс.
Другие варианты применения ИИ в образовании могут включать «интервьюирование» персонажей книг или исторических личностей и поиск неточностей. В частности, ИИ может быть использован для написания базовых творческих работ, которые затем совершенствуются учащимися.
При творческом подходе вы можете улучшить критическое мышление и навыки оценки у вашего ребенка, что поможет ему в обучении.
Риски искусственного интеллекта
Поскольку искусственный интеллект всё ещё относительно новый, использование этих инструментов сопряжено с рядом рисков. По мере развития инструментов ИИ мы можем увидеть более эффективные функции безопасности, но также можем столкнуться с дополнительными рисками причинения вреда.
Хотя родители, учителя и дети могут использовать искусственный интеллект для достижения различных целей, не все знают, как это сделать. Если ребёнок не научится правильно его использовать, он может стать чрезмерно зависимым от технологии или использовать её не по назначению.
Это может включать:
- Выполнение всех «мыслительных» задач с помощью чат-бота на основе искусственного интеллекта;
- Передача более сложных задач на откуп ИИ вместо того, чтобы попытаться сделать это самостоятельно;
- Трудности с применением полученных знаний в условиях тестирования из-за чрезмерного использования этих инструментов;
- Использование вредоносных инструментов ИИ (таких как приложения для обнажения) ради «развлечения», не понимая вреда.
Дети, использующие чат-ботов на основе искусственного интеллекта в качестве «друзей», могут предпочесть их настоящим друзьям, особенно если им сложно общаться офлайн. Например, ребёнку с аутизмом может быть сложно устанавливать осмысленные связи со сверстниками из-за сенсорной перегрузки или неправильного понимания социальных сигналов. Это может привести к издевательствам, а не к дружбе, но чат-бот на основе искусственного интеллекта будет более «понимающим».
Хотя некоторые чат-боты с искусственным интеллектом могут оказывать психологическую поддержку, важно контролировать их использование. По возможности отдавайте приоритет настоящей дружбе как в сети, так и за её пределами.
Генеративный ИИ может ошибаться. Это может происходить из-за исходных данных, программирования, ошибок в расчётах или недопонимания. Маленьким детям, в частности, может быть сложно задавать вопросы «правильно», чтобы получить точный ответ.
Не обладая навыками проверки фактов и критического мышления, ребёнок может легко принять ответ чат-бота за чистую монету. Он может принять ложную информацию за истину, прежде чем поделиться ею с более широкими массами.
Поэтому важно показать им, как проверять информацию, и побудить их делать это.
Сколько из нас действительно читают политику конфиденциальности новых инструментов, которые мы используем? Сколько же детей читают эту политику? Ещё меньше детей читают её. Популярные инструменты ИИ, такие как… ChatGPT, Gemini и Copilot собирают информацию из подсказок, которые пользователи вводят в чат-бот.
Это не означает, что платформы будут делиться этими данными с другими, но это означает, что они будут их хранить. По мере развития возможностей обеспечения конфиденциальности и безопасности, предоставляемых искусственным интеллектом, детям следует хранить личную информацию при себе.
Если в вашей семье используется чат-бот или другой инструмент искусственного интеллекта, обязательно проверьте настройки конфиденциальности и отключите сбор данных. При изучении новых инструментов убедитесь, что такая возможность есть, и объясните ребёнку, чем можно делиться, а чем нельзя.
Вспомогательные ресурсы
Узнайте больше об искусственном интеллекте вместе с вашим ребенком, воспользовавшись следующими ресурсами.
Руководство для родителей по инструментам искусственного интеллекта
Что такое генеративный ИИ?
Руководство по Deepfake для родителей
Что такое «раздевающий» ИИ?
Что такое чат-боты с искусственным интеллектом?
Закрыть видео
Закрыть видео
Закрыть видео
Закрыть видео
Закрыть видео