Родители и дети говорят: запретите приложения с обнажением

С развитием технологий ИИ в сети появились новые угрозы для детей, включая ню-дипфейки. Ню-дипфейки — это сексуальные образы, созданные с помощью инструментов ИИ для нюдирования изображений реальных людей, включая детей.

В прошлом году количество сексуальных фейковых материалов в Интернете увеличилось более чем на 400%. Наше исследование также показывает, что, по оценкам, около полумиллиона детей (13%) уже столкнулись с фейковым контентом в формате обнаженной натуры в Интернете. Это включает в себя нахождение на веб-сайте, получение от друга или использование приложения для обнажения.

Теперь можно быстро, дешево и легко создавать очень убедительные обнаженные изображения и видео с реальными людьми, нажав несколько кнопок. Платформы прилагают усилия для удаления инструментов обнажения, когда они с ними сталкиваются. Тем не менее, они остаются доступными в магазинах приложений и часто встречаются в результатах поиска основных поисковых систем.

Глубокие фейковые обнаженные фотографии могут глубоко повлиять на детей, в том числе посредством оскорблений и притеснений. Жертвы такого насилия могут испытывать ПТСР, депрессию, беспокойство и даже мысли о самоубийстве. Они также могут бояться физического насилия, если преступник поделится их личными данными вместе с изображением.

На самом деле, большинство подростков (55%) считают, что создание и распространение их обнаженного deepfake изображения будет хуже, чем реальное изображение. На вопрос, почему, подростки ответили:

• ощущение потери телесной автономии
• опасение, что они могут не знать о его существовании, кто его сделал и почему
• страх, который это могло вызвать. Это включало друзей, учителей и родителей, которые думали, что это реально, и видели их по-другому. Они также беспокоились, что изображение может полностью их исказить.

Хотя эта проблема касается как мальчиков, так и девочек, 99% ню-дипфейков сделаны с женщинами и девочками. Более того, многие инструменты для нюдификации не работают с изображениями мальчиков и мужчин. Наши исследования показывают, что ню-дипфейки становятся еще одним инструментом, используемым для совершения насилия в отношении женщин и девочек.

Создание, хранение или распространение фейкового изображения ребенка в обнаженном виде является незаконным и классифицируется как материалы о сексуальном насилии над детьми (CSAM)Однако инструменты, с помощью которых они создаются, в настоящее время не являются незаконными, и дети все чаще вступают с ними в контакт.

Запрет на использование инструментов для обнажения

Наше исследование показало, что 84% подростков и 80% родителей поддерживают запрет на использование инструментов для обнажения для всех жителей Великобритании, включая взрослых.

В Палате общин депутат Джесс Асато призвал правительство прислушаться к мнению родителей и детей по этому вопросу, запретив приложения, содержащие изображения обнаженных тел.

Г-жа Асато сказала: «Рост числа фейковых сцен с обнаженной натурой становится все более тревожной проблемой, особенно в школах. Исследования Internet Matters показали, какой вред они уже наносят детям, и какой потенциал у этой технологии для еще большего вреда. Позволяя программам с обнаженной натурой оставаться легкодоступными, мы подвергаем наших детей риску причинения вреда и даже криминализации. Вот почему я призвала правительство запретить инструменты и приложения с обнаженной натурой».

Запрет на использование инструментов для обнажения был одной из ключевых рекомендаций в нашем отчете. Новое лицо цифрового насилия: детский опыт знакомства с обнаженными дипфейками.

Ответственность за защиту детей от сексуальных надругательств с использованием deepfake не может быть возложена на школы и родителей. Промышленность и правительство должны вмешаться. Запрет инструментов обнажения поможет защитить детей от вреда в Интернете. Более того, это поддержит амбициозную цель правительства по сокращению насилия в отношении женщин и девочек вдвое в течение следующего десятилетия.