Резюме
- В новом отчете Internet Matters содержится призыв к новому правительству принять жесткие меры против «эпидемии» сексуальных изображений, созданных с помощью искусственного интеллекта, после того как опрос показал, что 13% подростков сталкивались с поддельными фотографиями обнаженной натуры.
- Возможность неконтролируемого насилия в отношении фейковых изображений обнаженных людей посеяла страх в жизни многих детей; более половины подростков (55%) считают, что было бы хуже, если бы была создана и распространена фейковая фотография их обнаженных детей, чем их настоящее изображение.
- Internet Matters призывает запретить инструменты «обнажения», поскольку в докладе предупреждается, что создавать в Интернете интимные подделки с обнаженной натурой слишком просто.
- Рекомендуемые реформы школьной программы должны включать обучение детей тому, как распознавать дипфейки и ответственно использовать технологии искусственного интеллекта.
Internet Matters, ведущая британская некоммерческая организация, поддерживающая безопасность детей в Интернете, сегодня (вторник, 22 октября) публикует новый отчет. «Новое лицо цифрового насилия: детский опыт общения с откровенными подделками»В отчете подсчитано, что четверо детей из каждого класса из тридцати человек сталкивались с «обнаженными дипфейками», и содержится призыв к правительству ввести новое законодательство для борьбы с ростом числа фейковых обнаженных изображений молодых людей, особенно девочек, созданных с помощью генеративного искусственного интеллекта (GenAI), путем запрета так называемых «обнажающих» приложений.
В отчете объясняются способы, с помощью которых GenAI сделал быстрым, простым и дешевым создание несогласованных откровенных изображений обычных людей, включая детей. В нем утверждается, что действующее законодательство не поспевает за развитием событий; модели ИИ, используемые для создания сексуальных изображений детей, в настоящее время не являются незаконными в Великобритании, несмотря на то, что хранение сексуальных изображений ребенка является уголовным преступлением.
Хотя технологию deepfake можно использовать в позитивных целях, например, для образования или обучения, данные свидетельствуют о том, что большинство deepfake создаются с целью причинения вреда, в том числе посредством сексуального насилия, сексуальной эксплуатации с финансовой мотивацией, дезинформации, мошенничества или мошенничества. Когда-то это было явление, в основном нацеленное на знаменитостей женского пола, а теперь создание поддельных обнаженных изображений стало более доступным и влияет на детей, причем чаще всего это касается девочек.
В сегодняшнем отчете Internet Matters подчеркивается, насколько широко доступными и простыми в использовании стали инструменты «обнажения» для использования в Интернете. По оценкам, 99% ню-подделок включают девушек и женщин, а модели «обнажения» часто не работают с изображениями мальчиков и мужчин. Созданные ИИ сексуальные изображения детей использовались для содействия сексуальному насилию над детьми, сексуальному насилию со стороны взрослых и секс-шантажу и могут оказывать глубокое воздействие на жертв, приводя к возникновению тревожности, депрессии и суицидальных мыслей.
Мальчики-подростки использовали приложения для «обнажения», чтобы создавать откровенные сексуальные изображения своих одноклассниц, часто делясь этими изображениями в групповых чатах и социальных сетях. Девочки рассказали Internet Matters, что они будут чувствовать ужас и стыд и бояться, что учитель или родитель могут подумать, что они настоящие.
В сегодняшнем отчете подробно описывается общенациональный репрезентативный опрос Internet Matters, в котором приняли участие 2,000 родителей детей в возрасте от 3 до 17 лет и 1,000 детей в возрасте от 9 до 17 лет в Великобритании, проведенный компанией Opinium в июне 2024 года. Опрос показывает:
- Значительное количество детей имеют некоторый опыт с ню-дипфейком. В целом, 13% детей имели опыт с ню-дипфейком (включая отправку или получение, столкновение с ню-дипфейком в сети, использование приложения для обнажения или кого-то, кого они знают, кто использовал приложение для обнажения). Это означает, что около полумиллиона (529,632 4) подростков в Великобритании, или 30 подростка из XNUMX классов, имели опыт с ню-дипфейком.
- Мальчики-подростки (18%) в два раза чаще, чем девочки-подростки (9%), сообщают о том, что столкнулись с поддельными фотографиями обнаженной натуры, однако мальчики чаще становятся создателями поддельных фотографий обнаженной натуры, а девочки чаще становятся жертвами.
- Мальчики и уязвимые дети с большей вероятностью сталкивались с ню-дипфейком. 10% мальчиков в возрасте 13-17 лет сталкивались с ню-дипфейком в сети, по сравнению с 2% девочек того же возраста. Четверть уязвимых детей сталкивались с ню-дипфейком, по сравнению с 11% неуязвимых детей.
- Подростки считают, что нюдовое дипфейковое оскорбление хуже, чем оскорбление с использованием изображений, содержащих настоящие фотографии. Более половины подростков (55%) считают, что было бы хуже, если бы была создана и распространена их дипфейковая обнаженная фотография, чем настоящее изображение.
- Большинство семей имеют слабое или совсем не имеют представления о дипфейках: почти две трети детей (61%) и почти половина родителей (45%) утверждают, что не знают или не понимают термин «дипфейк».
- Семьи хотят, чтобы правительство и технологические компании делали больше для борьбы с дипфейками с обнаженной натурой. 84% подростков и 80% родителей считают, что инструменты для создания обнаженных изображений должны быть запрещены для всех в Великобритании, включая взрослых.
- Семьи также согласны, что необходимо больше образования по теме deepfakes. Только 11% подростков изучали в школе о deepfakes, и только 6% — о nude deepfakes. Подавляющее большинство подростков (92%) и родителей (88%) считают, что детям следует рассказывать о рисках deepfakes в школе.
В отчете приводятся доводы в пользу как нового законодательства, так и действий индустрии по защите детей от сексуальных надругательств с использованием deepfake, а также утверждается, что родители и школы не могут защитить детей в одиночку. Он призывает к действиям, в том числе:
- Правительству следует в приоритетном порядке запретить инструменты, изображающие обнаженную натуру, а также усилить Закон о безопасности в Интернете кодексами практики по борьбе с гендерным вредом и жестоким обращением между детьми.
- Технологические компании должны принять более жесткие меры, закрыв доступ к инструментам обнажения в поисковых системах и магазинах приложений.
- Национальная учебная программа будет обновлена с целью включения в нее преподавания критической медиаграмотности.
В поддержку сегодняшнего отчета Internet Matters запускает новые ресурсы, включая советы экспертов для родителей по защите детей от дипфейков.
Кэролин Бантинг MBE, со-генеральный директор Internet Matters, сказала:
«ИИ сделал возможным создание высокореалистичных дипфейков детей нажатием нескольких кнопок. Обнаженные дипфейки — это глубокое вторжение в телесную автономию и достоинство, и их воздействие может быть разрушительным для жизни. Поскольку инструменты для нюдирования в основном ориентированы на женщин, они оказывают непропорционально большое влияние на девочек.
«Дети рассказали нам о страхе, который они испытывают, что это может случиться с ними без какого-либо ведома и людьми, которых они не знают. Они считают, что глубокое поддельное изображение-злоупотребление является потенциально большим нарушением, потому что это находится вне их контроля.
«Надругательство над изображениями Deepfake может произойти с кем угодно и когда угодно. Родители не должны оставаться одни с этой тревожной проблемой. Правительству и отрасли пора принять меры по ее предотвращению, приняв жесткие меры в отношении компаний, которые производят и продвигают эти инструменты, используемые для насилия над детьми».
