Что такое дипфейк?

Что такое дипфейк?

Двумя основными типами дипфейков являются видео и аудио. Видеодипфейки манипулируют внешностью человека, а аудиодипфейки манипулируют его голосом.

Видео и аудио дипфейки часто работают вместе, создавая вводящий в заблуждение контент. Люди, создающие этот фейковый контент, могут иметь невинные намерения. Например, они могут снять видео, на котором знаменитость забавно танцует, чтобы рассмешить людей. Однако даже самые благие намерения могут привести к дезинформации и путанице.

Что такое видеодипфейки?

Видеодипфейки — самый распространенный тип. Люди, создающие эти видео, используют искусственный интеллект заменить чье-то лицо или тело в существующих видеоматериалах. Примеры включают в себя заставить знаменитость сказать что-то противоречивое или ведущего новостей, сообщающего сфабрикованные истории.

В некоторых видео-дипфейках актер озвучивания имитирует знаменитость или оригинальный звук, чтобы передать новый голос. В качестве альтернативы создатель может также использовать голосовое клонирование.

Что такое клонирование голоса?

Клонирование голоса или дипфейки звука позволяют манипулировать голосами вместо видео, чтобы они звучали как чужие. Все более распространенное мошенничество использует клонирование голоса для нацеливания на людей. Родители могут получить отчаянный звонок от своего ребенка, которому немедленно нужны деньги для определенной цели. Эти мошенничества чрезвычайно убедительны и привели к финансовым потерям.

Кто-то также может использовать звуковой дипфейк, чтобы запугать другого человека. Например, они могли подражать голосу одноклассника, чтобы казалось, будто он сказал то, чего не говорил.

Независимо от типа дипфейка, важно помнить, что для его создания кто-то должен использовать инструмент искусственного интеллекта. Создатели дипфейков не всегда ясны, но ИИ не генерирует этот контент автоматически.

Каков потенциальный вред?

Дипфейки могут влиять на людей по-разному и могут сделать детей и молодых людей уязвимыми для онлайн-вреда.

Детям и молодым людям может быть сложно распознать фальшивые видео и аудио, особенно по мере того, как технологии становятся более сложными. Кроме того, возросшая доступность инструментов искусственного интеллекта может означать, что больше людей смогут создавать дипфейки. Таким образом, это может увеличить масштаб потенциального вреда.

Ложная информация и пропаганда

Интернет-пользователи могут использовать дипфейки, чтобы:

• распространять ложную информацию;
• подорвать доверие к общественным деятелям; или
• манипулировать разговорами о политике и других важных вопросах.

У детей все еще развиваются навыки критического мышления, поэтому они особенно уязвимы для того, чтобы поверить такого рода информации.

Репутационный урон

В некоторых сообщениях дипфейки связываются с порноместью. В этих случаях преступник добавляет жертву в компрометирующий контент, например порнографические видеоролики или изображения.

Преступник может затем использовать эти дипфейки для принуждения жертв. Это может включать в себя требование оплаты или реальных изображений, чтобы помешать им более широко распространять дипфейки.

Что такое сексторция?

Узнайте больше о сексуальном принуждении детей в Интернете.

Киберзапугивание, преследование и насилие

Преступники также могут использовать дипфейки, чтобы запугивать других, создавая видеоролики, призванные высмеивать, запугивать или ставить их в неловкое положение.

Природа дипфейков может сделать издевательства более жестокими для жертвы. Это может даже граничить с оскорбительным поведением.

Узнайте о насилии над детьми в Интернете

Получите рекомендации для родителей, учителей и молодежи.

A Отчет Internet Watch Foundation (IWF) за 2023 год предупредил о росте количества материалов о сексуальном насилии над детьми (CSAM), создаваемых ИИ. Они выявили более 20,000 XNUMX таких изображений, размещенных на одном Темная паутина Форум CSAM в течение одного месяца. Они сочли более половины из них «скорее всего преступными».

Хотя в это число не входят дипфейки, IWF утверждает, что «реалистичный полноценный видеоконтент станет обычным явлением». Они также отмечают, что уже существуют короткие видеоролики CSAM, созданные искусственным интеллектом. «Они станут только более реалистичными и более распространенными».

Финансовые потери и мошенничество

Некоторые дипфейки аудио или мошенничества с клонированием голоса приводят к потере денег жертвами. Общественные деятели также использовали свои изображения для продвижения мошеннических инвестиций.

Одним из примеров является ютубер Mr Beast, который, кажется, предложил своим подписчикам новые iPhones. Однако на самом деле это был не он. YouTube популярен среди детей и подростков. Поэтому дипфейки, имитирующие их любимых авторов, могут сделать их уязвимыми для подобных мошенничеств.

Показать видеотрансляцию

Что ж, давайте продолжим тему технологий, ведь искусственный интеллект подпитывает бум киберпреступности. Ожидается, что в этом году ущерб достигнет 8 триллионов долларов, что, по оценкам экспертов по кибербезопасности, превышает экономику Японии. Крупнейший в мире ютубер – один из тех, чьи видеоизображения были обработаны ИИ для продвижения мошенничества, и даже… BBC Ведущие не застрахованы. Взгляните: жителям Великобритании больше не нужно работать — об этом заявил наш сегодняшний гость, Илон Маск. Он представит новый инвестиционный проект, пока идёт подключение. Я расскажу вам подробнее об этом проекте, который открывает британцам новые возможности получения прибыли от инвестиций. В новый проект было инвестировано более трёх миллиардов долларов, и сейчас он уже запущен.

Странно, не правда ли? Похоже на меня, звучит как я, можете сказать вы. Трудно, не правда ли, в это вникнуть? И поэтому я поговорил со Стефани Хэйр, она независимый эксперт по технологиям, я бы сказал.

Стефани Хэйр, независимый эксперт по технологиям, дает интервью о сложности обнаружения дипфейков.

«Многим людям так трудно заметить подобные вещи», — говорит Хэйр. «И вы не первый, и я не думаю, что вы последний, к сожалению, потому что ничто не может этому помешать. Нет никаких правил, которые могли бы привлечь кого-либо к ответственности. Не знаю, кто бы вас обрадовал, если бы вы, например, захотели подать в суд. Теперь мы перешли к… Facebook и сказали, что нужно это удалить, это фейк, и они уже сделали… они это сделали, Meta тоже. Однако, эм, есть много других фейковых видео, указывающих зрителям на мошенничество, и беспокойство в том, что люди фактически расстаются со своими собственными деньгами, потому что верят в их подлинность. В этом и заключается проблема: как люди отличают правду от лжи?

«Честно говоря, я не уверен, что пытаюсь сказать это из-за технических ограничений, потому что мы смогли увидеть даже с вашим видео, что были определенные вещи, которые были не совсем правильными. Я ясно дал понять, что это не было законным. Что вы действительно хотите сделать, так это спросить себя, звучит ли это слишком хорошо, чтобы быть правдой, вероятно, так оно и есть. Если это кажется немного странным, вероятно, так оно и есть. Эм, нет такой вещи, как бесплатный обед».

«Конечно, нет, и я написал в Твиттере или поделился статьей об этом, написанной BBC который дает вам лучшие советы о том, как распознать поддельные видео».

Закрыть видео

Лучший способ обеспечить безопасность детей в Интернете — предоставить им инструменты для обнаружения вреда и получения поддержки. Вот как вы можете помочь им ориентироваться в deepfakes.