Nowe oblicze nadużyć cyfrowych

Doświadczenia dzieci z nagimi deepfake’ami

Rozwój narzędzi opartych na sztucznej inteligencji znacznie ułatwił tworzenie realistycznych deepfake'ów o charakterze seksualnym. Około 98% wszystkich deepfake'ów to te przedstawiające nagość.

99% nagich deepfake'ów przedstawia kobiety i dziewczęta. Zapoznaj się z naszym raportem poniżej, który bada wzrost deepfake'ów w klasach i nasze zalecenia, jak sobie z tym poradzić.

Zobacz pełny raport

85 polubień

O naszych badaniach nad nagimi deepfake’ami

Raport ten koncentruje się na problemie deepfake'ów nagości: obrazów seksualnych generowanych za pomocą narzędzi AI. W prawie wszystkich przypadkach obrazy te są niedobrowolne, a szacuje się, że 98% wszystkich deepfake'ów w obiegu ma charakter seksualny. Ponadto 99% tych seksualnych deepfake'ów przedstawia kobiety i dziewczęta.

Deepfake'i z nagimi zdjęciami mogą oddziaływać na dzieci na kilka sposobów:

Seksualne dziecko z dzieckiem nadużycia i nękanie;
Dokonane przez osobę dorosłą materiały przedstawiające wykorzystywanie seksualne dzieci (CSAM)Oraz
SEXTORTION.

W poniższym raporcie znajdziesz podsumowanie bieżących wydarzeń w dziedzinie sztucznej inteligencji generatywnej (GenAI), które doprowadziły do powstania deepfake’ów i narzędzia do „nudyfikacji”Raport zawiera również informacje na temat poglądów i doświadczeń rodzin w zakresie deepfake'ów, w tym deepfake'ów z nagością.

To jest obraz dla: Przeczytaj streszczenie

Przeczytaj streszczenie wykonawcze

Kluczowe wyniki badań

Większość rodzin ma nikłą lub żadną wiedzę na temat deepfake'ów.

Prawie dwie trzecie dzieci i prawie połowa rodziców twierdzi, że nie zna lub nie rozumie terminu „deepfake”.

Liczba deepfake’ów w Internecie gwałtownie wzrosła.

Dowody wskazują, że większość deepfake’ów jest wykorzystywana w szkodliwych celach. Ponadto trudno jest ustalić prawdziwą skalę deepfake’ów krążących w Internecie.

Narzędzia Nudify są szeroko dostępne w Internecie.

Tego typu modele sztucznej inteligencji, które pobierają ubrania z obrazów prawdziwych osób, w tym dzieci, stały się powszechniejsze wraz z rozwojem GenAI.

Narzędzia służące do nagości są wykorzystywane do seksualnego wykorzystywania dzieci.

Chociaż większość stron poświęconych nudystom zabrania tworzenia fałszywych obrazów o charakterze seksualnym z udziałem dzieci, te zabezpieczenia są często łatwe do obejścia.

Nastolatki uważają, że nagość w formie deepfake jest gorsza niż wykorzystywanie seksualne z wykorzystaniem prawdziwych zdjęć.

Powody, które podawali nastolatkowie, obejmowały brak autonomii i świadomości istnienia zdjęcia, anonimowość sprawcy, możliwość manipulacji zdjęciem oraz obawy, że ludzie pomyślą, że zdjęcie jest prawdziwe.

Duża liczba dzieci ma doświadczenie z nagimi zdjęciami deepfake.

13% nastolatków przyznaje, że ma jakieś doświadczenie z nagimi zdjęciami deepfake, co odpowiada liczbie około 4 dzieci w klasie liczącej 30 uczniów lub prawie pół miliona nastolatków w Wielkiej Brytanii.

Chłopcy i dzieci narażone na ryzyko częściej wchodzą w interakcję z nagimi materiałami deepfake.

Wśród nastoletnich chłopców prawdopodobieństwo zetknięcia się z nagą fotografią deepfake jest dwukrotnie większe niż wśród nastoletnich dziewcząt. 25% dzieci narażonych na ryzyko przyznaje się do zetknięcia się z nagą fotografią deepfake, podczas gdy odsetek ten wśród dzieci nienarażonych na ryzyko wynosi 11%.

Rodziny zgadzają się, że rząd i przemysł muszą zrobić więcej, aby zwalczać zjawisko deepfake'ów, czyli podróbek zawierających nagie zdjęcia.

Większość nastolatków i rodziców uważa, że narzędzia do nudystyki powinny być zakazane dla wszystkich w Wielkiej Brytanii, w tym dla dorosłych. Rodziny zgadzają się również, że potrzeba więcej edukacji na ten temat.

Konieczne jest wprowadzenie przepisów prawnych i podjęcie działań przez branżę w celu ochrony dzieci przed wykorzystywaniem seksualnym za pomocą materiałów deepfake.

Rodzice i szkoły nie mogą i nie powinny być same w sobie zobowiązane do ochrony dzieci. Wzywamy rząd do zakazania narzędzi do nudystyki jako priorytetu w tym Parlamencie.

Przeczytaj pełne badanie dotyczące deepfake'ów z nagimi zdjęciami

Pobierz raport Deepfakes

Pobierz streszczenie

Pomocnicze zasoby

Deepfakes przewodnik dla rodziców

Przewodnik po deepfake'ach dla młodych ludzi

To jest obraz: Czym jest rozbieranie AI?

Co to jest rozbieranie AI?

Czy to było przydatne?

Tak Nie

Powiedz nam dlaczego