Nowe oblicze nadużyć cyfrowych
Doświadczenia dzieci z nagimi deepfake’ami
Rozwój narzędzi opartych na sztucznej inteligencji znacznie ułatwił tworzenie realistycznych deepfake'ów o charakterze seksualnym. Około 98% wszystkich deepfake'ów to te przedstawiające nagość.
99% nagich deepfake'ów przedstawia kobiety i dziewczęta. Zapoznaj się z naszym raportem poniżej, który bada wzrost deepfake'ów w klasach i nasze zalecenia, jak sobie z tym poradzić.
O naszych badaniach nad nagimi deepfake’ami
Młodzi ludzie zmagają się z wieloma społecznymi i emocjonalnymi zmianami w okresie dorastania: ustalają, kim są, jak identyfikować i zarządzać swoimi emocjami oraz rozwijają poczucie, jak pasują do szerszych grup rówieśniczych. Biorąc pod uwagę znaczenie technologii we współczesnym życiu, niektóre z tych zmian rozgrywają się w przestrzeniach online.
Aby zatem wesprzeć młodych ludzi w radzeniu sobie z wzlotami i upadkami okresu dojrzewania, kluczowe jest zrozumienie, w jaki sposób platformy internetowe wpływają na ich rozwój.
Kluczowe wnioski
Większość rodzin ma nikłą lub żadną wiedzę na temat deepfake'ów.
Prawie dwie trzecie dzieci i prawie połowa rodziców twierdzi, że nie zna lub nie rozumie terminu „deepfake”.
Narzędzia służące do nagości są wykorzystywane do seksualnego wykorzystywania dzieci.
Chociaż większość stron poświęconych nudystom zabrania tworzenia fałszywych obrazów o charakterze seksualnym z udziałem dzieci, te zabezpieczenia są często łatwe do obejścia.
Chłopcy i dzieci narażone na ryzyko częściej wchodzą w interakcję z nagimi materiałami deepfake.
Wśród nastoletnich chłopców prawdopodobieństwo zetknięcia się z nagą fotografią deepfake jest dwukrotnie większe niż wśród nastoletnich dziewcząt. 25% dzieci narażonych na ryzyko przyznaje się do zetknięcia się z nagą fotografią deepfake, podczas gdy odsetek ten wśród dzieci nienarażonych na ryzyko wynosi 11%.
Liczba deepfake’ów w Internecie gwałtownie wzrosła.
Dowody wskazują, że większość deepfake’ów jest wykorzystywana w szkodliwych celach. Ponadto trudno jest ustalić prawdziwą skalę deepfake’ów krążących w Internecie.
Nastolatki uważają, że nagość w formie deepfake jest gorsza niż wykorzystywanie seksualne z wykorzystaniem prawdziwych zdjęć.
Powody, które podawali nastolatkowie, obejmowały brak autonomii i świadomości istnienia zdjęcia, anonimowość sprawcy, możliwość manipulacji zdjęciem oraz obawy, że ludzie pomyślą, że zdjęcie jest prawdziwe.
Rodziny zgadzają się, że rząd i przemysł muszą zrobić więcej, aby zwalczać zjawisko deepfake'ów, czyli podróbek zawierających nagie zdjęcia.
Większość nastolatków i rodziców uważa, że narzędzia do nudystyki powinny być zakazane dla wszystkich w Wielkiej Brytanii, w tym dla dorosłych. Rodziny zgadzają się również, że potrzeba więcej edukacji na ten temat.
Narzędzia Nudify są szeroko dostępne w Internecie.
Tego typu modele sztucznej inteligencji, które pobierają ubrania z obrazów prawdziwych osób, w tym dzieci, stały się powszechniejsze wraz z rozwojem GenAI.
Duża liczba dzieci ma doświadczenie z nagimi zdjęciami deepfake.
13% nastolatków przyznaje, że ma jakieś doświadczenie z nagimi zdjęciami deepfake, co odpowiada liczbie około 4 dzieci w klasie liczącej 30 uczniów lub prawie pół miliona nastolatków w Wielkiej Brytanii.
Konieczne jest wprowadzenie przepisów prawnych i podjęcie działań przez branżę w celu ochrony dzieci przed wykorzystywaniem seksualnym za pomocą materiałów deepfake.
Rodzice i szkoły nie mogą i nie powinny być same w sobie zobowiązane do ochrony dzieci. Wzywamy rząd do zakazania narzędzi do nudystyki jako priorytetu w tym Parlamencie.
