W zeszłym roku byliśmy świadkami gwałtownego wzrostu liczby deepfake'ów z udziałem nagości, a narzędzia do ich udawania są łatwo dostępne online.
Budzi to niepokój i lęk wśród młodych ludzi, którzy opowiadają się za zakazem używania narzędzi służących do ich tworzenia.
Podsumowanie
- W zeszłym roku liczba deepfake’ów w internecie wzrosła o ponad 400%
- 99% deepfake'ów przedstawia kobiety i dziewczęta; narzędzia do nagości nie działają w przypadku mężczyzn i chłopców.
- Posłanka Jess Asato wzywa rząd do zakazania narzędzi i aplikacji służących do pokazywania nagości.
- Stworzyliśmy zasoby, które mają na celu wsparcie rodziców i młodych ludzi.
Czym są deepfake'i nago?
Wraz z rozwojem technologii AI pojawiły się nowe zagrożenia dla dzieci w Internecie, w tym deepfake nagości. Deepfake nagości to obrazy seksualne tworzone za pomocą narzędzi do nagości AI z obrazów prawdziwych osób, w tym dzieci.
W zeszłym roku liczba internetowych deepfake'ów seksualnych wzrosła o ponad 400%. Nasze badania wykazały również, że około pół miliona dzieci (13%) doświadczyło już nagiego deepfake'a online. Obejmuje to natknięcie się na niego na stronie internetowej, otrzymanie go od znajomego lub samodzielne korzystanie z aplikacji do nudystyki.
Teraz można szybko, tanio i łatwo generować bardzo przekonujące nagie zdjęcia i filmy z udziałem prawdziwych ludzi za pomocą kliknięcia kilku przycisków. Platformy podejmują wysiłki, aby usuwać narzędzia do nagości, gdy się na nie natkną. Pozostają jednak dostępne w sklepach z aplikacjami i powszechne w wynikach wyszukiwania głównych wyszukiwarek.
Jak nagie deepfake’i wpływają na dzieci, zwłaszcza dziewczęta
Deepfake nudes mogą mieć głęboki wpływ na dzieci, w tym poprzez nadużycia i nękanie. Ofiary tego nadużycia mogą w rezultacie doświadczać PTSD, depresji, lęku, a nawet myśli samobójczych. Mogą również obawiać się przemocy fizycznej, jeśli sprawca udostępni swoje dane osobowe wraz ze zdjęciem.
W rzeczywistości większość nastolatków (55%) uważa, że stworzenie i udostępnienie ich nagiego zdjęcia deepfake byłoby gorsze niż prawdziwe zdjęcie. Na pytanie dlaczego, nastolatkowie podali:
- Odczuwanie utraty autonomii ciała
- Obawa, że mogą nie wiedzieć, że coś istnieje, kto to zrobił i dlaczego
- Strach, jaki to może wywołać. Dotyczyło to przyjaciół, nauczycieli i rodziców, którzy myśleli, że to prawda i widzieli ich inaczej. Martwili się również, że obraz może ich całkowicie przeinaczyć.
Chociaż problem ten dotyczy zarówno chłopców, jak i dziewcząt, 99% nagich deepfake’ów przedstawia kobiety i dziewczęta. Ponadto wiele narzędzi do nagości nie działa na zdjęciach chłopców i mężczyzn. Nasze badania sugerują, że nagie deepfake’i stają się kolejnym narzędziem wykorzystywanym do popełniania przemocy wobec kobiet i dziewcząt.
Co musi się zmienić
Tworzenie, posiadanie lub udostępnianie nagiego, fałszywego obrazu dziecka jest nielegalne i klasyfikowane jako materiały przedstawiające wykorzystywanie seksualne dzieci (CSAM). Jednak narzędzia służące do ich tworzenia nie są obecnie nielegalne i dzieci coraz częściej mają z nimi styczność.
Zakaz narzędzi do nagości
Nasze badania wykazały, że 84% nastolatków i 80% rodziców popiera zakaz używania narzędzi do nagości dla wszystkich w Wielkiej Brytanii, w tym dla dorosłych.
W Izbie Gmin poseł Jess Asato nalegał rząd wysłuchać głosu rodziców i dzieci w tej sprawie poprzez zakazanie aplikacji pokazujących nagość.
Pani Asato powiedziała: „Wzrost liczby deepfake’ów nago jest coraz bardziej niepokojącym problemem – szczególnie w szkołach. Badania przeprowadzone przez Internet Matters wykazały, że już teraz wyrządzają one krzywdę dzieciom – i że technologia ta ma potencjał, aby wyrządzić jeszcze większe szkody. Pozwalając programom nudystycznym pozostać łatwo dostępnymi, narażamy nasze dzieci na ryzyko krzywdy, a nawet kryminalizacji. Dlatego wezwałam rząd do zakazania narzędzi i aplikacji nudystycznych”.
Jednym z kluczowych zaleceń zawartych w naszym raporcie był zakaz stosowania narzędzi do nagości, Nowe oblicze nadużyć cyfrowych: Doświadczenia dzieci z nagimi deepfake’ami.
Ciężar ochrony dzieci przed deepfake'owym wykorzystywaniem seksualnym nie może spoczywać na szkołach i rodzicach. Przemysł i rząd muszą wkroczyć. Zakaz narzędzi do nudystyki pomógłby chronić dzieci przed krzywdą w Internecie. Ponadto wsparłby ambitny cel rządu, jakim jest zmniejszenie o połowę przemocy wobec kobiet i dziewcząt w ciągu następnej dekady.
Zasoby wspierające rodziny
W międzyczasie chcemy pomóc rodzinom lepiej chronić się w sieci. Zapoznaj się z następującymi zasobami stworzonymi, aby pomóc im w poruszaniu się po tym nowym niepokojącym trendzie.
O autorze
Rupert wspiera realizację projektów politycznych i badawczych w ramach Internet Matters, badających bezpieczeństwo dzieci w związku z korzystaniem przez nie z technologii cyfrowych.
