Rodzice i dzieci mówią: Zabroń aplikacji do pokazywania nagości

Wraz z rozwojem technologii AI pojawiły się nowe zagrożenia dla dzieci w Internecie, w tym deepfake nagości. Deepfake nagości to obrazy seksualne tworzone za pomocą narzędzi do nagości AI z obrazów prawdziwych osób, w tym dzieci.

W zeszłym roku liczba internetowych deepfake'ów seksualnych wzrosła o ponad 400%. Nasze badania wykazały również, że około pół miliona dzieci (13%) doświadczyło już nagiego deepfake'a online. Obejmuje to natknięcie się na niego na stronie internetowej, otrzymanie go od znajomego lub samodzielne korzystanie z aplikacji do nudystyki.

Teraz można szybko, tanio i łatwo generować bardzo przekonujące nagie zdjęcia i filmy z udziałem prawdziwych ludzi za pomocą kliknięcia kilku przycisków. Platformy podejmują wysiłki, aby usuwać narzędzia do nagości, gdy się na nie natkną. Pozostają jednak dostępne w sklepach z aplikacjami i powszechne w wynikach wyszukiwania głównych wyszukiwarek.

Deepfake nudes mogą mieć głęboki wpływ na dzieci, w tym poprzez nadużycia i nękanie. Ofiary tego nadużycia mogą w rezultacie doświadczać PTSD, depresji, lęku, a nawet myśli samobójczych. Mogą również obawiać się przemocy fizycznej, jeśli sprawca udostępni swoje dane osobowe wraz ze zdjęciem.

W rzeczywistości większość nastolatków (55%) uważa, że ​​stworzenie i udostępnienie ich nagiego zdjęcia deepfake byłoby gorsze niż prawdziwe zdjęcie. Na pytanie dlaczego, nastolatkowie podali:

• odczuwanie utraty autonomii ciała
• obawy, że nie wiedzą, że istnieje, kto go stworzył i dlaczego
• strach, jaki może wywołać. Dotyczyło to przyjaciół, nauczycieli i rodziców, którzy myśleli, że to prawda i widzieli ich inaczej. Martwili się również, że obraz może ich całkowicie przeinaczyć.

Chociaż problem ten dotyczy zarówno chłopców, jak i dziewcząt, 99% nagich deepfake’ów przedstawia kobiety i dziewczęta. Ponadto wiele narzędzi do nagości nie działa na zdjęciach chłopców i mężczyzn. Nasze badania sugerują, że nagie deepfake’i stają się kolejnym narzędziem wykorzystywanym do popełniania przemocy wobec kobiet i dziewcząt.

Tworzenie, posiadanie lub udostępnianie nagiego, fałszywego obrazu dziecka jest nielegalne i klasyfikowane jako materiały przedstawiające wykorzystywanie seksualne dzieci (CSAM). Jednak narzędzia służące do ich tworzenia nie są obecnie nielegalne i dzieci coraz częściej mają z nimi styczność.

Zakaz narzędzi do nagości

Nasze badania wykazały, że 84% nastolatków i 80% rodziców popiera zakaz używania narzędzi do nagości dla wszystkich w Wielkiej Brytanii, w tym dla dorosłych.

W Izbie Gmin poseł Jess Asato nalegał rząd wysłuchać głosu rodziców i dzieci w tej sprawie poprzez zakazanie aplikacji pokazujących nagość.

Pani Asato powiedziała: „Wzrost liczby deepfake’ów nago jest coraz bardziej niepokojącym problemem – szczególnie w szkołach. Badania przeprowadzone przez Internet Matters wykazały, że już teraz wyrządzają one krzywdę dzieciom – i że technologia ta ma potencjał, aby wyrządzić jeszcze większe szkody. Pozwalając programom nudystycznym pozostać łatwo dostępnymi, narażamy nasze dzieci na ryzyko krzywdy, a nawet kryminalizacji. Dlatego wezwałam rząd do zakazania narzędzi i aplikacji nudystycznych”.

Jednym z kluczowych zaleceń zawartych w naszym raporcie był zakaz stosowania narzędzi do nagości, Nowe oblicze nadużyć cyfrowych: Doświadczenia dzieci z nagimi deepfake’ami.

Ciężar ochrony dzieci przed deepfake'owym wykorzystywaniem seksualnym nie może spoczywać na szkołach i rodzicach. Przemysł i rząd muszą wkroczyć. Zakaz narzędzi do nudystyki pomógłby chronić dzieci przed krzywdą w Internecie. Ponadto wsparłby ambitny cel rządu, jakim jest zmniejszenie o połowę przemocy wobec kobiet i dziewcząt w ciągu następnej dekady.