Co to jest rozbieranie AI? Poradnik dla rodziców i opiekunów

Chociaż sposób działania każdej aplikacji lub witryny może się różnić, wszystkie oferują tę podobną usługę. Chociaż zmanipulowany obraz w rzeczywistości nie przedstawia prawdziwego nagiego ciała ofiary, może to sugerować.

Sprawcy korzystający z narzędzi AI do rozbierania mogą zachować zdjęcia dla siebie lub udostępnić je szerzej. Mogliby użyć tych obrazów do przymus seksualny (sextortion), znęcanie się/wykorzystywanie lub jako forma porno zemsty.

Dzieci i młodzież narażają się na dodatkową krzywdę, jeśli ktoś „rozbierze” je przy użyciu tej technologii. A raport Fundacji Internet Watch Znaleziono ponad 11,000 3,000 potencjalnie przestępczych obrazów dzieci wygenerowanych przez sztuczną inteligencję na jednym z ciemnych forów internetowych poświęconych materiałom przedstawiającym wykorzystywanie seksualne dzieci (CSAM). Ocenili około XNUMX zdjęć jako przestępcze.

IWF stwierdziła, że ​​znalazła także „wiele przykładów obrazów wygenerowanych przez sztuczną inteligencję, przedstawiających znane ofiary i sławne dzieci”. Generatywna sztuczna inteligencja może tworzyć przekonujące obrazy tylko wtedy, gdy uczy się na podstawie dokładnego materiału źródłowego. Zasadniczo narzędzia AI generujące CSAM musiałyby uczyć się na prawdziwych obrazach przedstawiających wykorzystywanie dzieci.

Dzieci i młodzież mogą jeszcze nie rozumieć prawa. W związku z tym mogą mieć trudności z oddzieleniem szkodliwych narzędzi od tych, które promują nieszkodliwą zabawę.

Niewłaściwe treści i zachowanie

Ciekawość i nowość narzędzia AI do rozbierania mogą narazić dzieci niewłaściwa zawartość. Ponieważ nie pokazuje „prawdziwego” nagiego zdjęcia, mogą pomyśleć, że korzystanie z tych narzędzi jest w porządku. Jeśli następnie udostępnią to zdjęcie znajomym „dla śmiechu”, prawdopodobnie nieświadomie łamią prawo.

Bez interwencji rodzica lub opiekuna dziecko może kontynuować to zachowanie, nawet jeśli rani to innych.

Zagrożenia dotyczące prywatności i bezpieczeństwa

Wiele legalnych narzędzi generatywnej sztucznej inteligencji wymaga płatności lub subskrypcji w celu tworzenia obrazów. Jeśli więc witryna deepnude jest bezpłatna, może generować obrazy niskiej jakości lub mieć luźne zabezpieczenia. Jeśli dziecko prześle zdjęcie siebie lub znajomego w ubraniu, witryna lub aplikacja może je niewłaściwie wykorzystać. Obejmuje to również „głęboką nagość”, którą tworzy.

Dzieci korzystające z tych narzędzi prawdopodobnie nie przeczytają Warunków korzystania z usług ani Polityki prywatności, więc ryzykują, że mogą ich nie zrozumieć.

Tworzenie materiałów przedstawiających wykorzystywanie seksualne dzieci (CSAM)

IWF poinformowało również, że przypadki „samodzielnie wygenerowany” CSAM krążący w Internecie wzrósł o 417% od 2019 r. do 2022 r. Należy pamiętać, że termin „samogenerowany” jest niedoskonały, ponieważ w większości przypadków sprawcy zmuszają dzieci do tworzenia takich obrazów.

Jednak przy użyciu rozbieranej sztucznej inteligencji dzieci mogą nieświadomie tworzyć CSAM generowane przez sztuczną inteligencję. Jeśli prześlą zdjęcie siebie lub innego dziecka w ubraniu, ktoś może „nagodzić” to zdjęcie i udostępnić je szerzej.

Cyberprzemoc, molestowanie i molestowanie

Podobnie jak inne rodzaje deepfakes, ludzie mogą używać narzędzi AI do rozbierania się lub „deepnudes”, aby znęcać się nad innymi. Może to obejmować twierdzenie, że rówieśnik przesłał swoje nagie zdjęcie, choć tak nie było. Może to również obejmować wykorzystanie sztucznej inteligencji do stworzenia aktu z cechami, z których następnie drwią prześladowcy.

Należy o tym pamiętać udostępnianie nagich zdjęć rówieśnikom jest zarówno nielegalne, jak i obraźliwe.