Co to jest rozbieranie AI? Poradnik dla rodziców i opiekunów

Chociaż sposób działania każdej aplikacji lub witryny może się różnić, wszystkie oferują tę podobną usługę. Chociaż zmanipulowany obraz w rzeczywistości nie przedstawia prawdziwego nagiego ciała ofiary, może to sugerować.

Sprawcy korzystający z narzędzi AI do rozbierania mogą zachować zdjęcia dla siebie lub udostępnić je szerzej. Mogliby użyć tych obrazów do przymus seksualny (sextortion), znęcanie się/wykorzystywanie lub jako forma porno zemsty.

Dzieci i młodzież narażają się na dodatkową krzywdę, jeśli ktoś „rozbierze” je przy użyciu tej technologii. A raport Fundacji Internet Watch Znaleziono ponad 11,000 3,000 potencjalnie przestępczych obrazów dzieci wygenerowanych przez sztuczną inteligencję na jednym z ciemnych forów internetowych poświęconych materiałom przedstawiającym wykorzystywanie seksualne dzieci (CSAM). Ocenili około XNUMX zdjęć jako przestępcze.

IWF stwierdziła, że ​​znalazła także „wiele przykładów obrazów wygenerowanych przez sztuczną inteligencję, przedstawiających znane ofiary i sławne dzieci”. Generatywna sztuczna inteligencja może tworzyć przekonujące obrazy tylko wtedy, gdy uczy się na podstawie dokładnego materiału źródłowego. Zasadniczo narzędzia AI generujące CSAM musiałyby uczyć się na prawdziwych obrazach przedstawiających wykorzystywanie dzieci.

Jedna z witryn poświęconych rozbieranej sztucznej inteligencji twierdzi, że ich technologia „nie była przeznaczona do stosowania w przypadku mężczyzn”. Dzieje się tak, ponieważ przeszkolili narzędzie przy użyciu wizerunków kobiet, co ma miejsce w przypadku większości tego typu narzędzi AI. W przypadku CSAM generowanego przez sztuczną inteligencję zbadaną przez Internet Watch Foundation 99.6% z nich przedstawiało także dzieci płci żeńskiej.

Badania z Graphiki podkreślono wzrost o 2000% spamu z linkami polecającymi do usług Undress AI w 2023 r. W raporcie stwierdzono również, że w ciągu miesiąca ich witryny internetowe 34 z tych dostawców odwiedziło ponad 24 miliony unikalnych użytkowników. Przewidują „dalsze przypadki szkód w Internecie”, w tym molestowanie seksualne i CSAM.

Sprawcy prawdopodobnie w dalszym ciągu będą atakować dziewczęta i kobiety, a nie chłopców i mężczyzn, zwłaszcza jeśli narzędzia te będą uczyć się głównie na wizerunkach kobiet.

Ministerstwo Sprawiedliwości ogłosiło jednak nowe prawo w tym tygodniu to to zmieni. Zgodnie z nowym prawem osoby tworzące fałszywe obrazy dorosłych o charakterze jednoznacznie seksualnym bez ich zgody będą ścigane. Skazanym również grozi „nieograniczona grzywna”.

Jest to sprzeczne z A oświadczenie złożone na początku 2024 r. Stwierdzono, że tworzenie fałszywego, intymnego wizerunku „nie jest na tyle szkodliwe ani zawinione, aby stanowić przestępstwo”.

Jeszcze w zeszłym roku sprawcy mogli tworzyć i udostępniaj te zdjęcia (dorosłych) bez łamania prawa. Jednakże Ustawa o bezpieczeństwie online w styczniu 2024 r. nielegalne było udostępnianie intymnych obrazów generowanych przez sztuczną inteligencję bez zgody.

Ogólnie rzecz biorąc, to prawo powinno obejmować wszelkie obrazy o charakterze seksualnym. Dotyczy to również tych, które przedstawiają nagie lub częściowo nagie osoby.

Należy jednak zauważyć, że prawo to opiera się na zamiarze wyrządzenia szkody. Zatem osoba tworząca deepfake o charakterze jednoznacznie seksualnym musi to zrobić, aby upokorzyć ofiarę lub w inny sposób zaszkodzić jej. Problem w tym, że dość trudno jest udowodnić zamiar. W związku z tym faktyczne ściganie stron tworzących deepfake o charakterze jednoznacznie seksualnym może być trudne.