Das neue Gesicht des digitalen Missbrauchs
Erfahrungen von Kindern mit Nackt-Deepfakes
Durch den Aufstieg generativer KI-Tools ist es deutlich einfacher geworden, realistische sexuelle Deepfakes zu erstellen. Nackt-Deepfakes machen etwa 98 % aller Deepfakes aus.
99 % der Nackt-Deepfakes zeigen Frauen und Mädchen. Lesen Sie unten unseren Bericht, der den Anstieg von Deepfakes in Klassenzimmern untersucht, und unsere Empfehlungen, wie man dem entgegenwirken kann.
Über unsere Forschung zu Nackt-Deepfakes
In ihren Teenagerjahren sind junge Menschen mit vielen sozialen und emotionalen Veränderungen konfrontiert: Sie finden heraus, wer sie sind, wie sie ihre Emotionen erkennen und handhaben können, und entwickeln ein Gespür dafür, wie sie in größere Peergroups passen. Angesichts der Bedeutung der Technologie im modernen Leben spielen sich einige dieser Veränderungen im Internet ab.
Um junge Menschen durch die Höhen und Tiefen der Adoleszenz zu begleiten, ist es daher entscheidend, den Einfluss von Online-Plattformen auf ihre Entwicklung zu verstehen.
Die wichtigsten Ergebnisse
In den meisten Familien gibt es wenig bis gar kein Verständnis für Deepfakes.
Fast zwei Drittel der Kinder und fast die Hälfte aller Eltern sagen, dass sie den Begriff „Deepfake“ nicht kennen oder nicht verstehen.
Mit Nacktheitswerkzeugen werden Kinder sexuell missbraucht.
Während die meisten Nacktseiten die Produktion von Deepfake-Bildern mit sexuellen Darstellungen von Kindern verbieten, sind diese Leitplanken oft leicht zu umgehen.
Jungen und gefährdete Kinder haben sich eher mit einem Nackt-Deepfake beschäftigt.
Jungen im Teenageralter berichten doppelt so häufig von Erfahrungen mit einem Nackt-Deepfake wie Mädchen im Teenageralter. 25 % der gefährdeten Kinder geben an, Erfahrungen mit einem Nackt-Deepfake gemacht zu haben, verglichen mit 11 % der nicht gefährdeten Kinder.
Die Zahl der Deepfakes im Internet ist rasant gestiegen.
Es gibt Belege dafür, dass die Mehrheit der Deepfakes für schädliche Zwecke eingesetzt wird. Darüber hinaus ist es schwierig, das wahre Ausmaß der im Internet zirkulierenden Deepfakes festzustellen.
Teenager empfinden den Missbrauch durch Nackt-Deepfakes als schlimmer als sexuellen Missbrauch mit echten Bildern.
Als Gründe nannten die Jugendlichen unter anderem mangelnde Autonomie in Bezug auf das Bild oder mangelnde Kenntnis davon, die Anonymität des Täters, die Möglichkeit einer Manipulation des Bildes und die Angst, dass die Leute das Bild für echt halten könnten.
Familien sind sich einig, dass Regierung und Industrie mehr tun müssen, um gegen Nackt-Deepfakes vorzugehen.
Die Mehrheit der Jugendlichen und Eltern ist der Meinung, dass Nacktheitswerkzeuge für alle in Großbritannien verboten werden sollten, auch für Erwachsene. Familien sind sich auch einig, dass zu diesem Thema mehr Aufklärung erforderlich ist.
Nudify-Tools sind online weithin verfügbar.
Diese KI-Modelle, die die Kleidung von Bildern echter Menschen, darunter auch Kinder, entfernen, sind mit der Entwicklung von GenAI immer häufiger geworden.
Eine beträchtliche Anzahl von Kindern hat Erfahrungen mit einem Nackt-Deepfake.
13 % der Teenager sagen, sie hätten irgendeine Art von Erfahrung mit Nackt-Deepfakes. Das entspricht etwa 4 Kindern in einer Klasse mit 30 Kindern oder fast einer halben Million Teenagern in Großbritannien.
Um Kinder vor sexuellem Missbrauch durch Deepfakes zu schützen, sind gesetzliche und industrielle Maßnahmen erforderlich.
Eltern und Schulen können und sollten nicht allein für den Schutz von Kindern sorgen. Wir fordern die Regierung auf, Nacktheitswerkzeuge zu verbieten, und zwar als vorrangige Aufgabe dieses Parlaments.
