Eltern und Kinder sagen: Verbot von Nackt-Apps

Mit dem Aufkommen der KI-Technologien sind online neue Bedrohungen für Kinder entstanden, darunter auch Nackt-Deepfakes. Nackt-Deepfakes sind sexuelle Bilder, die mit KI-Tools aus Bildern von echten Menschen, darunter auch Kindern, erstellt werden.

Im letzten Jahr nahmen die sexuellen Deepfake-Inhalte im Internet um über 400 % zu. Unsere Untersuchungen haben außerdem ergeben, dass schätzungsweise eine halbe Million Kinder (13 %) bereits online einen Nackt-Deepfake erlebt haben. Dies kann beispielsweise der Fall sein, wenn sie auf einer Website auf einen solchen gestoßen sind, einen von einem Freund erhalten haben oder selbst eine Nackt-App verwendet haben.

Mit wenigen Mausklicks ist es heute schnell, günstig und einfach, überzeugende Nacktbilder und -videos mit echten Menschen zu erstellen. Plattformen bemühen sich, Nackt-Tools zu entfernen, wenn sie auf sie stoßen. Sie sind jedoch weiterhin in App-Stores verfügbar und erscheinen häufig in den Suchergebnissen der gängigen Suchmaschinen.

Deepfake-Nacktbilder können schwerwiegende Auswirkungen auf Kinder haben, unter anderem durch Missbrauch und Belästigung. Opfer dieses Missbrauchs können infolgedessen an PTBS, Depressionen, Angstzuständen und sogar Selbstmordgedanken leiden. Sie können auch körperliche Gewalt befürchten, wenn ein Täter ihre persönlichen Daten zusammen mit dem Bild weitergibt.

Tatsächlich sind die meisten Teenager (55 %) der Meinung, dass es schlimmer wäre, wenn ein Nacktfoto von ihnen erstellt und geteilt würde, als ein echtes Foto. Auf die Frage nach dem Grund nannten die Teenager:

• das Gefühl, die körperliche Autonomie verloren zu haben
• Sorge, dass sie nicht wissen könnten, dass es existiert, wer es gemacht hat oder warum
• die Angst, die es auslösen könnte. Dazu gehörten Freunde, Lehrer und Eltern, die dachten, es sei echt und sie anders wahrnahmen. Sie befürchteten auch, dass das Bild sie völlig falsch darstellen könnte.

Obwohl dieses Problem sowohl Jungen als auch Mädchen betrifft, zeigen 99 % der Nackt-Deepfakes Frauen und Mädchen. Darüber hinaus funktionieren viele Nackt-Tools bei Bildern von Jungen und Männern nicht. Unsere Untersuchungen legen nahe, dass Nackt-Deepfakes zu einem weiteren Mittel werden, um Gewalt gegen Frauen und Mädchen auszuüben.

Das Erstellen, Besitzen oder Teilen eines Nackt-Deepfake-Bildes eines Kindes ist illegal und wird eingestuft als Material über sexuellen Missbrauch von Kindern (CSAM). Allerdings sind die Werkzeuge, mit denen sie erstellt werden, derzeit nicht illegal und Kinder kommen zunehmend damit in Kontakt.

Verbot von Nacktheitswerkzeugen

Unsere Untersuchungen haben ergeben, dass 84 % der Teenager und 80 % der Eltern ein Verbot von Nacktheitswerkzeugen für alle Menschen im Vereinigten Königreich, auch für Erwachsene, befürworten.

Im Unterhaus: Abgeordnete Jess Asato forderte die Regierung auf in dieser Angelegenheit auf die Stimmen von Eltern und Kindern zu hören, indem wir Apps verbieten, die Nacktheit zeigen.

Frau Asato sagte: „Der Anstieg von Nackt-Deepfakes ist ein zunehmend besorgniserregendes Problem – insbesondere in Schulen. Untersuchungen von Internet Matters haben gezeigt, welchen Schaden sie Kindern bereits zufügen – und welches Potenzial die Technologie für noch größeren Schaden hat. Indem wir zulassen, dass Nacktprogramme weiterhin leicht zugänglich bleiben, setzen wir unsere Kinder der Gefahr aus, Schaden zu nehmen und sogar kriminalisiert zu werden. Deshalb habe ich die Regierung aufgefordert, Nackt-Tools und -Apps zu verbieten.“

Das Verbot von Nacktheitswerkzeugen war eine der wichtigsten Empfehlungen in unserem Bericht. Das neue Gesicht des digitalen Missbrauchs: Erfahrungen von Kindern mit Nackt-Deepfakes.

Die Verantwortung, Kinder vor sexuellem Missbrauch durch Deepfakes zu schützen, kann nicht bei Schulen und Eltern liegen. Industrie und Regierung müssen eingreifen. Ein Verbot von Nackt-Tools würde dazu beitragen, Kinder vor Online-Schäden zu schützen. Darüber hinaus würde es das ehrgeizige Ziel der Regierung unterstützen, die Gewalt gegen Frauen und Mädchen im nächsten Jahrzehnt zu halbieren.