Internet-Angelegenheiten
Suche

Eltern und Kinder sagen: Verbot von Nackt-Apps

Rupert Meadows | 28. Juni 2024

Im vergangenen Jahr haben wir einen rasanten Anstieg von Deepfakes mit Nacktbildern erlebt, wobei im Internet leicht auf Tools zum Nacktbildmachen zugegriffen werden kann.

Dies löst bei jungen Menschen Ängste und Befürchtungen aus und sie befürworten ein Verbot der Werkzeuge, die zu ihrer Entstehung verwendet werden.

Zusammenfassung

Was sind Nackt-Deepfakes?

Mit dem Aufkommen der KI-Technologien sind online neue Bedrohungen für Kinder entstanden, darunter auch Nackt-Deepfakes. Nackt-Deepfakes sind sexuelle Bilder, die mit KI-Tools aus Bildern von echten Menschen, darunter auch Kindern, erstellt werden.

Im letzten Jahr nahmen die sexuellen Deepfake-Inhalte im Internet um über 400 % zu. Unsere Untersuchungen haben außerdem ergeben, dass schätzungsweise eine halbe Million Kinder (13 %) bereits online einen Nackt-Deepfake erlebt haben. Dies kann beispielsweise der Fall sein, wenn sie auf einer Website auf einen solchen gestoßen sind, einen von einem Freund erhalten haben oder selbst eine Nackt-App verwendet haben.

Mit wenigen Mausklicks ist es heute schnell, günstig und einfach, überzeugende Nacktbilder und -videos mit echten Menschen zu erstellen. Plattformen bemühen sich, Nackt-Tools zu entfernen, wenn sie auf sie stoßen. Sie sind jedoch weiterhin in App-Stores verfügbar und erscheinen häufig in den Suchergebnissen der gängigen Suchmaschinen.

Wie sich Nackt-Deepfakes auf Kinder auswirken – insbesondere auf Mädchen

Deepfake-Nacktbilder können schwerwiegende Auswirkungen auf Kinder haben, unter anderem durch Missbrauch und Belästigung. Opfer dieses Missbrauchs können infolgedessen an PTBS, Depressionen, Angstzuständen und sogar Selbstmordgedanken leiden. Sie können auch körperliche Gewalt befürchten, wenn ein Täter ihre persönlichen Daten zusammen mit dem Bild weitergibt.

Tatsächlich sind die meisten Teenager (55 %) der Meinung, dass es schlimmer wäre, wenn ein Nacktfoto von ihnen erstellt und geteilt würde, als ein echtes Foto. Auf die Frage nach dem Grund nannten die Teenager:

Obwohl dieses Problem sowohl Jungen als auch Mädchen betrifft, zeigen 99 % der Nackt-Deepfakes Frauen und Mädchen. Darüber hinaus funktionieren viele Nackt-Tools bei Bildern von Jungen und Männern nicht. Unsere Untersuchungen legen nahe, dass Nackt-Deepfakes zu einem weiteren Mittel werden, um Gewalt gegen Frauen und Mädchen auszuüben.

Was muss sich ändern

Das Erstellen, Besitzen oder Teilen eines Nackt-Deepfake-Bildes eines Kindes ist illegal und wird eingestuft als Material über sexuellen Missbrauch von Kindern (CSAM). Allerdings sind die Werkzeuge, mit denen sie erstellt werden, derzeit nicht illegal und Kinder kommen zunehmend damit in Kontakt.

Verbot von Nacktheitswerkzeugen

Unsere Untersuchungen haben ergeben, dass 84 % der Teenager und 80 % der Eltern ein Verbot von Nacktheitswerkzeugen für alle Menschen im Vereinigten Königreich, auch für Erwachsene, befürworten.

Im Unterhaus: Abgeordnete Jess Asato forderte die Regierung auf in dieser Angelegenheit auf die Stimmen von Eltern und Kindern zu hören, indem wir Apps verbieten, die Nacktheit zeigen.

Frau Asato sagte: „Der Anstieg von Nackt-Deepfakes ist ein zunehmend besorgniserregendes Problem – insbesondere in Schulen. Untersuchungen von Internet Matters haben gezeigt, welchen Schaden sie Kindern bereits zufügen – und welches Potenzial die Technologie für noch größeren Schaden hat. Indem wir zulassen, dass Nacktprogramme weiterhin leicht zugänglich bleiben, setzen wir unsere Kinder der Gefahr aus, Schaden zu nehmen und sogar kriminalisiert zu werden. Deshalb habe ich die Regierung aufgefordert, Nackt-Tools und -Apps zu verbieten.“

Das Verbot von Nacktheitswerkzeugen war eine der wichtigsten Empfehlungen in unserem Bericht. Das neue Gesicht des digitalen Missbrauchs: Erfahrungen von Kindern mit Nackt-Deepfakes.

Die Verantwortung, Kinder vor sexuellem Missbrauch durch Deepfakes zu schützen, kann nicht bei Schulen und Eltern liegen. Industrie und Regierung müssen eingreifen. Ein Verbot von Nackt-Tools würde dazu beitragen, Kinder vor Online-Schäden zu schützen. Darüber hinaus würde es das ehrgeizige Ziel der Regierung unterstützen, die Gewalt gegen Frauen und Mädchen im nächsten Jahrzehnt zu halbieren.

Ressourcen zur Unterstützung von Familien

In der Zwischenzeit möchten wir Familien helfen, online besser geschützt zu sein. Entdecken Sie die folgenden Ressourcen, die ihnen dabei helfen sollen, mit diesem neuen, besorgniserregenden Trend umzugehen.

Über den Autor

Rupert Meadows

Rupert Meadows

Policy-Manager, Internetangelegenheiten

Rupert unterstützt die Durchführung von Politik- und Forschungsprojekten bei „Internet Matters“ und untersucht die Sicherheit von Kindern bei der Nutzung digitaler Technologien.

Unterstützende Ressourcen

Über den Autor

Rupert Meadows

Rupert Meadows

Policy-Manager, Internetangelegenheiten

Rupert unterstützt die Durchführung von Politik- und Forschungsprojekten bei „Internet Matters“ und untersucht die Sicherheit von Kindern bei der Nutzung digitaler Technologien.

Erhalten Sie persönliche Beratung und fortlaufende Unterstützung

Der erste Schritt zur Online-Sicherheit Ihres Kindes besteht in der richtigen Anleitung. Mit dem „Digital Toolkit meiner Familie“ haben wir es Ihnen leicht gemacht.