Neuer Bericht schätzt, dass eine halbe Million britische Teenager auf KI-generierte Nackt-Deepfakes gestoßen sind

Bekämpfung von gefälschten Aktfotos durch generative KI

Der Bericht geht davon aus, dass in jeder 30-jährigen Klasse vier Kinder Erfahrungen mit „nackten Deepfakes“ gemacht haben, und fordert die Regierung auf, neue Gesetze einzuführen, um der Zunahme gefälschter Nacktbilder junger Menschen, insbesondere Mädchen, auf der Grundlage generativer künstlicher Intelligenz (GenAI) Einhalt zu gebieten, indem sogenannte „nacktmachende“ Apps verboten werden.

Der Bericht erläutert, wie GenAI es schnell, einfach und günstig gemacht hat, ohne Einverständnis explizite Bilder von normalen Menschen – darunter auch Kinder – zu produzieren. Er argumentiert, dass die aktuelle Gesetzgebung nicht Schritt hält; die KI-Modelle, die zur Generierung sexueller Bilder von Kindern verwendet werden, sind derzeit in Großbritannien nicht illegal, obwohl der Besitz eines Deepfake-Bildes mit sexuellem Inhalt eines Kindes eine Straftat darstellt.

Obwohl Deepfake-Technologie für positive Zwecke wie Bildung oder Ausbildung eingesetzt werden kann, deuten Beweise darauf hin, dass die Mehrheit der Deepfakes erstellt wird, um Schaden anzurichten, beispielsweise durch sexuellen Missbrauch, finanziell motivierte sexuelle Ausbeutung, Fehl- und Desinformation, Betrug oder Schwindel. Einst war die Erstellung gefälschter Nacktbilder ein Phänomen, das sich hauptsächlich gegen weibliche Prominente richtete. Heute ist sie jedoch allgemein zugänglich und betrifft Kinder, wobei Mädchen am wahrscheinlichsten das Ziel sind.

Nacktheitstools werden häufig zur Erstellung von Deepfakes von Frauen und Mädchen verwendet

Der heutige Bericht von Internet Matters zeigt, wie weit verbreitet und benutzerfreundlich „Nacktheits“-Tools im Internet mittlerweile sind. Schätzungsweise 99 % der Nackt-Deepfakes zeigen Mädchen und Frauen, und „Nacktheits“-Modelle funktionieren bei Bildern von Jungen und Männern oft nicht. KI-generierte sexuelle Bilder mit Kindern wurden verwendet, um sexuellen Missbrauch von Kindern unter Kindern, sexuellen Missbrauch durch Erwachsene und Sextortion zu ermöglichen. Sie können die Opfer zutiefst beeinträchtigen und zu Angstzuständen, Depressionen und Selbstmordgedanken führen.

Teenager haben Apps zur Nacktdarstellung verwendet, um sexuell eindeutige Bilder ihrer Klassenkameradinnen zu erstellen und diese Bilder häufig in Gruppenchats und sozialen Medien zu teilen. Mädchen sagten gegenüber Internet Matters, sie seien entsetzt und beschämt und hätten Angst, dass ein Lehrer oder ein Elternteil sie für echt halten könnte.

Der heutige Bericht beschreibt eine landesweit repräsentative Umfrage von Internet Matters unter 2,000 Eltern von Kindern im Alter von 3 bis 17 Jahren und 1,000 Kindern im Alter von 9 bis 17 Jahren in Großbritannien, die von Opinium im Juni 2024 durchgeführt wurde. Die Umfrage zeigt:

• Eine beträchtliche Anzahl von Kindern hat Erfahrungen mit einem Nackt-Deepfake. Insgesamt haben 13 % der Kinder Erfahrungen mit einem Nackt-Deepfake gemacht (einschließlich des Sendens oder Empfangens eines solchen, des Auffindens eines Nackt-Deepfakes im Internet, der Verwendung einer Nackt-App oder der Verwendung einer Nackt-App durch jemanden, den sie kennen). Das bedeutet, dass etwa eine halbe Million (529,632) Teenager in Großbritannien oder 4 Teenager in einer Klasse mit 30 Kindern Erfahrungen mit einem Nackt-Deepfake gemacht haben.
• Teenager (18 %) berichten doppelt so häufig von einer Erfahrung mit einem Nackt-Deepfake wie Teenager (9 %). Allerdings sind Jungen häufiger die Ersteller von Deepfakes und Mädchen eher die Opfer.
• Jungen und gefährdete Kinder sind häufiger auf einen Nackt-Deepfake gestoßen. 10 % der Jungen im Alter von 13 bis 17 Jahren sind online auf einen Nackt-Deepfake gestoßen, verglichen mit 2 % der Mädchen im gleichen Alter. Ein Viertel der gefährdeten Kinder hat Erfahrungen mit einem Nackt-Deepfake gemacht, verglichen mit 11 % der nicht gefährdeten Kinder.
• Teenager empfinden den Missbrauch von Nackt-Deepfakes als schlimmer als den Missbrauch von Bildern mit echten Bildern. Über die Hälfte der Teenager (55 %) glaubt, dass es schlimmer wäre, wenn ein Deepfake-Nacktbild von ihnen erstellt und geteilt würde, als ein echtes Bild.
  In den meisten Familien gibt es wenig bis gar kein Verständnis für Deepfakes: Fast zwei Drittel der Kinder (61 %) und fast die Hälfte der Eltern (45 %) geben an, den Begriff „Deepfake“ nicht zu kennen oder zu verstehen.
• Familien wollen, dass Regierung und Technologieunternehmen mehr gegen Deepfakes mit Nacktdarstellungen unternehmen. 84 % der Teenager und 80 % der Eltern sind der Meinung, dass Tools zur Nacktdarstellung für alle Menschen in Großbritannien verboten werden sollten, auch für Erwachsene.
• Familien sind sich auch einig, dass mehr Aufklärung zum Thema Deepfakes nötig ist. Nur 11 % der Teenager wurden in der Schule über Deepfakes unterrichtet und nur 6 % über Nackt-Deepfakes. Die überwältigende Mehrheit der Teenager (92 %) und Eltern (88 %) ist der Meinung, dass Kinder in der Schule über die Risiken von Deepfakes unterrichtet werden sollten.

Der Bericht plädiert für neue Gesetze und Maßnahmen der Industrie, um Kinder vor sexuellem Missbrauch durch Deepfakes zu schützen. Er argumentiert, dass man nicht von Eltern und Schulen erwarten könne, Kinder allein zu schützen. Er fordert Maßnahmen, darunter:

Das Verbot von Nackt-Tools sollte für die Regierung eine Priorität in dieser Legislaturperiode sein. Außerdem sollte das Gesetz zur Online-Sicherheit durch Verhaltenskodizes zu geschlechtsspezifischen Schäden und Kindesmissbrauch gestärkt werden.

Technologieunternehmen müssen härter durchgreifen, indem sie den Zugriff auf Nudifying-Tools in Suchmaschinen und App-Stores sperren.
Der nationale Lehrplan soll aktualisiert werden, um die Vermittlung kritischer Medienkompetenz in den Lehrplan zu integrieren.

Zeitgleich mit dem heutigen Bericht und zur Unterstützung veröffentlicht Internet Matters neue Ressourcen, darunter Expertenratschläge für Eltern zum Schutz ihrer Kinder vor Deepfakes.