Zusammenfassung
- Ein neuer Bericht von Internet Matters fordert die neue Regierung auf, gegen die „Epidemie“ von KI-generierten sexuellen Bildern vorzugehen, nachdem eine Umfrage ergeben hat, dass 13 % der Teenager Erfahrungen mit Nackt-Deepfakes gemacht haben.
- Die Möglichkeit eines unkontrollierten Missbrauchs von Nackt-Deepfakes hat bei vielen Kindern Angst ausgelöst. Über die Hälfte der Teenager (55 %) glauben, dass es schlimmer wäre, wenn ein Deepfake-Nacktfoto von ihnen erstellt und geteilt würde, als ein echtes Bild.
- Internet Matters fordert ein Verbot von „Nacktheits“-Tools, da es laut dem Bericht schlicht zu einfach ist, im Internet Nackt-Deepfakes zu erstellen.
- Zu den empfohlenen Reformen des Lehrplans an Schulen sollte gehören, den Kindern beizubringen, wie sie Deepfakes erkennen und KI-Technologie verantwortungsvoll nutzen können.
Internet Matters, Großbritanniens führende gemeinnützige Organisation zur Unterstützung der Online-Sicherheit von Kindern, veröffentlicht heute (Dienstag, 22. Oktober) einen neuen Bericht, „Das neue Gesicht des digitalen Missbrauchs: Erfahrungen von Kindern mit Nackt-Deepfakes“. Der Bericht schätzt, dass vier Kinder in jeder 30-jährigen Klasse Erfahrungen mit „nackten Deepfakes“ gemacht haben, und fordert die Regierung auf, neue Gesetze einzuführen, um der Zunahme gefälschter Nacktbilder junger Menschen, insbesondere Mädchen, auf Basis generativer KI (GenAI) entgegenzuwirken, indem sogenannte „nacktmachende“ Apps verboten werden.
Der Bericht erläutert, wie GenAI es schnell, einfach und günstig gemacht hat, ohne Einverständnis explizite Bilder von normalen Menschen – darunter auch Kinder – zu produzieren. Er argumentiert, dass die aktuelle Gesetzgebung nicht Schritt hält; die KI-Modelle, die zur Generierung sexueller Bilder von Kindern verwendet werden, sind derzeit in Großbritannien nicht illegal, obwohl der Besitz eines Deepfake-Bildes mit sexuellem Inhalt eines Kindes eine Straftat darstellt.
Obwohl Deepfake-Technologie für positive Zwecke wie Bildung oder Ausbildung eingesetzt werden kann, deuten Beweise darauf hin, dass die Mehrheit der Deepfakes erstellt wird, um Schaden anzurichten, beispielsweise durch sexuellen Missbrauch, finanziell motivierte sexuelle Ausbeutung, Fehl- und Desinformation, Betrug oder Schwindel. Einst war die Erstellung gefälschter Nacktbilder ein Phänomen, das sich hauptsächlich gegen weibliche Prominente richtete. Heute ist sie jedoch allgemein zugänglich und betrifft Kinder, wobei Mädchen am wahrscheinlichsten das Ziel sind.
Der heutige Bericht von Internet Matters zeigt, wie weit verbreitet und benutzerfreundlich „Nacktheits“-Tools im Internet mittlerweile sind. Schätzungsweise 99 % der Nackt-Deepfakes zeigen Mädchen und Frauen, und „Nacktheits“-Modelle funktionieren bei Bildern von Jungen und Männern oft nicht. KI-generierte sexuelle Bilder mit Kindern wurden verwendet, um sexuellen Missbrauch von Kindern unter Kindern, sexuellen Missbrauch durch Erwachsene und Sextortion zu ermöglichen. Sie können die Opfer zutiefst beeinträchtigen und zu Angstzuständen, Depressionen und Selbstmordgedanken führen.
Teenager haben Apps zur Nacktdarstellung verwendet, um sexuell eindeutige Bilder ihrer Klassenkameradinnen zu erstellen und diese Bilder häufig in Gruppenchats und sozialen Medien zu teilen. Mädchen sagten gegenüber Internet Matters, sie seien entsetzt und beschämt und hätten Angst, dass ein Lehrer oder ein Elternteil sie für echt halten könnte.
Der heutige Bericht beschreibt eine landesweit repräsentative Umfrage von Internet Matters unter 2,000 Eltern von Kindern im Alter von 3 bis 17 Jahren und 1,000 Kindern im Alter von 9 bis 17 Jahren in Großbritannien, die von Opinium im Juni 2024 durchgeführt wurde. Die Umfrage zeigt:
- Eine beträchtliche Anzahl von Kindern hat Erfahrungen mit einem Nackt-Deepfake. Insgesamt haben 13 % der Kinder Erfahrungen mit einem Nackt-Deepfake gemacht (einschließlich des Sendens oder Empfangens eines solchen, des Auffindens eines Nackt-Deepfakes im Internet, der Verwendung einer Nackt-App oder der Verwendung einer Nackt-App durch jemanden, den sie kennen). Das bedeutet, dass etwa eine halbe Million (529,632) Teenager in Großbritannien oder 4 Teenager in einer Klasse mit 30 Kindern Erfahrungen mit einem Nackt-Deepfake gemacht haben.
- Jungen im Teenageralter (18 %) berichten doppelt so häufig von Erfahrungen mit einem Nackt-Deepfake wie Mädchen im Teenageralter (9 %). Allerdings sind Jungen häufiger die Ersteller von Deepfakes und Mädchen eher die Opfer.
- Jungen und gefährdete Kinder sind häufiger auf einen Nackt-Deepfake gestoßen. 10 % der Jungen im Alter von 13 bis 17 Jahren sind online auf einen Nackt-Deepfake gestoßen, verglichen mit 2 % der Mädchen im gleichen Alter. Ein Viertel der gefährdeten Kinder hat Erfahrungen mit einem Nackt-Deepfake gemacht, verglichen mit 11 % der nicht gefährdeten Kinder.
- Teenager empfinden den Missbrauch von Nackt-Deepfakes als schlimmer als den Missbrauch von Bildern mit echten Bildern. Über die Hälfte der Teenager (55 %) glaubt, dass es schlimmer wäre, wenn ein Deepfake-Nacktbild von ihnen erstellt und geteilt würde, als ein echtes Bild.
- In den meisten Familien gibt es wenig bis gar kein Verständnis für Deepfakes: Fast zwei Drittel der Kinder (61 %) und fast die Hälfte der Eltern (45 %) geben an, den Begriff „Deepfake“ nicht zu kennen oder zu verstehen.
- Familien wollen, dass Regierung und Technologieunternehmen mehr gegen Deepfakes mit Nacktdarstellungen unternehmen. 84 % der Teenager und 80 % der Eltern sind der Meinung, dass Tools zur Nacktdarstellung für alle Menschen in Großbritannien verboten werden sollten, auch für Erwachsene.
- Familien sind sich auch einig, dass mehr Aufklärung zum Thema Deepfakes nötig ist. Nur 11 % der Teenager wurden in der Schule über Deepfakes unterrichtet und nur 6 % über Nackt-Deepfakes. Die überwältigende Mehrheit der Teenager (92 %) und Eltern (88 %) ist der Meinung, dass Kinder in der Schule über die Risiken von Deepfakes unterrichtet werden sollten.
Der Bericht plädiert für neue Gesetze und Maßnahmen der Industrie, um Kinder vor sexuellem Missbrauch durch Deepfakes zu schützen. Er argumentiert, dass man nicht von Eltern und Schulen erwarten könne, Kinder allein zu schützen. Er fordert Maßnahmen, darunter:
- Das Verbot von Nackt-Tools sollte für die Regierung eine Priorität in dieser Legislaturperiode sein. Außerdem sollte das Gesetz zur Online-Sicherheit durch Verhaltenskodizes zu geschlechtsspezifischen Schäden und Kindesmissbrauch gestärkt werden.
- Technologieunternehmen müssen härter durchgreifen, indem sie den Zugriff auf Nudifying-Tools in Suchmaschinen und App-Stores sperren.
- Der nationale Lehrplan soll aktualisiert werden, um die Vermittlung kritischer Medienkompetenz in den Lehrplan zu integrieren.
Zeitgleich mit dem heutigen Bericht und zur Unterstützung des Berichts startet Internet Matters neue Ressourcen, einschließlich Expertenratschlägen für Eltern zum Schutz ihrer Kinder vor Deepfakes.
Carolyn Bunting MBE, Co-CEO von Internet Matters, sagte:
„KI hat es möglich gemacht, mit wenigen Mausklicks hochrealistische Deepfakes von Kindern zu erstellen. Nackt-Deepfakes sind ein tiefgreifender Eingriff in die körperliche Autonomie und Würde und ihre Auswirkungen können lebensverändernd sein. Da Nackt-Tools sich größtenteils auf Frauen konzentrieren, wirken sie sich überproportional auf Mädchen aus.
„Kinder haben uns von ihrer Angst erzählt, dass ihnen so etwas ohne ihr Wissen und von Menschen passieren könnte, die sie nicht kennen. Sie sehen den Missbrauch von Deepfake-Bildern als potenziell größere Verletzung an, weil sie ihn nicht kontrollieren können.
„Der Missbrauch von Deepfakes kann jedem jederzeit passieren. Eltern sollten mit diesem besorgniserregenden Problem nicht allein gelassen werden. Es ist an der Zeit, dass Regierung und Industrie Maßnahmen ergreifen, um dies zu verhindern, indem sie gegen die Unternehmen vorgehen, die diese Tools herstellen und vertreiben, mit denen Kinder missbraucht werden.“
