Il nuovo volto dell'abuso digitale
Le esperienze dei bambini con i deepfake di nudo
L'avvento degli strumenti di intelligenza artificiale generativa ha notevolmente aumentato la facilità di produzione di deepfake realistici a sfondo sessuale, con i deepfake di nudo che costituiscono circa il 98% di tutti i deepfake.
Il 99% dei deepfake di nudo ritraggono donne e ragazze. Esplora il nostro report qui sotto che esamina l'aumento dei deepfake nelle aule e i nostri consigli su come affrontare la questione.
Informazioni sulla nostra ricerca sui deepfake nudi
I giovani affrontano un sacco di cambiamenti sociali ed emotivi durante l'adolescenza: stanno capendo chi sono, come identificare e gestire le proprie emozioni e stanno sviluppando un senso di come si inseriscono in gruppi di pari più ampi. Data l'importanza della tecnologia nella vita moderna, alcuni di questi cambiamenti si verificano negli spazi online.
Quindi, se vogliamo supportare i giovani durante gli alti e bassi dell'adolescenza, è fondamentale capire in che modo le piattaforme online influenzano il loro sviluppo.
Principali risultati
La maggior parte delle famiglie ha poca o nessuna conoscenza dei deepfake.
Quasi due terzi dei bambini e quasi la metà dei genitori affermano di non conoscere o comprendere il termine "deepfake".
Gli strumenti per la nudità vengono utilizzati per abusare sessualmente dei bambini.
Sebbene la maggior parte dei siti di nudità proibisca la produzione di immagini sessuali deepfake che ritraggano bambini, queste barriere sono spesso facili da aggirare.
I ragazzi e i bambini vulnerabili hanno maggiori probabilità di interagire con un deepfake di nudo.
I ragazzi adolescenti hanno il doppio delle probabilità rispetto alle ragazze adolescenti di segnalare esperienze con un deepfake di nudo. Il 25% dei bambini vulnerabili afferma di aver avuto esperienze con un deepfake di nudo, rispetto all'11% dei bambini non vulnerabili.
Il volume dei deepfake è cresciuto rapidamente online.
Le prove suggeriscono che la maggior parte dei deepfake viene utilizzata per scopi dannosi. Inoltre, è difficile stabilire la vera portata dei deepfake che circolano online.
Gli adolescenti ritengono che gli abusi nei deepfake di nudo siano peggiori degli abusi sessuali effettuati tramite immagini reali.
Le motivazioni addotte dagli adolescenti includevano la mancanza di autonomia o di consapevolezza dell'immagine, l'anonimato dell'autore, il modo in cui l'immagine avrebbe potuto essere manipolata e il timore che le persone potessero pensare che l'immagine fosse reale.
Le famiglie concordano sul fatto che il governo e l'industria debbano fare di più per contrastare il fenomeno dei deepfake di nudo.
La maggior parte degli adolescenti e dei genitori ritiene che gli strumenti per la nudizzazione dovrebbero essere vietati a tutti nel Regno Unito, compresi gli adulti. Le famiglie concordano anche sul fatto che sia necessaria una maggiore istruzione sull'argomento.
Gli strumenti di Nudify sono ampiamente disponibili online.
Questi modelli di intelligenza artificiale che estraggono i vestiti dalle immagini di persone reali, compresi i bambini, sono diventati più comuni con lo sviluppo della GenAI.
Un numero significativo di bambini ha avuto esperienze con un deepfake di nudo.
Il 13% degli adolescenti afferma di aver avuto qualche tipo di esperienza con i deepfake di nudo, il che equivale a circa 4 bambini in una classe di 30 o quasi mezzo milione di adolescenti nel Regno Unito.
Sono necessari interventi legislativi e da parte dell'industria per proteggere i bambini dagli abusi sessuali deepfake.
Non ci si può e non si deve pretendere che genitori e scuole proteggano i bambini da soli. Chiediamo al Governo di vietare gli strumenti per nudificare come priorità in questo Parlamento.
