Cos'è l'intelligenza artificiale per spogliarsi? Guida per genitori e tutori

Sebbene il funzionamento di ciascuna app o sito Web possa variare, tutti offrono questo servizio simile. Sebbene l'immagine manipolata non mostri effettivamente il vero corpo nudo della vittima, può implicarlo.

Gli autori dei reati che utilizzano strumenti di IA per spogliare potrebbero tenere le immagini per sé o condividerle più ampiamente. Potrebbero usare queste immagini per coercizione sessuale (sestorsione), bullismo/abuso o come forma di vendetta porno.

I bambini e i giovani subiscono ulteriori danni se qualcuno li "spoglia" utilizzando questa tecnologia. UN rapporto della Internet Watch Foundation ha trovato oltre 11,000 immagini di bambini potenzialmente criminali generate dall'intelligenza artificiale su un forum del dark web dedicato al materiale pedopornografico (CSAM). Hanno valutato circa 3,000 immagini come criminali.

L’IWF ha affermato di aver trovato anche “molti esempi di immagini generate dall’intelligenza artificiale con vittime conosciute e bambini famosi”. L’intelligenza artificiale generativa può creare immagini convincenti solo se apprende da materiale sorgente accurato. In sostanza, gli strumenti di intelligenza artificiale che generano materiale pedopornografico dovrebbero imparare da immagini reali che mostrano abusi sui minori.

Un sito di undress AI afferma che la loro tecnologia “non era destinata all’uso con soggetti di sesso maschile”. Questo perché hanno addestrato lo strumento utilizzando immagini femminili, il che è vero per la maggior parte di questi tipi di strumenti di intelligenza artificiale. Nel CSAM generato dall’intelligenza artificiale analizzato dalla Internet Watch Foundation, il 99.6% di essi presentava anche bambine.

Ricerca da Graphika ha evidenziato un aumento del 2000% dello spam nei link di riferimento per i servizi di undress AI nel 2023. Il rapporto ha inoltre rilevato che 34 di questi fornitori hanno ricevuto oltre 24 milioni di visitatori unici sui loro siti Web in un mese. Prevedono “ulteriori casi di danni online”, tra cui sextortion e CSAM.

Gli autori dei reati probabilmente continueranno a prendere di mira le ragazze e le donne piuttosto che i ragazzi e gli uomini, soprattutto se questi strumenti imparano principalmente dalle immagini femminili.

Tuttavia, il Ministero della Giustizia ha annunciato a nuova legge questa settimana questo cambierà la situazione. Secondo la nuova legge, coloro che creano immagini deepfake sessualmente esplicite di adulti senza il loro consenso saranno perseguiti. I condannati dovranno affrontare anche una “multa illimitata”.

Ciò contraddice a dichiarazione rilasciata all’inizio del 2024. Ha affermato che la creazione di un’immagine intima deepfake “non era sufficientemente dannosa o colpevole da costituire un reato”.

Fino all’anno scorso, gli autori del reato potevano creare ed condividere queste immagini (di adulti) senza infrangere la legge. comunque, il Legge sulla sicurezza online ha reso illegale la condivisione di immagini intime generate dall'intelligenza artificiale senza consenso nel gennaio 2024.

In generale, questa legge dovrebbe coprire qualsiasi immagine di natura sessuale. Ciò include quelli che presentano soggetti nudi o parzialmente nudi.

Una cosa da notare, tuttavia, è che questa legge si basa sull’intenzione di causare danni. Pertanto, una persona che crea un deepfake sessualmente esplicito deve farlo per umiliare o danneggiare in altro modo la vittima. Il problema è che è abbastanza difficile dimostrare l’intento. Pertanto, potrebbe essere difficile perseguire effettivamente i soggetti che creano deepfake sessualmente espliciti.