Con il perfezionamento dei generatori di immagini AI, anche la capacità di creare repliche realistiche di esseri umani è migliorata a passi da gigante. Generatori di immagini AI come Midjourney, Runway, Stable Diffusion e Dall-E di OpenAI sono solo alcune delle piattaforme in grado di creare immagini realistiche.
Queste piattaforme basate sul cloud, ampiamente disponibili al pubblico, hanno messo in atto importanti restrizioni, regole e controlli per evitare che i loro strumenti vengano utilizzati da soggetti malintenzionati per creare contenuti abusivi. Tuttavia, i sostenitori dell’IA cercano regolarmente modi per aggirare queste protezioni.
“È importante comunicare le realtà dell’IA CSAM al grande pubblico, perché dobbiamo discutere del lato oscuro di questa straordinaria tecnologia”, ha dichiarato nel rapporto Susie Hargreaves, CEO della fondazione.
Abbiamo scoperto manuali online progettati per aiutare i criminali a perfezionare i generatori di immagini AI per produrre immagini più realistiche di abusi sui minori. Ora che i criminali usano bambini veri come modelli per la generazione di immagini AI, i nostri esperti analisti affermano che è possibile creare nuove immagini… pic.twitter.com/kESw9nZEtD
– Internet Watch Foundation (IWF) (@IWFhotline) 25 ottobre 2023
L’IWF ha dichiarato che il suo “incubo peggiore” si è avverato e che ora sta perseguendo casi di CSAM generati dall’IA di vere vittime di abusi sessuali. Il gruppo britannico ha anche sottolineato le immagini di celebrità che sono state trascurate e manipolate per apparire come vittime di abusi, così come le foto falsificate dei bambini delle celebrità.
“Come se non bastasse le vittime sanno che i loro abusi possono essere condivisi in un angolo oscuro di Internet, ora corrono il rischio di trovarsi di fronte a nuove immagini di loro stessi che vengono abusati in un modo nuovo e orribile che non avrebbero potuto immaginare in precedenza”, ha detto Hargreaves.
Uno dei problemi principali della proliferazione del CSAM generato dall’intelligenza artificiale è che potrebbe distogliere le risorse delle forze dell’ordine dall’individuazione e dallo sradicamento degli abusi reali, ha dichiarato l’IWF.
Questo è un problema globale che richiede che i Paesi lavorino insieme e garantiscano che la legislazione sia adatta allo scopo”, ha dichiarato Hargreaves in una dichiarazione precedentemente rilasciata al TCN, sottolineando che l’IWF è riuscita a limitare il materiale pedopornografico nel suo Paese.
“Il fatto che meno dell’1% dei contenuti criminali sia ospitato nel Regno Unito testimonia le nostre eccellenti collaborazioni con le forze di polizia e le agenzie britanniche, e lavoreremo attivamente con le forze dell’ordine per combattere questa nuova allarmante tendenza”, ha aggiunto Hargreaves. Esortiamo il Primo Ministro britannico a inserire questo problema nell’agenda del Vertice mondiale sulla sicurezza dell’IWF che si terrà nel Regno Unito a novembre”.
Mentre l’IWF sostiene che lo smantellamento dei forum darkweb che ospitano CSAM illegale nel Regno Unito è in corso, il gruppo ha spiegato che lo smantellamento potrebbe essere più complicato se il sito è ospitato in altri Paesi.
Numerosi sforzi concertati sono in corso per combattere l’uso improprio dell’IA. A settembre, il presidente di Microsoft Brad Smith ha proposto di utilizzare politiche KYC modellate su quelle utilizzate dalle istituzioni finanziarie per aiutare a identificare i criminali che utilizzano modelli di IA per diffondere informazioni false e commettere abusi.
A luglio, lo stato americano della Louisiana ha approvato una legge che inasprisce le pene per la vendita e il possesso di materiale pedopornografico generato dall’IA. In base a questa legge, chiunque sia ritenuto colpevole di aver creato, distribuito o posseduto immagini deepfake illegali di minori rischia una pena detentiva obbligatoria da cinque a venti anni, una multa fino a 10.000 dollari o entrambe.
In agosto, il Dipartimento di Giustizia degli Stati Uniti ha aggiornato la pagina “Citizen’s Guide To U.S. Federal Law On Child Pornography”. In caso di confusione, il Dipartimento di Giustizia ha sottolineato che le immagini pedopornografiche non sono protette dal Primo Emendamento e sono illegali secondo la legge federale.
