L’IA generativa permette agli utenti di creare falsi di ogni tipo. Negli ultimi giorni hanno fatto il giro del web immagini false dell’ex presidente Donald Trump che scappa dalla polizia, del presidente russo Putin che coccola un gattino e persino del Papa con un cappotto bianco di Balenciaga. Cosa non si può fare?
Non si può fare un’immagine del presidente cinese Xi Jinping, almeno non sulla piattaforma di intelligenza artificiale generativa Midjourney.
Per rallentare la diffusione dei deep fake online, la scorsa settimana Midjourney ha dichiarato che avrebbe terminato la versione di prova gratuita, ma la piattaforma è ancora in grado di generare immagini di leader mondiali, con il presidente cinese come notevole eccezione. Se provate a farlo, Midjourney, una società con sede a San Francisco, vi dirà che è proibito. Non si può nemmeno usare il nome del presidente cinese in un prompt:
I critici sostengono che il divieto costituisca una forma di censura, che mina i principi fondamentali della libertà di parola e di espressione.
“Il modo in cui il mondo opera oggi, e quanto tutti noi siamo strettamente interconnessi, fa sì che le leggi sulla libertà di parola siano importanti altrove”, ha dichiarato in un’intervista a TCN Sarah McLaughlin, studiosa senior presso la Foundation for Individual Rights and Expression (FIRE). “Quel mercato o quel governo potrebbero essere abbastanza potenti da influenzare il modo in cui operano le aziende americane”.
McLaughlin ha citato l’hacking della Sony del 2015, che ha rivelato che una scena della distruzione della Grande Muraglia cinese è stata rimossa dalla copia di produzione del film di Adam Sandler “Pixels”, per il timore che potesse danneggiare il successo del film al botteghino in Cina.
FIRE è un’organizzazione no-profit con sede a Philadelphia che difende i diritti di libertà di parola negli Stati Uniti, con particolare attenzione ai campus universitari. La fondazione, ha aggiunto McLaughlin, si è recentemente ampliata per diventare un “gruppo che si occupa di libertà di parola e Primo Emendamento”.
McLaughlin ha detto che le persone tendono a commettere l’errore di considerare la censura internazionale come irrilevante per loro.
Quando l’anno scorso la questione della censura è emersa sul server Discord di Midjourney, l’amministratore delegato di Midjourney David Holz ha dichiarato che l’azienda vuole ridurre al minimo i drammi.
“Non c’è nessuna macchinazione malvagia, fondamentalmente vogliamo solo minimizzare il dramma”, ha detto Holz quando ha affrontato la questione lo scorso giugno.
Fare foto di Trump che viene arrestato mentre si aspetta l’arresto di Trump. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) March 20, 2023
In un post del giugno 2022 sul server Discord di Midjourney, Holz ha sottolineato la differenza nel modo in cui la satira politica viene accolta nei Paesi occidentali rispetto alla Cina e ha riconosciuto che la satira politica tipica dell’Occidente potrebbe causare problemi in Cina e persino mettere in pericolo gli utenti.
Esiste una lunga storia di creazione di immagini satiriche dei leader mondiali, soprattutto negli Stati Uniti, dove la libertà di parola e di espressione è sancita dalla Costituzione americana, ma non è così in altri Paesi.
“Non è solo una questione di legge americana contro legge cinese”, ha detto McLaughlin. “È più complesso di così e potremmo scoprire che gli strumenti che utilizziamo finiscono per seguire le leggi di altri Paesi anziché le nostre, in modi che non avevamo previsto”.
Holz ha suggerito che il bene maggiore è permettere ai cinesi di usare la tecnologia piuttosto che incoraggiare la satira politica.
“Penso che le persone in Cina che usano questa tecnologia spostino l’ago della bilancia nel mondo in generale in una [direzione] positiva”, ha detto Holz. “Persone a caso che fanno satira politica cinese non aggiungono molto a nulla: l’analisi costi-benefici sembra chiara”.
I sostenitori di queste restrizioni possono affermare che sono necessarie per prevenire la diffusione della disinformazione e il potenziale abuso della tecnologia AI. Nonostante le restrizioni sulle immagini del Presidente Xi, tuttavia, McLaughlin non ritiene che la permanenza di MidJounrey in Cina sia molto lunga.
“Non mi sorprenderebbe se la Cina alla fine ne bloccasse l’accesso, nonostante le restrizioni, dato che tende a escludere le aziende occidentali”, ha dichiarato.
McLaughlin ha affermato che ciò che Midjourney sta facendo è fuori dalla norma, citando la recente decisione di Twitter di censurare i contenuti in India.
“Twitter ha affrontato di recente problemi di censura in India, con la richiesta del governo di censurare un documentario della BBC sul Primo Ministro Modi”, ha detto McLaughlin. “Twitter ha bloccato il contenuto solo in India, non a livello globale. Mid-Journey, invece, sta facendo in modo che tutti non possano usare il nome di Xi Jinping, il che rappresenta un’escalation rispetto al semplice blocco degli utenti cinesi. “
