Midjourney, l’azienda che sta dietro all’omonimo e popolare generatore di immagini AI text-to-image, ha chiuso l’accesso alla sua versione di prova gratuita in seguito a un aumento dei deep fake virali generati dalla sua tecnologia.
“A causa di una combinazione di domanda straordinaria e abuso di prova, stiamo temporaneamente disabilitando le prove gratuite fino a quando non avremo implementato i nostri prossimi miglioramenti al sistema”, ha scritto il fondatore di Midjourney David Holz sul server Discord dell’azienda all’inizio di questa settimana.
Un “deep fake” è un media dall’aspetto realistico creato dall’intelligenza artificiale alterando immagini, video o audio per mostrare persone reali che fanno o dicono cose che non hanno mai fatto. Sebbene i deep fake possano essere usati per divertimento e intrattenimento, la tecnologia può anche diffondere informazioni false, influenzare le opinioni o danneggiare la reputazione.
Sul subreddit Midjourney sta accadendo qualcosa di selvaggio.
Le persone raccontano storie e condividono foto di eventi storici, come il terremoto della “Grande Cascadia” che ha devastato l’Oregon nel 2001.
Il bello? Non è mai accaduto. Le immagini sono generate dall’intelligenza artificiale. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) 26 marzo 2023
All’inizio di questa settimana hanno fatto il giro del web le foto di Papa Francesco con indosso un elegantissimo giubbotto bianco e una collana tempestata di diamanti. La scorsa settimana, mentre i siti di informazione mainstream riportavano la notizia che l’ex presidente degli Stati Uniti Donald Trump stava per essere arrestato a New York, è diventata virale una serie di foto che sembravano mostrare l’ex presidente inseguito dalla polizia. In entrambi i casi, le immagini sembravano ancora più credibili di altri falsi simili creati da esperti con Photoshop.
Fare foto di Trump che viene arrestato in attesa dell’arresto di Trump. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) March 20, 2023
Molti siti di IA generativa, tra cui Midjourney e Playground AI, hanno già introdotto restrizioni sui suggerimenti che includono contenuti sessuali. Tuttavia, la questione di cosa sia un uso accettabile per quanto riguarda i deep fake è ancora dibattuta, dato che tutti questi siti producono fotografie che non sono reali.
I piani di abbonamento a Midjourney vanno da 10 a 60 dollari al mese, a seconda della potenza di elaborazione e delle funzionalità richieste dall’utente, compresa la possibilità di eseguire lavori simultanei. La piattaforma offre anche piani di abbonamento annuali.
Non è chiaro come la chiusura del livello gratuito possa risolvere il problema. I termini di servizio di Midjourney vietano già le immagini offensive di celebrità o personaggi pubblici.
Il tema del Papa moderno generato dall’AI (midjourney) ci sta sfuggendo di mano
Prompts in ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) March 28, 2023
TCN ha contattato Midjourney e Stability AI, i creatori di Stable Diffusion, per un commento ma non ha ancora ricevuto risposta.
