I criminali informatici hanno intensificato l’uso di strumenti di intelligenza artificiale per creare deepfakes di celebrità, appropriandosi delle loro sembianze per ingannare i loro fan e sottrarre loro denaro e criptovaluta. Un rapporto afferma che tali contenuti sono cresciuti dell’87% nell’ultimo anno.
Lunedì il gigante di YouTube Mr. Beast ha comunicato ai suoi oltre 24 milioni di follower su Twitter di essere stato vittima di uno di questi schemi e si è chiesto se le aziende tecnologiche siano in grado di fermarli.
“Molte persone stanno ricevendo questa truffa deepfake nei miei confronti”, ha scritto Mr. Beast. “Le piattaforme dei social media sono pronte a gestire l’aumento dei deepfake dell’intelligenza artificiale? “
Molte persone stanno ricevendo questa pubblicità truffaldina di me… le piattaforme dei social media sono pronte a gestire l’aumento dei deepfake dell’intelligenza artificiale? È un problema serio pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) 3 ottobre 2023
Non lo sono, e non lo è nemmeno la democrazia”, ha risposto la conduttrice di podcast, divulgatrice scientifica e campionessa di poker Liv Boeree.
Un deepfake è un contenuto video o audio creato con l’intelligenza artificiale generativa che rappresenta eventi falsi, ma in modo da essere facilmente confuso con contenuti legittimi e autentici.
La preoccupazione per i deepfake generati dall’intelligenza artificiale ha spinto leader mondiali, politici e forze dell’ordine a fare eco al sentimento di Boeree e a lanciare l’allarme.
Mr. Beast, il cui vero nome è James Donaldson, è solo l’ultima celebrità a cui è stata usata la propria immagine in una truffa o campagna online senza il suo permesso. Domenica, il leggendario attore Tom Hanks ha scritto su Instagram per mettere in guardia i suoi fan da una campagna pubblicitaria di un piano dentistico che utilizzava una versione generata dall’intelligenza artificiale dell’attore premio Oscar. Nel frattempo, un post su Instagram della figlia del defunto Robin Williams ha denunciato le campagne che utilizzano una replica della voce del padre nei contenuti commerciali.
Anche diversi personaggi del mondo dell’informazione televisiva sono apparsi in contenuti virali deepfake, tra cui Gayle King della CBS, Tucker Carlson di Fox News e Bill Maher della HBO.
Secondo un articolo pubblicato domenica dal Daily Mail, anche gli interessi più ruffiani sono in corso: le immagini di attrici come Taylor Swift, Natalie Portman ed Emma Watson sono sempre più sfruttate nella pornografia deepfake. Citando la società di sicurezza ActiveFence, il rapporto afferma che la quantità di pornografia deepfake di celebrità è cresciuta dell’87% rispetto allo scorso anno e che i privati sono stati sfruttati in misura maggiore del 400%.
Mr. Beast non ha ancora risposto alla richiesta di commento di TCN.
L’AI è uno dei punti chiave delle trattative in corso tra la SAG-AFTRA e l’Alliance of Motion Picture and Television Producers (AMPTP). Alcuni attori stanno portando la questione dei deepfakes dell’IA in tribunale e stanno vincendo.
Il mese scorso, il popolare attore indiano Anil Kapoor ha vinto una sentenza dell’Alta Corte di Delhi contro l’uso non autorizzato del suo nome, della sua immagine e della sua voce. Anche se Tom Cruise non ne ha parlato pubblicamente, l’anno scorso un suo deepfake è diventato virale dopo essere stato caricato sui social media.
Il team dietro i video di “Deep Tom Cruise” ha fondato l’azienda di sviluppo di intelligenza artificiale Metaphysic AI.
Lanciata nel 2021 da Chris Ume, Kevin Ume, Miles Fisher, Tom Graham e Martin Adams, Metaphysic, con sede a Londra, è stata presentata ad “America’s Got Talent” nel settembre dello scorso anno, quando la sua tecnologia ha mostrato un Elvis Presley generato dall’intelligenza artificiale per un’esibizione di una sola notte.
Metaphysic afferma che, oltre a Tom Hanks, altri artisti, tra cui Anne Hathaway e Octavia Spencer, hanno utilizzato la sua tecnologia per creare e memorizzare le caratteristiche necessarie a creare un avatar digitale legale delle loro sembianze.
I rappresentanti di Hanks, Spencer e Hathaway hanno rifiutato o non hanno risposto alla richiesta di commento del TCN.
Gli attori non sono gli unici a ricevere il trattamento dell’intelligenza artificiale: ad agosto, la cantante Selena Gomez è stata oggetto di un deepfake audio dell’intelligenza artificiale postato su Instagram, che presentava una versione falsa dell’artista che cantava una versione remix di “Starboy” di The Weeknd.
The Weeknd è stato anche oggetto di un deepfake generato dall’AI per la collaborazione con una falsa replica di Drake per la canzone “Heart on My Sleeve”, che la Recording Academy ha deciso di non candidare ai Grammy dopo che è diventata virale all’inizio di quest’anno.
