Mucha gente está recibiendo este anuncio deepfake de mí… ¿están las plataformas de medios sociales preparadas para manejar el aumento de deepfakes de IA? Es un problema grave pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) 3 de octubre de 2023
«No lo son, como tampoco lo es la democracia», respondió la presentadora de podcasts, divulgadora científica y campeona de póquer Liv Boeree.
Un deepfake es un contenido de vídeo o audio creado con inteligencia artificial generativa que representa acontecimientos falsos pero está hecho de manera que se confunde fácilmente con contenido legítimo y genuino.
La preocupación en torno a los deepfakes generados por IA ha hecho que líderes mundiales, responsables políticos y fuerzas de seguridad se hagan eco de la opinión de Boeree y den la voz de alarma.
El Sr. Beast, cuyo nombre real es James Donaldson, es solo la última celebridad que ha visto su imagen utilizada en una estafa o campaña en línea sin su permiso. El domingo, el legendario actor Tom Hanks utilizó Instagram para advertir a sus seguidores de una campaña publicitaria de un plan dental que utilizaba una versión generada por inteligencia artificial del actor ganador del Oscar. Por su parte, la hija del fallecido Robin Williams también denunció en Instagram las campañas que utilizaban una réplica de la voz de su padre en contenido comercial.
Varias personalidades del mundo de la información también han aparecido en contenidos virales deepfake, como Gayle King, de CBS, Tucker Carlson, de Fox News, y Bill Maher, de HBO.
Los intereses más lascivos también están siendo cortejados, con los rostros de actrices como Taylor Swift, Natalie Portman y Emma Watson cada vez más explotados en la pornografía deepfake, según un informe del domingo del Daily Mail. Citando a la empresa de seguridad ActiveFence, el informe afirmaba que la cantidad de pornografía deepfake de famosos había aumentado un 87% con respecto al año pasado, y que los particulares estaban siendo explotados un 400% más.
El Sr. Beast aún no ha respondido a la solicitud de TCN para hacer comentarios.
AI es uno de los temas clave en las negociaciones en curso entre SAG-AFTRA y la Alianza de Productores de Cine y Televisión (AMPTP). Y algunos actores están llevando el asunto de los deepfakes de IA a los tribunales y ganando.
El mes pasado, el popular actor indio Anil Kapoor ganó una sentencia en el Tribunal Superior de Delhi contra el uso no autorizado de su nombre, imagen y voz. Y aunque Tom Cruise no se ha pronunciado públicamente al respecto, el año pasado se hizo viral un deepfake de él subido a las redes sociales.
El equipo detrás de los vídeos «Deep Tom Cruise» fundó la empresa de desarrollo de IA Metaphysic AI.
Fundada en 2021 por Chris Ume, Kevin Ume, Miles Fisher, Tom Graham y Martin Adams, Metaphysic, con sede en Londres, apareció en «America’s Got Talent» en septiembre del año pasado, cuando su tecnología presentó a un Elvis Presley generado por IA en una actuación de una sola noche.
Metaphysic afirma que, además de Tom Hanks, otros artistas -entre ellos Anne Hathaway y Octavia Spencer- han utilizado su tecnología para crear y almacenar las características necesarias para crear un avatar digital legal de su imagen.
Los representantes de Hanks, Spencer y Hathaway han declinado o no han respondido a la petición de TCN de hacer comentarios.
En agosto, la cantante Selena Gomez fue objeto de un deepfake de IA publicado en Instagram que incluía una versión falsa de la intérprete cantando una remezcla de «Starboy» de The Weeknd.
The Weeknd también fue objeto de una colaboración deepfake generada por IA con una réplica falsa de Drake para la canción «Heart on My Sleeve», que la Academia de la Grabación decidió que no era elegible para un premio Grammy después de que se hiciera viral a principios de este año.
