Os cibercriminosos começaram a usar ferramentas de IA para criar deepfakes de celebridades, aproveitando-se de suas semelhanças para enganar seus fãs e tirar seu dinheiro e criptomoeda – com um relatório afirmando que esse conteúdo cresceu 87% no ano passado.
Na segunda-feira, o gigante do YouTube, Mr. Beast, notificou seus mais de 24 milhões de seguidores no Twitter que ele havia sido vítima de um desses esquemas – e questionou se as empresas de tecnologia eram capazes de detê-los.
“Muitas pessoas estão a receber este anúncio de fraude deepfake de mim”, escreveu Mr. “As plataformas das redes sociais estão prontas para lidar com o aumento dos deepfakes de IA? “
Muitas pessoas estão a receber este meu anúncio fraudulento de deepfake… as plataformas de redes sociais estão prontas para lidar com o aumento de deepfakes de IA? Este é um problema sério pic.twitter.com/llkhxswQSw
– MrBeast (@MrBeast) October 3, 2023
“Não são, e a democracia também não”, respondeu Liv Boeree, apresentadora de podcast, divulgadora científica e campeã de póquer.
Um deepfake é um conteúdo de vídeo ou áudio criado com inteligência artificial generativa que retrata eventos falsos, mas é feito de forma a ser facilmente confundido com conteúdo legítimo e genuíno.
A preocupação em torno dos deepfakes gerados por IA faz com que os líderes mundiais, os decisores políticos e as forças da ordem façam eco do sentimento de Boeree e façam soar o alarme.
O Sr. Beast, cujo nome verdadeiro é James Donaldson, é apenas a mais recente celebridade a ver a sua imagem utilizada numa fraude ou campanha online sem a sua autorização. No domingo, o lendário ator Tom Hanks recorreu ao Instagram para avisar os seus fãs de uma campanha publicitária de um plano dentário que utilizava uma versão gerada por inteligência artificial do ator vencedor de um Óscar. Entretanto, uma publicação no Instagram da filha do falecido Robin Williams também criticou as campanhas que utilizavam uma réplica da voz do seu pai em conteúdos comerciais.
Várias personalidades do noticiário televisivo também apareceram em conteúdos virais de deepfake, incluindo Gayle King, da CBS, Tucker Carlson, da Fox News, e Bill Maher, da HBO.
Os interesses mais puritanos também estão a ser cortejados, com as imagens de actrizes como Taylor Swift, Natalie Portman e Emma Watson a serem cada vez mais exploradas na pornografia deepfake, de acordo com um relatório de domingo do Daily Mail. Citando a empresa de segurança ActiveFence, o relatório afirma que a quantidade de pornografia deepfake de celebridades cresceu 87% em relação ao ano passado – e os particulares estavam a ser explorados 400% mais.
O Sr. Beast ainda não respondeu ao pedido de comentário do TCN.
O AI é uma das questões-chave nas negociações em curso entre o SAG-AFTRA e a Aliança de Produtores de Cinema e Televisão (AMPTP). E alguns actores estão a levar a questão dos deepfakes de IA a tribunal e a ganhar.
No mês passado, o popular ator indiano Anil Kapoor ganhou uma sentença no Supremo Tribunal de Deli contra a utilização não autorizada do seu nome, imagem e voz. E embora Tom Cruise não tenha falado publicamente sobre o assunto, um deepfake de IA dele tornou-se viral no ano passado depois de ter sido carregado nas redes sociais.
A equipa por trás dos vídeos “Deep Tom Cruise” fundou a empresa de desenvolvimento de IA Metaphysic AI.
Lançada em 2021 por Chris Ume, Kevin Ume, Miles Fisher, Tom Graham e Martin Adams, a Metaphysic, sediada em Londres, foi apresentada no programa “America’s Got Talent” em setembro do ano passado, quando a sua tecnologia apresentou um Elvis Presley gerado por IA para uma atuação de uma noite apenas.
A Metaphysic afirma que, para além de Tom Hanks, outros artistas – incluindo Anne Hathaway e Octavia Spencer – utilizaram a sua tecnologia para criar e armazenar as características necessárias para criar um avatar digital legal à sua semelhança.
Os representantes de Hanks, Spencer e Hathaway recusaram ou não responderam ao pedido de comentário da TCN.
Os atores não são os únicos artistas que recebem o tratamento de IA: em agosto, a cantora Selena Gomez foi o assunto de um deepfake de áudio AI postado no Instagram que apresentava uma versão falsa do artista cantando uma versão remix de “Starboy” do The Weeknd.
The Weeknd foi também objeto de uma colaboração deepfake gerada por IA com uma réplica falsa de Drake para a canção “Heart on My Sleeve”, que a Academia de Gravação decidiu não ser elegível para um prémio Grammy depois de se ter tornado viral no início deste ano.
