Justin T. Brown, editor de vídeo e satírico político de Los Angeles, encontrou-se no centro de um debate polémico graças às suas imagens geradas por IA que retratam políticos proeminentes como Donald Trump, Barack Obama e Joe Biden envolvidos em infidelidades fictícias.
A sua série provocadora, baptizada “A IA vai revolucionar a indústria da chantagem”, rapidamente foi alvo de críticas, o que levou à expulsão de Brown da plataforma de arte Midjourney AI, que utilizou para gerar as imagens.
Brown disse que as imagens foram concebidas como um aviso sobre o potencial uso indevido da inteligência artificial.
Esta não é a primeira vez que imagens geradas por IA suscitam polémica. O TCN já tinha produzido imagens humorísticas de Joe Biden com uma precisão notável, mas foi poupado a acções punitivas pela equipa do Midjourney. No entanto, outros utilizadores que geraram imagens de figuras importantes, como o Papa e o presidente da China, não tiveram tanta sorte e foram imediatamente banidos.
Fui banido do Midjourney AI por ter gerado imagens realistas de políticos a trair as suas mulheres para uma série chamada “A IA vai revolucionar a indústria da chantagem”
Algumas ideias sobre imagens de IA de alguém que é bom a fazer coisas falsas
Trump a trair a sua mulher: pic.twitter.com/HjxBj7qdaR
– JustinTBrown (@JuuustinBrown) May 26, 2023
Depois de ganhar alguma força no Reddit, a série foi removida pelos moderadores e a proibição do Midjourney seguiu-se quase imediatamente”, comentou.
A proibição levou Brown a expressar emoções mistas. Por um lado, considerou que a sanção era um indicador de um certo nível de responsabilidade aplicada aos utilizadores que geram conteúdos nocivos. Por outro lado, levantou uma questão pungente: “Fui banido meses depois de ter feito as imagens, por isso, quando se gera conteúdo nocivo, não será já demasiado tarde?”
Isto é especialmente importante na política, como Brown advertiu.
“Uma campanha de desinformação com IA pouco antes do dia das eleições pode definitivamente influenciar uma eleição. As imagens ou vídeos de IA certos no momento certo podem afundar o mercado, causar um motim ou mandar alguém para uma pizzaria com uma arma”.
O potencial da inteligência artificial para espalhar desinformação é a principal preocupação de Brown. “Este tipo de desinformação vai continuar a acontecer, da próxima vez por parte de pessoas más com más intenções, por isso é melhor começarmos a controlar isto agora”, salientou, reconhecendo a necessidade de um debate internacional sobre esta tecnologia.
O New York Times também deu destaque a esta questão, revelando que os regulamentos da campanha permitiram que os políticos utilizassem imagens geradas por IA antes das eleições presidenciais de 2024. Também informou que as defesas e os serviços existentes que afirmam identificar o conteúdo da IA têm sido amplamente ineficazes.
Um dos seguidores de Brown respondeu com as suas preocupações, expressando apreensão sobre o potencial uso indevido da IA.
“Acho que tens razão quanto aos perigos. O Partido Republicano já utilizou a IA num anúncio. Não como chantagem, mas mostra que a IA pode ser usada para operações rápidas. Seria melhor se as redes sociais tivessem moderação universal contra a desinformação e contas verificadas para toda a imprensa respeitável, organizações governamentais, políticos. “
Bernie, noo
Acho que tens razão quanto aos perigos. O Partido Republicano já usou a IA num anúncio. Não como chantagem, mas mostra que a IA pode ser usada para operações rápidas. Melhor se as mídias sociais tivessem moderação universal contra desinformação & contas verificadas para toda a imprensa respeitável, organizações governamentais, pols.
– Patrick Scott Bruck Veja para ajudar nossa família! (@PatrickSBruck) 26 de maio de 2023
Ele estava a referir-se a uma série de anúncios políticos em que o partido republicano dos EUA utilizou o MidJourney para “imaginar” um futuro com Biden reeleito como presidente. Houve também rumores de que a IA teria sido utilizada para ajustar um anúncio de campanha de Ron de Santis, mas a sua campanha revelou que não foi esse o caso.
Por seu lado, Donald Trump também criou uma conversa falsa entre Elon Musk, Adolf Hitler e Ron de Santis para gozar com o anúncio deste último de que estava a aspirar a tornar-se candidato presidencial do Partido Republicano.
Numa era digital repleta de desinformação e de má utilização desenfreada da tecnologia, as palavras de Brown soam assustadoramente verdadeiras,
“Acho que é só prepararmo-nos para o impacto. Talvez fazer algo de útil com ela”, disse.
Neste turbilhão de IA, arte e ética, há uma certeza: a linha entre a realidade e as imagens geradas por IA está a esbater-se mais depressa do que conseguimos dizer “Photoshop”.
