A inteligência artificial generativa permite aos utilizadores criar todo o tipo de falsificações. Nos últimos dias, fotos falsas do ex-Presidente Donald Trump fugindo da polícia, do Presidente russo Putin acariciando um gatinho, e até do Papa num casaco branco de balenciaga fizeram ricochete na web. O que não se pode fazer?
Não se pode fazer uma fotografia do Presidente chinês Xi Jinping- pelo menos não na plataforma generativa AI Midjourney.
Para abrandar a propagação de falsificações profundas online, Midjourney disse na semana passada que terminaria a sua versão experimental gratuita, mas a plataforma ainda pode gerar imagens de líderes mundiais – sendo o Presidente chinês uma notável excepção. Tente fazê-lo, e Midjourney, uma empresa com sede em São Francisco, diz-lhe que é verboten. Não pode sequer usar o nome do presidente chinês num prompt:
Os críticos argumentam que a proibição constitui uma forma de censura, minando os princípios fundamentais da liberdade de expressão e de expressão.
“A forma como o mundo funciona actualmente, e quão estreitamente interligados estamos todos nós, importa o que as leis da fala são noutros lugares”, disse Sarah McLaughlin, Bolseira Sénior da Fundação para os Direitos e Expressão Individual (FIRE), numa entrevista ao TCN. “Esse mercado ou esse governo podem ser suficientemente poderosos para afectar a forma como as empresas americanas operam”.
McLaughlin apontou para o hack 2015 da Sony, que revelou que uma cena da Grande Muralha da China a ser destruída foi retirada da cópia de produção do filme de Adam Sandler “Pixels”, devido à preocupação de que iria prejudicar o sucesso de bilheteira do filme na China.
FIRE é uma organização sem fins lucrativos com sede na Filadélfia que defende os direitos de liberdade de expressão nos Estados Unidos, com enfoque nos campus universitários. A fundação, acrescentou McLaughlin, expandiu-se recentemente para se tornar um “grupo de liberdade de expressão para todos os fins e Primeira Emenda”.
McLaughlin disse que as pessoas tendem a cometer o erro de descartar a censura internacional como irrelevante para elas.
Quando a questão da censura apareceu no servidor da Midjourney Discord no ano passado, o CEO da Midjourney David Holz disse que a empresa quer minimizar o drama.
“Não há esquemas maléficos – basicamente, só queremos minimizar o drama”, disse Holz ao abordar o assunto em Junho passado.
“Não há esquemas maléficos – basicamente, só queremos minimizar o drama”, disse Holz ao abordar o assunto em Junho passado.
Fazendo fotos de Trump a ser preso enquanto espera pela prisão de Trump. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) Março 20, 2023
Num post de Junho de 2022 no servidor Midjourney Discord, Holz salientou a diferença na forma como a sátira política é recebida nas nações ocidentais em comparação com a China, e reconheceu que a sátira política típica do Ocidente pode causar problemas na China e pode mesmo pôr em perigo os utilizadores.
Existe uma longa história de criação de imagens satíricas de líderes mundiais, especialmente nos Estados Unidos, onde a liberdade de expressão está consagrada na Constituição dos EUA, mas não o está noutros países.
“Não é apenas uma questão de lei americana versus lei chinesa”, disse McLaughlin. “É mais complexo do que isso, e podemos descobrir que as ferramentas que utilizamos acabam por seguir as leis de outros países em vez das nossas, de formas que não antecipávamos”
Holz sugeriu que o bem maior é permitir que o povo chinês utilize a tecnologia em vez de encorajar a sátira política.
“Penso que as pessoas na China que utilizam esta tecnologia movem [a] agulha no mundo em geral numa [direcção] positiva”, disse Holz. “As pessoas aleatórias aqui a fazer sátira política chinesa fazem muito pouco para acrescentar a qualquer coisa – a análise custo-benefício parece clara”.
Os apoiantes destas restrições podem dizer que são necessárias para impedir a disseminação da desinformação e o potencial abuso da tecnologia da IA. Apesar da restrição de imagens do Presidente Xi, porém, McLaughlin não vê o tempo de MidJounrey na China durar muito tempo.
“Não me surpreenderia se a China acabasse por bloquear o acesso ao mesmo, apesar das restrições, uma vez que tendem a excluir empresas ocidentais”, disse ela.
McLaughlin disse que o que Midjourney está a fazer está fora da norma, citando uma decisão recente do Twitter de censurar conteúdo na Índia.
“O Twitter enfrentou recentemente questões de censura na Índia, com exigências governamentais para censurar um documentário da BBC sobre o Primeiro-Ministro Modi”, disse McLaughlin. “O Twitter bloqueou o conteúdo apenas na Índia, não globalmente. Por outro lado, a meio da jornada, está a fazer com que todos não possam usar o nome de Xi Jinping, o que é uma escalada do simples bloqueio dos utilizadores chineses”.
