Midjourney, a empresa por detrás do popular eponímico gerador de imagem AI texto-imagem, fechou o acesso à sua versão experimental gratuita na sequência de um aumento de falsificações virais profundas geradas pela sua tecnologia.
“Devido a uma combinação de procura extraordinária e abuso de testes, estamos temporariamente a desactivar os testes gratuitos até termos as nossas próximas melhorias no sistema implantado”, escreveu o fundador da Midjourney David Holz no servidor Discord da empresa no início desta semana.
Uma “falsificação profunda” é um meio de comunicação de aspecto realista criado pela IA, alterando imagens, vídeos, ou áudio para mostrar pessoas reais a fazer ou a dizer coisas que nunca fizeram. Embora as falsificações profundas possam ser usadas para diversão e entretenimento, a tecnologia também pode espalhar informação falsa, influenciar opiniões, ou prejudicar reputações.
Algo selvagem está a acontecer no subredito de Midjourney.
As pessoas estão a contar histórias e a partilhar fotos de acontecimentos históricos – como o terramoto “Grande Cascadia” que devastou Oregon em 2001.
O kicker? Nunca aconteceu. As imagens são geradas por IA. pic.twitter.com/2ziHJYsTDK
– Justine Moore (@venturetwins) 26 de Março de 2023
Esta semana, fotos do Papa Francisco vestindo um casaco de puffer branco super-estiloso e um colar incrustado com diamantes varreram a teia. Na semana passada, quando os principais sites de notícias relatavam que o ex-presidente dos EUA Donald Trump estava prestes a ser preso em Nova Iorque, uma série de fotografias ficou viral, que parecia mostrar o ex-presidente a ser perseguido pela polícia. Em ambos os casos, as imagens pareciam ainda mais credíveis do que tipos semelhantes de falsificações criadas por especialistas utilizando o Photoshop.
Fazendo fotos de Trump a ser preso enquanto espera pela prisão de Trump. pic.twitter.com/4D2QfUpLZ
– Eliot Higgins (@EliotHiggins) Março 20, 2023
Muitos sítios generativos de IA, incluindo Midjourney e Playground AI, já instituíram restrições a pedidos que incluiriam conteúdo sexual. No entanto, a questão da utilização aceitável no que diz respeito a falsificações profundas ainda está a ser debatida, uma vez que todos estes sites fabricam fotografias que não são reais.
Os planos de assinatura de Midjourney variam entre $10 a $60 mensais, dependendo do poder de processamento, e características que o utilizador requer – incluindo a capacidade de executar trabalhos simultâneos. A plataforma também oferece planos de assinatura anual.
Não é claro como fechar o seu nível gratuito irá resolver o problema. Os termos de serviço da Midjourney já proíbem imagens ofensivas de celebridades ou figuras públicas.
O tópico do Papa moderno gerado pela IA (midjourney) está a ficar fora de controlo para nós
Prompts in ALT pic.twitter.com/9hJyQP369E
– Javi Lopez ⛩️ (@javilopen) March 28, 2023
TCN contactou Midjourney and Stability AI, os criadores da Stable Diffusion, para comentários mas ainda não ouviu falar.
