Esta segunda-feira marcou um novo ponto alto – ou talvez baixo – na demonstração do poder da inteligência artificial (IA). Uma imagem que representa uma explosão fabricada no Pentágono, rapidamente assinalada como sendo gerada por IA, espalhou-se como um incêndio nas redes sociais. Também parece ter provocado uma venda momentânea no mercado de acções dos EUA.
A imagem alarmante, que mostra o fumo a sair do edifício icónico, foi divulgada por várias contas, incluindo um canal de comunicação social estatal russo.
RT, com mais de 3 milhões de seguidores, publicou (entretanto apagada) o que parece ser uma foto gerada por IA de uma explosão perto do Pentágono pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) 22 de Maio de 2023
Interessantemente, os relatos da falsa explosão no Pentágono também chegaram a contas não oficiais do Twitter com marcas de verificação azuis, ampliando ainda mais a confusão e o impacto da falsidade – destacando tanto a importância da verificação rigorosa da fonte quanto o resultado não surpreendente dos novos critérios de Elon Musk para verificação de contas.
Esta manhã, contas de verificação azul alegaram grandes explosões no Pentágono.
… e depois na Casa Branca.
Os media estatais russos amplificaram a imagem falsa do Pentágono a partir da sua conta de cheques dourados.
As imagens parecem ter sido geradas por inteligência artificial, como as pessoas identificaram. 1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) 22 de Maio de 2023
Como a foto se tornou viral, os índices de acções dos EUA sofreram um pequeno golpe, embora os mercados tenham recuperado rapidamente depois de a foto ter sido exposta como uma farsa. O Bitcoin, a principal criptomoeda, também sofreu um breve “flash crash” após a disseminação da notícia falsa, caindo para $26500. No entanto, a Bitcoin está a recuperar lenta mas seguramente e está actualmente a ser negociada a 26.882 dólares, de acordo com a CoinGecko.
Imagem: Yahoo! Finance
O impacto do embuste foi suficientemente significativo para levar o Departamento de Bombeiros do Condado de Arlington a intervir. “Não há nenhuma explosão ou incidente a ocorrer na reserva do Pentágono ou nas suas proximidades”, escreveram no Twitter, “e não há perigo imediato ou riscos para o público”.
@PFPAOfficial e o ACFD estão cientes de um relatório de mídia social que circula on-line sobre uma explosão perto do Pentágono. Não há NENHUMA explosão ou incidente ocorrendo na reserva do Pentágono ou próximo a ela, e não há perigo imediato ou riscos para o público. pic.twitter.com/uznY0s7deL
– Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
Abrir o caminho para uma maior regulamentação da IA
Este tipo de engano online suscitou sérias preocupações entre os críticos do desenvolvimento não mitigado da IA. Muitos especialistas nesta área alertaram para o facto de os sistemas avançados de IA poderem tornar-se ferramentas para agentes malévolos em todo o mundo, espalhando desinformação e causando um pandemónio online.
Esta não é a primeira vez que este tipo de truques surge. Imagens virais geradas por IA já enganaram o público, como imagens do Papa Francisco a usar um casaco Balenciaga, uma falsa detenção do Presidente Donald Trump e deepfakes de celebridades como Elon Musk ou SBF a promover esquemas de criptografia.
Personalidades notáveis também deram o alarme sobre a propagação da desinformação.
Centenas de especialistas em tecnologia já apelaram a uma paragem de seis meses no desenvolvimento de IA avançada até que sejam estabelecidas directrizes de segurança adequadas. E até o Dr. Geoffrey Hinton, amplamente conhecido como o “Padrinho da IA”, se demitiu do seu cargo na Google para expressar as suas preocupações sobre os potenciais riscos da IA sem prejudicar a reputação do seu antigo empregador.
Episódios de desinformação como este contribuem para o debate em curso sobre a necessidade de um quadro regulamentar e ético para a IA. À medida que a IA se torna uma ferramenta cada vez mais potente nas mãos de agentes de desinformação, as consequências podem ser caóticas.
Com base nos acontecimentos de hoje, há uma questão que se destaca: E se uma IA fosse o agente que utilizasse o poder das redes sociais para espalhar o caos e controlar os mercados financeiros? Já estávamos à espera disto.
