Este lunes se alcanzó un nuevo máximo, o posiblemente un mínimo, en la demostración del poder de la inteligencia artificial (IA). Una imagen que mostraba una explosión falsa en el Pentágono, rápidamente señalada como generada por IA, se extendió como la pólvora por las redes sociales. También parece haber provocado una venta momentánea en el mercado de valores estadounidense.
La alarmante imagen, en la que se ve humo saliendo del emblemático edificio, fue difundida por numerosas cuentas, incluido un canal de medios de comunicación estatal ruso.
RT, con más de 3 millones de seguidores, ha publicado (y borrado) lo que parece ser una foto generada por inteligencia artificial de una explosión cerca del Pentágono pic.twitter.com/6Bl7X8ZA2M
– Leonardo Puglisi (@Leo_Puglisi6) 22 de mayo de 2023
Interesantemente, los informes de la falsa explosión del Pentágono también llegaron a cuentas no oficiales de Twitter con marcas de verificación azules, lo que amplificó aún más la confusión y el impacto de la falsedad, destacando tanto la importancia de la verificación rigurosa de las fuentes como el resultado poco sorprendente de los nuevos criterios de Elon Musk para la verificación de cuentas.
Esta mañana las cuentas de verificación azul afirmaron grandes explosiones en el Pentágono.
… y luego en la Casa Blanca.
Los medios estatales rusos amplificaron la imagen falsa del Pentágono desde su cuenta de cheques dorada.
Las imágenes parecen generadas por IA, como la gente identificó. 1/ pic.twitter.com/Bd9uu3jwPZ
– John Scott-Railton (@jsrailton) 22 de mayo de 2023
Cuando la foto se hizo viral, los índices bursátiles estadounidenses sufrieron un pequeño revés, aunque los mercados se recuperaron rápidamente después de que se descubriera que la foto era un engaño. Bitcoin, la principal criptomoneda, también experimentó un breve «flash crash» tras la difusión de la noticia falsa, cayendo hasta los 26500 dólares. Sin embargo, Bitcoin se está recuperando lenta pero inexorablemente y actualmente cotiza a 26.882 dólares, según CoinGecko.
Imagen: Yahoo! Finance
El impacto del bulo fue lo suficientemente importante como para que interviniera el Departamento de Bomberos del condado de Arlington. «NO se está produciendo ninguna explosión ni incidente en la reserva del Pentágono ni en sus inmediaciones», tuitearon «y no hay peligro ni riesgos inmediatos para el público»
@PFPAOfficial y el ACFD son conscientes de un informe de los medios de comunicación social que circula en línea acerca de una explosión cerca del Pentágono. NO hay ninguna explosión o incidente que tenga lugar en o cerca de la reserva del Pentágono, y no hay peligro inmediato o riesgos para el público. pic.twitter.com/uznY0s7deL
– Arlington Fire & EMS (@ArlingtonVaFD) May 22, 2023
Preparando el camino hacia una mayor regulación de la IA
Este tipo de engaño en línea ha suscitado serias preocupaciones entre los detractores del desarrollo sin paliativos de la IA. Muchos expertos en la materia han advertido de que los sistemas avanzados de IA podrían convertirse en herramientas para agentes malintencionados de todo el mundo, difundiendo desinformación y provocando un pandemónium en Internet.
No es la primera vez que surgen artimañas de este tipo. Imágenes virales generadas por IA ya han engañado al público, como la del Papa Francisco luciendo una chaqueta de Balenciaga, una falsa detención del Presidente Donald Trump y deepfakes de celebridades como Elon Musk o SBF promocionando estafas criptográficas.
Personalidades notables también han hecho sonar las alarmas sobre la propagación de la desinformación.
Cientos de expertos en tecnología ya han pedido que se paralice durante seis meses el desarrollo de IA avanzada hasta que se establezcan unas directrices de seguridad adecuadas. E incluso el Dr. Geoffrey Hinton, ampliamente conocido como el «Padrino de la IA», llegó a dimitir de su cargo en Google para expresar su preocupación por los riesgos potenciales de la IA sin dañar la reputación de su antiguo empleador.
Episodios de desinformación como éste alimentan el debate en curso sobre la necesidad de un marco normativo y ético para la IA. A medida que la IA se convierte en una herramienta cada vez más potente en manos de agentes de la desinformación, las consecuencias pueden ser caóticas.
A la vista de los acontecimientos de hoy, cabe plantearse una pregunta: ¿Y si una IA fuera el agente que utiliza el poder de las redes sociales para sembrar el caos y controlar los mercados financieros? Lo veíamos venir.
