Las Naciones Unidas han dado la voz de alarma sobre las falsificaciones generadas por IA que se utilizan para difundir el odio y la desinformación en las redes sociales. En un informe publicado el lunes, «Integridad de la información en las plataformas digitales», la organización mundial subraya la necesidad de un uso responsable de la IA.
«A pesar de su potencial casi inimaginable para hacer frente a los retos mundiales, existe una preocupación grave y urgente por el potencial igualmente poderoso de los recientes avances en inteligencia artificial, incluidos los generadores de imágenes y las falsificaciones de vídeo, que amenazan la integridad de la información», señala el informe de la ONU.
La integridad de la información se refiere a la exactitud, coherencia y fiabilidad de la información, que, según las Naciones Unidas, se ve amenazada por la desinformación, la desinformación y la incitación al odio.
«Estos riesgos se han intensificado debido a los rápidos avances tecnológicos, como la inteligencia artificial generativa», escribió Guterres, Secretario General de las Naciones Unidas, en la introducción del informe. «Ha quedado claro que seguir como hasta ahora no es una opción».
La IA generativa es un tipo de programa, normalmente presentado en forma de chatbot, capaz de generar texto, imágenes u otros medios en respuesta a instrucciones.
El informe de Naciones Unidas expresaba su preocupación por el efecto de los deepfakes y la desinformación generada por IA en zonas de conflicto.
El uso del discurso del odio se ha observado a menudo como precursor de crímenes atroces como el genocidio, señala la ONU. El informe también destaca que la Convención para la Prevención y la Sanción del Delito de Genocidio de 1948 prohíbe toda incitación directa o pública que pueda conducir al genocidio.
La proliferación del odio y las mentiras en el espacio digital está causando un grave daño mundial.
Esta clara y presente amenaza mundial exige una clara y coordinada acción mundial.
– @antonioguterres presentación de su nuevo informe sobre la integridad de la información en las plataformas digitales. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– Naciones Unidas (@ONU) 12 de junio de 2023
Aunque no daba ejemplos concretos, el informe de la ONU llamaba la atención sobre casos recientes de IA generativa utilizada para crear, en algunos casos, contenidos e imágenes convincentemente engañosos.
En marzo, una imagen generada por IA de la detención del expresidente Donald Trump se hizo viral tras ser compartida en Twitter por el fundador y director creativo de Bellingcat, Eliot Higgins. Ese mismo mes, Midjourney, la empresa que está detrás del generador de IA de texto a imagen del mismo nombre, puso fin a su versión de prueba gratuita debido al abuso generalizado.
«Todas las partes interesadas deben tomar medidas urgentes e inmediatas para garantizar el uso seguro, responsable, ético y respetuoso con los derechos humanos de la inteligencia artificial y abordar las implicaciones de los recientes avances en este campo para la propagación de la desinformación y la incitación al odio», afirma la ONU.
El informe pide a los propietarios de plataformas digitales que inviertan en sistemas de moderación de contenidos que utilicen tanto inteligencia humana como artificial para todos los idiomas utilizados en los países en los que operan, y que hagan transparentes los informes sobre contenidos.
El organismo internacional afirmó que la era de la filosofía de Silicon Valley de «moverse rápido y romper cosas» debe terminar, y que la privacidad del usuario, la seguridad y la transparencia son esenciales y deben incorporarse a la nueva tecnología desde el principio.
Guterres señaló la próxima Cumbre del Futuro en 2024 como una oportunidad para acordar soluciones multilaterales.
«Los retos a los que nos enfrentamos sólo pueden abordarse mediante una cooperación internacional más estrecha», afirmó el Secretario General Guterres.
