Los peligros de la IA generativa volvieron a ser tema de debates de alto nivel entre los líderes mundiales, mientras el Secretario General de las Naciones Unidas se unía a un coro cada vez mayor de voces que piden regular esta tecnología.
«Las alarmas sobre la última forma de inteligencia artificial, la IA generativa, son ensordecedoras, y proceden en mayor medida de los desarrolladores que la han diseñado», dijo António Guterres en una rueda de prensa el lunes. «Los científicos y expertos han hecho un llamamiento al mundo para que actúe, declarando la IA una amenaza existencial para la humanidad al mismo nivel que el riesgo de una guerra nuclear».
«Debemos tomarnos en serio estas advertencias», afirmó el Secretario General de la ONU.
Los comentarios de Guterres se produjeron el mismo día en que la ONU publicó un informe, «Integridad de la información en las plataformas digitales», en el que se subraya la necesidad de un uso responsable de la IA y se advierte del uso de deepfakes en zonas de conflicto.
También hoy, el Parlamento Europeo ha aprobado lo que describe como «la primera legislación mundial sobre IA».
Hacer historia forjando nuestro futuro.
De eso trata la innovadora votación de hoy sobre la primera legislación mundial sobre AI
Se trata de que Europa se ponga a la cabeza de la innovación digital. pic.twitter.com/jICNwcX9hy
– Roberta Metsola (@EP_President) 14 de junio de 2023
W
Si bien la inteligencia artificial es una preocupación crítica para Guterres, el Secretario General dijo que la llegada de la IA no debe distraer del daño que la tecnología digital ya está haciendo en todo el mundo, dado el aumento de la incitación al odio y la desinformación en línea.
«La proliferación del odio y la mentira en el espacio digital está causando graves daños en todo el mundo», afirmó, «está alimentando conflictos, muerte y destrucción. Amenaza la democracia y los derechos humanos. Está socavando la salud pública y la acción por el clima».
Guterres dijo que crearía y nombraría a los miembros de una junta asesora sobre IA para gestionar las iniciativas relacionadas con la IA. La junta incluiría expertos en inteligencia artificial y científicos de la ONU de la Unión Internacional de Telecomunicaciones (UIT) y de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO).
El Secretario General también se mostró partidario de crear una agencia de inteligencia artificial inspirada en el Organismo Internacional de Energía Atómica.
Fundado en 1957, el Organismo Internacional de la Energía Atómica (OIEA) es un organismo de las Naciones Unidas encargado de supervisar las actividades nucleares mundiales.
«La ventaja del OIEA es que es una institución muy sólida basada en el conocimiento y, al mismo tiempo, aunque de forma limitada, tiene algunas funciones reguladoras», dijo Guterres. «Así que creo que es un modelo que podría ser muy interesante».
El CEO de OpenAI, Sam Altman, al testificar ante el Comité Judicial del Senado de EE.UU., pidió de forma similar la creación de una oficina gubernamental encargada de establecer normas para el desarrollo de la inteligencia artificial.
«Yo crearía una nueva agencia que concediera licencias a cualquier esfuerzo por encima de una determinada escala de capacidades, y que pudiera retirar esa licencia y garantizar el cumplimiento de las normas de seguridad», declaró Altman, añadiendo que la posible agencia debería exigir auditorías independientes de cualquier tecnología de IA.
Pero aunque el Secretario General está a favor de una nueva agencia internacional, reconoció la falta de inversión de la ONU en administración pública, lo que significa que cualquier acción requeriría la iniciativa de los Estados miembros y la buena voluntad de las partes implicadas.
«Hoy sentimos lo difícil que es para los estados y para las organizaciones internacionales competir desde el punto de vista científico y técnico con las plataformas que, entre medias, han adquirido un enorme potencial y un enorme conocimiento», dijo Guterres.
Tras el lanzamiento del GPT-4 de OpenAI en marzo, una petición en línea del Future of Life Institute pidió una pausa de seis meses en la formación de sistemas de IA. La carta fue firmada por personalidades del sector tecnológico como Elon Musk, consejero delegado de Tesla, y Steve Wozniak, cofundador de Apple.
