Los esfuerzos del gobierno británico por mantenerse al día en inteligencia artificial avanzan a buen ritmo, con el nombramiento el jueves de los principales asesores del sector en su grupo de trabajo sobre IA.
El grupo de trabajo sobre Inteligencia Artificial, dependiente del Ministerio de Ciencia, Innovación y Tecnología, fue anunciado en junio con una dotación de 100 millones de libras (125 millones de dólares).
Ahora, el recién rebautizado Frontier AI Taskforce, que su presidente Ian Hogarth describió como una «start-up dentro del gobierno», cuenta con un consejo asesor formado por expertos en investigación sobre IA y seguridad nacional.
Entre sus miembros figuran Yoshua Bengio, ganador del premio Turing, Paul Christiano, antiguo investigador de OpenAI, y Anne Keast-Butler, directora de la agencia de seguridad británica GCHQ.
Un equipo de élite de destacados especialistas en IA ha sido contratado como asesor del Frontier AI Taskforce.
El grupo de trabajo protegerá frente a los riesgos, aprovechará las capacidades del Reino Unido y mejorará los servicios públicos. @MichelleDonelan se reunió con Ian Hogarth @soundboy, presidente del grupo de trabajo, para hablar sobre pic.twitter.com/KAZurJkKSK
– Departamento de Ciencia, Innovación y Tecnología (@SciTechgovuk) 7 de septiembre de 2023
«Hemos visto una inversión masiva en la mejora de las capacidades de IA, pero no la suficiente en la protección del público, ya sea en términos de investigación sobre seguridad de la IA o en términos de gobernanza para garantizar que la IA se desarrolle en beneficio de todos», dijo Bengio.
«Con la próxima Cumbre Mundial sobre Seguridad de la IA y el Grupo de Trabajo Fronterizo sobre IA, el Gobierno británico ha asumido un liderazgo muy necesario para impulsar la coordinación internacional en materia de IA, especialmente en la cuestión de los riesgos y la seguridad».
El primer informe de situación del grupo de trabajo, publicado también el jueves, recoge otros nombramientos y colaboraciones, como la contratación de Ollie Ilott, empleado de Downing Street, como director del programa. Hogarth dijo que Ilott aportó a los procedimientos la energía del «General Groves», en referencia al hombre que supervisó la creación del Proyecto Manhattan.
El Gobierno británico colabora con la industria de la IA
Desde su creación, el grupo de trabajo gubernamental ha declarado que colaborará con gigantes de la IA como DeepMind de Google (Bard, PaLM-2), OpenAI (ChatGPT, GPT-4) y Anthropic (Claude AI, Constitutional AI).
El jueves, el Gobierno dijo en su anuncio que esas empresas se han comprometido a facilitar a los investigadores un acceso profundo a sus modelos de IA.
También se anunciaron asociaciones con varias organizaciones técnicas líderes, con investigadores de varias empresas y organizaciones sin ánimo de lucro que se unirán al proyecto para ayudar a evaluar los riesgos y las oportunidades de la IA.
Una de ellas es Heidy Khlaaf, directora de ingeniería de la consultora Trail of Bits, que dirigirá el trabajo sobre los riesgos en la intersección de la ciberseguridad y los sistemas de IA fronterizos.
«Después de haber trabajado en la evaluación de modelos de síntesis de código, independientemente de sus capacidades o corrección, no ha quedado claro en qué medida ayudan a las capacidades cibernéticas ofensivas y aumentan los riesgos de seguridad», escribió en X, antes conocido como Twitter. «¡Me emociona anunciar nuestro trabajo para el Grupo de Trabajo de IA del Reino Unido para evaluar exactamente eso!».
Mientras tanto, Saffron Huang y Divya Siddarth, cofundadores del Proyecto de Inteligencia Colectiva, desarrollarán formas de medir si la IA se está construyendo para el bien colectivo.
