Les efforts du gouvernement britannique pour rester à la pointe de l’intelligence artificielle progressent rapidement, avec la nomination de conseillers industriels de premier plan au sein de son groupe de travail sur l’IA, annoncée jeudi.
Hébergée au sein du ministère de la science, de l’innovation et de la technologie, la taskforce sur l’IA a été annoncée pour la première fois en juin, avec un financement de 100 millions de livres sterling (125 millions de dollars).
La nouvelle Frontier AI Taskforce, que son président Ian Hogarth a décrite comme une « start-up au sein du gouvernement », est dotée d’un comité consultatif composé d’experts en recherche sur l’IA et en sécurité nationale.
Parmi les membres figurent Yoshua Bengio, lauréat du prix Turing, Paul Christiano, ancien chercheur de l’OpenAI, et Anne Keast-Butler, directrice de l’agence de sécurité britannique GCHQ.
Une équipe d’élite de spécialistes de l’IA très en vue a été recrutée en tant que conseillers pour la Frontier AI Taskforce.
La Taskforce protégera contre les risques, s’appuiera sur les capacités britanniques & ; améliorera les services publics. @MichelleDonelan a rencontré Ian Hogarth @soundboy, président de la Taskforce, pour en discuter pic.twitter.com/KAZurJkKSK
– Department for Science, Innovation and Technology (@SciTechgovuk) September 7, 2023
W
« Nous avons vu des investissements massifs dans l’amélioration des capacités de l’IA, mais pas assez d’investissements dans la protection du public, que ce soit en termes de recherche sur la sécurité de l’IA ou en termes de gouvernance pour s’assurer que l’IA est développée pour le bénéfice de tous », a déclaré Bengio.
« Avec le prochain sommet mondial sur la sécurité de l’IA et la Frontier AI Taskforce, le gouvernement britannique a pris le leadership nécessaire pour faire avancer la coordination internationale sur l’IA, en particulier sur la question des risques et de la sécurité.
Le premier rapport d’activité du groupe de travail, également publié jeudi, fait état d’un certain nombre d’autres nominations et collaborations, notamment le recrutement d’Ollie Ilott, membre du personnel de Downing Street, en tant que directeur du programme. M. Hogarth a déclaré que M. Ilott apportait une énergie de « général Groves » aux procédures, en référence à l’homme qui a supervisé la création du projet Manhattan.
Le gouvernement britannique collabore avec l’industrie de l’IA
Depuis sa création, le groupe de travail du gouvernement a déclaré qu’il collaborerait avec des géants de l’IA, notamment DeepMind de Google (Bard, PaLM-2), OpenAI (ChatGPT, GPT-4) et Anthropic (Claude AI, Constitutional AI).
Jeudi, le gouvernement a annoncé que ces entreprises s’étaient engagées à fournir aux chercheurs un accès approfondi à leurs modèles d’IA.
Des partenariats avec plusieurs organisations techniques de premier plan ont également été annoncés, des chercheurs de diverses entreprises et organisations à but non lucratif se joignant au projet pour aider à évaluer les risques et les opportunités de l’IA.
L’un d’entre eux est Heidy Khlaaf, directeur technique de la société de conseil Trail of Bits, qui dirigera les travaux sur les risques à l’intersection de la cybersécurité et des systèmes d’IA d’avant-garde.
« J’ai travaillé sur l’évaluation de modèles de synthèse de code, indépendamment de leurs capacités ou de leur exactitude, mais il est difficile de savoir dans quelle mesure ils contribuent aux cybercapacités offensives et augmentent les risques pour la sécurité », a-t-elle écrit sur X, anciennement connu sous le nom de Twitter. « Nous sommes ravis d’annoncer notre travail pour le groupe de travail britannique sur l’IA afin d’évaluer exactement cela !
Parallèlement, Saffron Huang et Divya Siddarth, cofondateurs du Projet d’intelligence collective, développeront des moyens de mesurer si l’IA est construite pour le bien collectif.
