De inspanningen van de Britse overheid om op de hoogte te blijven van kunstmatige intelligentie vorderen gestaag met de benoeming van topadviseurs uit de industrie voor de AI taskforce die donderdag werd aangekondigd.
De AI taskforce is ondergebracht bij het Ministerie voor Wetenschap, Innovatie en Technologie en werd in juni voor het eerst aangekondigd met 100 miljoen pond (125 miljoen dollar) aan financiering.
Nu heeft de nieuwe Frontier AI Taskforce, die voorzitter Ian Hogarth omschreef als een “start-up binnen de overheid”, een adviesraad bestaande uit AI-onderzoeks- en nationale veiligheidsexperts.
Onder de leden bevinden zich Turing Award winnaar Yoshua Bengio, voormalig OpenAI onderzoeker Paul Christiano en directeur van de Britse veiligheidsdienst GCHQ, Anne Keast-Butler.
Een eliteteam van vooraanstaande AI-specialisten is aangetrokken als adviseurs voor de Frontier AI Taskforce.
De Taskforce zal bescherming bieden tegen risico’s, voortbouwen op Britse capaciteiten & openbare diensten verbeteren. @MichelleDonelan ontmoeting met Ian Hogarth @soundboy, voorzitter van de Taskforce, om pic.twitter.com/KAZurJkKSK
– Department for Science, Innovation and Technology (@SciTechgovuk) September 7, 2023
We hebben enorme investeringen gezien in het verbeteren van AI-capaciteiten, maar lang niet genoeg investeringen in het beschermen van het publiek, of het nu gaat om AI-veiligheidsonderzoek of om governance om ervoor te zorgen dat AI wordt ontwikkeld ten gunste van iedereen”, aldus Bengio.
“Met de aanstaande wereldwijde AI Safety Summit en de Frontier AI Taskforce heeft de Britse regering het broodnodige leiderschap op zich genomen om de internationale coördinatie op het gebied van AI te bevorderen, met name wat betreft risico’s en veiligheid.”
Het eerste voortgangsrapport van de taskforce, dat ook op donderdag werd gepubliceerd, vermeldde een aantal andere benoemingen en samenwerkingsverbanden, waaronder de aanstelling van Ollie Ilott, medewerker van Downing Street, als directeur van het programma. Hogarth zei dat Ilott een “Generaal Groves” energie in de procedures bracht, verwijzend naar de man die toezicht hield op de oprichting van het Manhattan Project.
UK Overheid werkt samen met AI-industrie
Sinds de oprichting heeft de taskforce van de overheid verklaard dat het zal samenwerken met AI-grootmachten als Google’s DeepMind (Bard, PaLM-2), OpenAI (ChatGPT, GPT-4) en Anthropic (Claude AI, Constitutional AI).
Op donderdag zei de regering in haar aankondiging dat deze bedrijven hebben toegezegd onderzoekers diepgaande toegang te geven tot hun AI-modellen.
Er werden ook partnerschappen met verschillende toonaangevende technische organisaties aangekondigd, waarbij onderzoekers van verschillende bedrijven en non-profits zich bij het project aansluiten om de risico’s en kansen van AI te helpen beoordelen.
Een daarvan is Heidy Khlaaf, technisch directeur bij adviesbureau Trail of Bits, die de risico’s op het snijvlak van cyberbeveiliging en grensverleggende AI-systemen zal onderzoeken.
“Ik heb gewerkt aan het evalueren van codesynthesemodellen, ongeacht hun mogelijkheden of correctheid, het is onduidelijk hoe goed ze helpen bij offensieve cybercapaciteiten en beveiligingsrisico’s vergroten,” schreef ze op X, voorheen bekend als Twitter. “Opgewonden om ons werk aan te kondigen voor de UK AI Taskforce om precies dat te beoordelen!”
Ondertussen zullen manieren om te meten of AI wordt gebouwd voor het collectieve goed worden ontwikkeld door Saffron Huang en Divya Siddarth, medeoprichters van het Collective Intelligence Project.
