Gli sforzi del governo britannico per rimanere al passo con l’intelligenza artificiale procedono a ritmo sostenuto, con la nomina di consulenti industriali di alto livello alla taskforce AI annunciata giovedì.
Ospitata all’interno del Dipartimento per la Scienza, l’Innovazione e la Tecnologia, la taskforce AI è stata annunciata per la prima volta a giugno con un finanziamento di 100 milioni di sterline (125 milioni di dollari).
Ora la nuova Frontier AI Taskforce, che il presidente Ian Hogarth ha descritto come una “start-up all’interno del governo”, ha un comitato consultivo composto da esperti di ricerca sull’IA e di sicurezza nazionale.
Tra i membri figurano il vincitore del premio Turing Yoshua Bengio, l’ex ricercatore di OpenAI Paul Christiano e la direttrice dell’agenzia di sicurezza britannica GCHQ, Anne Keast-Butler.
Una squadra d’élite di specialisti dell’IA di alto profilo è stata reclutata come consulente per la Frontier AI Taskforce.
La taskforce si occuperà di proteggere dai rischi, costruire sulle capacità del Regno Unito e migliorare i servizi pubblici. @MichelleDonelan ha incontrato Ian Hogarth @soundboy, presidente della Taskforce, per discutere di pic.twitter.com/KAZurJkKSK
– Dipartimento per la Scienza, l’Innovazione e la Tecnologia (@SciTechgovuk) 7 settembre 2023
“Abbiamo assistito a massicci investimenti per migliorare le capacità dell’IA, ma non abbastanza per proteggere il pubblico, sia in termini di ricerca sulla sicurezza dell’IA sia in termini di governance per assicurarsi che l’IA sia sviluppata a beneficio di tutti”, ha affermato Bengio.
“Con l’imminente vertice mondiale sulla sicurezza dell’IA e la Frontier AI Taskforce, il governo britannico ha assunto la leadership necessaria per promuovere il coordinamento internazionale sull’IA, in particolare sulla questione dei rischi e della sicurezza”.
Il primo rapporto sullo stato di avanzamento della taskforce, anch’esso pubblicato giovedì, ha rilevato una serie di altre nomine e collaborazioni, tra cui l’assunzione di Ollie Ilott, collaboratore di Downing Street, come direttore del programma. Hogarth ha detto che Ilott ha portato un’energia da “Generale Groves”, riferendosi all’uomo che ha supervisionato la creazione del Progetto Manhattan.
Il governo britannico collabora con l’industria dell’intelligenza artificiale
Fin dall’inizio, la taskforce governativa ha dichiarato che collaborerà con colossi dell’IA, tra cui DeepMind di Google (Bard, PaLM-2), OpenAI (ChatGPT, GPT-4) e Anthropic (Claude AI, Constitutional AI).
Giovedì, nel suo annuncio, il governo ha dichiarato che queste aziende si sono impegnate a fornire ai ricercatori un accesso approfondito ai loro modelli di IA.
Sono state annunciate anche partnership con diverse organizzazioni tecniche di primo piano, con ricercatori di varie aziende e organizzazioni non profit che si uniranno al progetto per aiutare a valutare i rischi e le opportunità dell’IA.
Uno di questi è Heidy Khlaaf, direttore tecnico della società di consulenza Trail of Bits, che guiderà il lavoro sui rischi all’intersezione tra la sicurezza informatica e i sistemi di IA di frontiera.
“Avendo lavorato alla valutazione dei modelli di sintesi del codice, indipendentemente dalle loro capacità o dalla loro correttezza, non è stato chiaro quanto aiutino le capacità informatiche offensive e aumentino i rischi per la sicurezza”, ha scritto su X, precedentemente noto come Twitter. “Sono entusiasta di annunciare il nostro lavoro per la taskforce britannica sull’IA per valutare esattamente questo aspetto!”.
Nel frattempo, Saffron Huang e Divya Siddarth, cofondatori del Collective Intelligence Project, svilupperanno metodi per misurare se l’IA viene costruita per il bene collettivo.
