人工知能に遅れをとらないための英国政府の取り組みは、木曜日に発表されたAIタスクフォースの業界トップアドバイザーの任命によって、急速に前進している。
科学技術革新省内に設置されたAIタスクフォースは、1億ポンド（1億2500万ドル）の資金提供を受けて6月に初めて発表された。
イアン・ホガース委員長は「政府内のスタートアップ」と表現し、AI研究と国家安全保障の専門家で構成される諮問委員会を持つ。
メンバーには、チューリング賞受賞者のヨシュア・ベンジオ、元OpenAI研究者のポール・クリスチアーノ、英国のセキュリティ機関GCHQのアン・キースト＝バトラー長官が含まれる
。
著名なAI専門家のエリートチームが、フロンティアAIタスクフォースのアドバイザーとして採用された。
タスクフォースはリスクから保護し、英国の能力を構築し、公共サービスを向上させる。@MichelleDonelanは、タスクフォース議長のイアン・ホガース@soundboyと面会し、pic.twitter.com/KAZurJkKSK
– 科学イノベーション技術省 (@SciTechgovuk) 2023年9月7日
を議論しました。
ベンジオは、「我々は、AIの能力を向上させるための大規模な投資を見てきましたが、AIの安全性の研究や、AIがすべての人の利益のために開発されることを確認するためのガバナンスの観点から、一般市民を保護するための投資はほとんど十分ではありませんでした」と述べた。
「今度の世界的なAI安全サミットとフロンティアAIタスクフォースによって、英国政府は、AIに関する国際的な協調、特にリスクと安全性の問題を進める上で、大いに必要とされるリーダーシップを発揮している。
木曜日に発表された同タスクフォースの最初の進捗報告書には、ダウニング街スタッフのオリー・イロット氏をプログラムのディレクターに迎えるなど、他にも多くの人事や協力関係が記されている。ホガース氏は、イロット氏がマンハッタン計画の創設を監督した人物にちなみ、「グローブス将軍」のようなエネルギーをもたらしてくれると語った。
英国政府がAI産業と協力
政府タスクフォースは発足以来、GoogleのDeepMind（Bard、PaLM-2）、OpenAI（ChatGPT、GPT-4）、Anthropic（Claude AI、Constitutional AI）などのAI巨大企業と協力すると表明してきた。
木曜日、政府は発表の中で、これらの企業が研究者のために自社のAIモデルへの深いアクセスを提供することを約束したと述べた。
また、様々な企業や非営利団体から研究者がプロジェクトに参加し、AIのリスクと機会を評価する手助けをすると発表した。
コンサルティング会社Trail of Bitsのエンジニアリング・ディレクターであるHeidy Khlaaf氏もその一人で、サイバーセキュリティとフロンティアAIシステムの交差点におけるリスクに関する作業を指揮する。
「コード合成モデルの評価に取り組んできたが、その能力や正しさにかかわらず、攻撃的なサイバー能力をどの程度支援し、セキュリティリスクを増大させるかは不明だった。「まさにそれを評価するために、英国のAIタスクフォースのために私たちの仕事を発表することに興奮しています！”
一方、AIが集団の利益のために構築されているかどうかを測定する方法は、集合知プロジェクトの共同設立者であるサフラン・ファンとディヴヤ・シッダースによって開発される。
