Усилия британского правительства по развитию искусственного интеллекта продвигаются вперед: в четверг было объявлено о назначении ведущих отраслевых консультантов в целевую группу по искусственному интеллекту.
Целевая группа по искусственному интеллекту, созданная при Министерстве науки, инноваций и технологий, была впервые объявлена в июне, и на ее создание было выделено 100 млн. фунтов стерлингов (125 млн. долл.).
Теперь у переименованной целевой группы Frontier AI Taskforce, председатель которой Ян Хогарт назвал ее «стартапом внутри правительства», есть консультативный совет, состоящий из экспертов в области исследований ИИ и национальной безопасности.
В его состав входят лауреат премии Тьюринга Йошуа Бенгио, бывший исследователь OpenAI Пол Кристиано и директор британского агентства безопасности GCHQ Энн Кист-Батлер.
Элитная группа высококлассных специалистов по искусственному интеллекту была набрана в качестве советников для целевой группы Frontier AI Taskforce.
Целевая группа будет защищать от рисков, наращивать потенциал Великобритании и улучшать государственные услуги. @MichelleDonelan встретился с Иэном Хогартом @soundboy, председателем Целевой группы, для обсуждения pic.twitter.com/KAZurJkKSK
— Department for Science, Innovation and Technology (@SciTechgovuk) September 7, 2023
«Мы наблюдаем огромные инвестиции в совершенствование возможностей ИИ, но не достаточно инвестиций в защиту населения, как в плане исследований безопасности ИИ, так и в плане управления, чтобы убедиться, что ИИ развивается на благо всех», — сказал Бенджио.
«Благодаря предстоящему глобальному саммиту по безопасности ИИ и созданию целевой группы Frontier AI Taskforce правительство Великобритании взяло на себя крайне необходимую руководящую роль в развитии международной координации в области ИИ, особенно в вопросах рисков и безопасности».
В первом отчете о ходе работы целевой группы, также опубликованном в четверг, отмечается ряд других назначений и сотрудничества, в том числе назначение сотрудника Даунинг-стрит Олли Илотта на должность директора программы. По словам Хогарта, Илотт привнес в работу энергию «генерала Гровса», имея в виду человека, который руководил созданием Манхэттенского проекта.
Правительство Великобритании сотрудничает с индустрией искусственного интеллекта
С момента своего создания правительственная целевая группа заявила, что будет сотрудничать с такими гигантами ИИ, как DeepMind (Bard, PaLM-2) компании Google, OpenAI (ChatGPT, GPT-4) и Anthropic (Claude AI, Constitutional AI).
В четверг в своем заявлении правительство сообщило, что эти компании обязались предоставить исследователям глубокий доступ к своим моделям ИИ.
Также было объявлено о партнерстве с рядом ведущих технических организаций, причем исследователи из различных фирм и некоммерческих организаций присоединятся к проекту, чтобы помочь оценить риски и возможности ИИ.
Среди них — Хейди Хлааф, инженерный директор консалтинговой компании Trail of Bits, который возглавит работу по изучению рисков на стыке кибербезопасности и передовых систем искусственного интеллекта.
«Занимаясь оценкой моделей синтеза кода, независимо от их возможностей и корректности, было неясно, насколько они способствуют развитию наступательных кибервозможностей и повышают риски безопасности», — написала она на сайте X, ранее известном как Twitter. «Очень рада объявить о нашей работе для Целевой группы по искусственному интеллекту Великобритании, направленной на оценку именно этого!»
Тем временем Саффрон Хуанг и Дивия Сиддарт, соучредители проекта «Коллективный интеллект», разработают способы оценки того, насколько эффективно ИИ работает на благо коллективного блага.
