Усилията на британското правителство да бъде в крак с изкуствения интелект напредват с бързи темпове, като в четвъртък беше обявено назначаването на водещи съветници от индустрията в работната група по изкуствен интелект.
Разположена в рамките на Министерството на науката, иновациите и технологиите, работната група за изкуствен интелект беше обявена за първи път през юни с финансиране от 100 млн. паунда (125 млн. долара).
Сега преименуваната на Frontier AI Taskforce, която председателят Иън Хогарт описа като „стартъп в правителството“, има консултативен съвет, съставен от експерти в областта на изследванията на ИИ и националната сигурност.
Сред членовете му са носителят на наградата „Тюринг“ Йошуа Бенгио, бившият изследовател на OpenAI Пол Кристиано и директорът на британската агенция за сигурност GCHQ Ан Кист-Бътлър.
Елитен екип от високопоставени специалисти в областта на изкуствения интелект бяха наети като съветници за работната група Frontier AI Taskforce.
Работната група ще защитава от рискове, ще надгражда възможностите на Обединеното кралство & да подобрява обществените услуги. @MichelleDonelan се срещна с Иън Хогарт @soundboy, председател на работната група, за да обсъдят pic.twitter.com/KAZurJkKSK
– Министерство на науката, иновациите и технологиите (@SciTechgovuk) 7 септември 2023 г.
„Станахме свидетели на огромни инвестиции за подобряване на възможностите на ИИ, но не и на достатъчно инвестиции за защита на обществото, било то по отношение на изследванията за безопасност на ИИ или по отношение на управлението, за да се гарантира, че ИИ се развива в полза на всички“, каза Бенгио.
„С предстоящата глобална среща на върха по въпросите на безопасността на ИИ и работната група за граничен ИИ правителството на Обединеното кралство пое крайно необходимото лидерство в напредъка на международната координация по отношение на ИИ, особено по въпроса за рисковете и безопасността.“
В първия доклад за напредъка на работната група, също публикуван в четвъртък, се отбелязват редица други назначения и сътрудничества, включително назначаването на служителя на Даунинг стрийт Оли Илот за директор на програмата. Хогарт заяви, че Илот е внесъл в работата енергия на „генерал Гроувс“, визирайки човека, който е ръководил създаването на проекта „Манхатън“.
Правителството на Обединеното кралство си сътрудничи с индустрията за изкуствен интелект
От самото си създаване правителствената работна група заяви, че ще си сътрудничи с гиганти в областта на ИИ, сред които DeepMind на Google (Bard, PaLM-2), OpenAI (ChatGPT, GPT-4) и Anthropic (Claude AI, Constitutional AI).
В четвъртък в съобщението си правителството заяви, че тези компании са поели ангажимент да предоставят на изследователите задълбочен достъп до своите модели на ИИ.
Бяха обявени и партньорства с няколко водещи технически организации, като изследователи от различни фирми и организации с нестопанска цел ще се присъединят към проекта, за да помогнат за оценката на рисковете и възможностите на ИИ.
Един от тях е Хайди Хлааф, инженерен директор в консултантската фирма Trail of Bits, който ще ръководи работата по рисковете в пресечната точка на киберсигурността и граничните системи на ИИ.
„След като съм работила по оценка на моделите за синтез на код, независимо от техните възможности или коректност, не е ясно доколко те подпомагат офанзивните кибернетични способности и увеличават рисковете за сигурността“, пише тя в X, известен преди като Twitter. „Развълнувана съм да обявя работата ни за британската работна група по изкуствен интелект за оценка точно на това!“
Междувременно начините за измерване дали ИИ се създава за колективно благо ще бъдат разработени от Сафрон Хуанг и Дивия Сиддарт, съоснователи на проекта Collective Intelligence Project.
