Snaha britské vlády udržet krok s umělou inteligencí postupuje rychle kupředu a ve čtvrtek bylo oznámeno jmenování špičkových poradců z průmyslu do její pracovní skupiny pro umělou inteligenci.
Pracovní skupina pro umělou inteligenci, která sídlí v rámci ministerstva pro vědu, inovace a technologie, byla poprvé ohlášena v červnu a její činnost byla financována částkou 100 milionů liber (125 milionů USD).
Nyní má nově přejmenovaná Frontier AI Taskforce, kterou její předseda Ian Hogarth označil za „start-up uvnitř vlády“, poradní sbor složený z odborníků na výzkum AI a národní bezpečnost.
Jejími členy jsou například držitel Turingovy ceny Yoshua Bengio, bývalý výzkumník OpenAI Paul Christiano a ředitelka britské bezpečnostní agentury GCHQ Anne Keast-Butlerová.
Elitní tým špičkových odborníků na umělou inteligenci byl přijat jako poradci pro pracovní skupinu Frontier AI Taskforce.
Tato pracovní skupina bude chránit před riziky, stavět na schopnostech Spojeného království & zlepšovat veřejné služby. @MichelleDonelan se setkala s Ianem Hogarthem @soundboy, předsedou Taskforce, aby projednali pic.twitter.com/KAZurJkKSK
– Ministerstvo pro vědu, inovace a technologie (@SciTechgovuk) 7. září 2023
„Jsme svědky masivních investic do zlepšování schopností umělé inteligence, ale zdaleka ne dostatečných investic do ochrany veřejnosti, ať už jde o výzkum bezpečnosti umělé inteligence, nebo o správu, která by zajistila, že umělá inteligence bude vyvíjena ku prospěchu všech,“ řekl Bengio.
„Díky nadcházejícímu celosvětovému summitu o bezpečnosti AI a pracovní skupině Frontier AI Taskforce se vláda Spojeného království ujala velmi potřebného vedení při prosazování mezinárodní koordinace v oblasti AI, zejména v otázce rizik a bezpečnosti.“
První zpráva o pokroku pracovní skupiny, která byla rovněž zveřejněna ve čtvrtek, zaznamenala řadu dalších jmenování a spoluprací, včetně přijetí pracovníka Downing Street Ollieho Ilotta na pozici ředitele programu. Hogarth uvedl, že Ilott vnesl do jednání energii „generála Grovese“, čímž odkázal na muže, který dohlížel na vznik projektu Manhattan.
Vláda Spojeného království spolupracuje s průmyslem umělé inteligence
Vládní pracovní skupina od svého vzniku uvádí, že bude spolupracovat s giganty v oblasti umělé inteligence, včetně společností DeepMind (Bard, PaLM-2) společnosti Google, OpenAI (ChatGPT, GPT-4) a Anthropic (Claude AI, Constitutional AI).
Ve čtvrtek vláda ve svém oznámení uvedla, že se tyto společnosti zavázaly poskytnout výzkumným pracovníkům hloubkový přístup ke svým modelům AI.
Oznámeno bylo rovněž partnerství s několika předními technickými organizacemi, přičemž do projektu se zapojili výzkumní pracovníci z různých firem a neziskových organizací, aby pomohli posoudit rizika a příležitosti AI.
Jedním z nich je Heidy Khlaaf, inženýrský ředitel konzultační firmy Trail of Bits, který povede práci na rizicích na pomezí kybernetické bezpečnosti a hraničních systémů AI.
„Po práci na vyhodnocování modelů syntézy kódu, bez ohledu na jejich schopnosti nebo správnost, není jasné, jak dobře napomáhají útočným kybernetickým schopnostem a zvyšují bezpečnostní rizika,“ napsala na X, dříve známém jako Twitter. „Jsem nadšená, že můžu oznámit naši práci pro britskou pracovní skupinu pro umělou inteligenci, jejímž cílem je přesně toto vyhodnotit!“
Mezitím budou Saffron Huang a Divya Siddarth, spoluzakladatelé projektu Collective Intelligence Project, vyvíjet způsoby, jak měřit, zda je umělá inteligence vytvářena pro kolektivní dobro.
