Premiér Rishi Sunak oznámil smělý plán, podle kterého se má země stát globálním epicentrem průmyslu umělé inteligence (AI). V rámci tohoto plánu plánuje britská vláda zahájit významná stipendia v oblasti AI a investovat více než 100 milionů dolarů do pracovní skupiny pro AI.
Jádrem této vize je kombinace výzkumu, vzdělávání a mezinárodní spolupráce, což je potenciálně zásadní moment pro britské technologické prostředí.
Sunak uvedl, že si uvědomuje obavy, které mnozí v souvislosti s technologií AI chovají. Koneckonců ne každý den skupina uznávaných vědců tvrdí, že může nastat konec světa. V reakci na to Sunak zdůraznil svůj závazek k průkopnickému výzkumu bezpečnosti v rámci Spojeného království a vyvažoval své nadšení z budoucnosti s vědomím rizik, která může přinést.
„Chápu, že lidé mají z umělé inteligence obavy. Proto se chystáme provádět špičkový bezpečnostní výzkum tady ve Spojeném království,“ uvedl Sunak ve svém prohlášení. Cílem je „zajistit, aby kdekoli a kdykoli bude umělá inteligence ve Spojeném království využívána, bylo to prováděno bezpečně a zodpovědně“.
Jedním z aspektů vládního plánu, který vzbudil zájem, je spolupráce s giganty v oblasti AI: DeepMind společnosti Google (Bard, PaLM-2), OpenAI (ChatGPT, GPT-4) a Anthropic (Claude AI, Constitutional AI). Tyto společnosti se zavázaly poskytnout vládě Spojeného království předčasný nebo přednostní přístup ke svým modelům AI pro výzkumné a bezpečnostní účely.
Povaha této spolupráce však vzbudila určité pochybnosti.
Díky 100 milionům liber pro naši pracovní skupinu pro umělou inteligenci věnujeme na bezpečnost umělé inteligence více finančních prostředků než kterákoli jiná země na světě.
Budeme také spolupracovat s @DeepMind, @OpenAI a @Anthropic, které nám poskytnou předčasný nebo přednostní přístup k modelům pro účely výzkumu a bezpečnosti. pic.twitter.com/SKypEisfXX
– Rishi Sunak (@RishiSunak) 12. června 2023
Potenciální nebezpečí nadměrného státního dohledu nad modely umělé inteligence se stává zřejmým. Za prvé, předsudky vlastní těmto modelům UI by se mohly potenciálně institucionalizovat. Kromě toho je důvodem k obavám mocenská dynamika mezi společnostmi zabývajícími se UI a vládami.
Je zapotřebí křehké rovnováhy moci a bedlivého dohledu nad zaujatostí, aby se zabránilo vývoji modelů, které jsou politicky přizpůsobené, a nikoli pouze politicky korektní.
„Složitější otázky, jako jsou ty, které jsou politické nebo filozofické povahy, mohou mít několik odpovědí,“ vysvětluje technicky zaměřený portál TechTarget, „AI se výchozí odpovědí stane její tréninková odpověď, což způsobuje zkreslení, protože mohou existovat i jiné odpovědi.“
Investice britské vlády bude zaměřena na dvě stipendia AI věnovaná řešení naléhavých problémů v oblasti zásobování plodinami a zdravotní péče prostřednictvím technologií.
„Tato nová stipendia spolu s veškerou naší dosavadní prací na AI pomohou vybudovat lepší budoucnost pro vás a vaše rodiny,“ řekl Sunak a zdůraznil přístup k AI ve Velké Británii zaměřený na člověka.
Závazek premiéra Sunaka k bezpečnosti AI zazněl i v jeho projevu na konferenci London Tech Week, kde ujistil přítomné, že se Spojené království stane geografickým centrem globální regulace bezpečnosti AI.
Podle jeho slov se již připravuje summit o bezpečnosti AI, což je akce přirovnávaná ke konferencím COP o klimatu.
Nově objevené nadšení vlády pro bezpečnost AI však znamená znatelný posun oproti jejímu předchozímu postoji.
Až donedávna odrážela vládní bílá kniha proinovační přístup k regulaci UI, který zlehčoval obavy o bezpečnost. Tato náhlá změna nálady, která následovala po setkáních s hlavními představiteli průmyslu AI, vyvolala otázky ohledně náchylnosti vlády k vlivu průmyslu.
Souběžně s tímto vývojem je generální ředitel OpenAI Sam Altman na mezinárodním turné, jehož cílem je posílit vazby s regulačními orgány z celého světa. To také vyvolalo debatu o jeho zájmu vést regulační úsilí po celém světě – a zároveň hrozí, že opustí jurisdikce, které chtějí toto odvětví regulovat.
těšíme se, že tento týden navštívíme Izrael, Jordánsko, Katar, Spojené arabské emiráty, Indii a Jižní Koreu!
– Sam Altman (@sama) 4. června 2023
Různorodá diskuse zahrnující nezávislé výzkumné pracovníky, skupiny občanské společnosti a zranitelné komunity je nezbytná pro komplexní pohled na bezpečnost UI. Koneckonců, zatímco tito „titáni UI“ mají v rukou klíče k budoucnosti, jsou to každodenní lidé, kteří v ní budou žít.
