OpenAI, společnost stojící za ChatGPT, vyvolala značnou vlnu nevole svým nedávným jmenováním generála Paula Nakasoneho, bývalého šéfa Národní bezpečnostní agentury (NSA), do funkce člena představenstva.
Oznámení, které přišlo uprostřed řady kontroverzí zpochybňujících nedostatečné bezpečnostní postupy společnosti a poté, co technická ředitelka OpenAI Mira Murati odmítla obvinění, že společnost vyvíjí „děsivý spyware“, vyvolalo značnou vlnu odporu ze strany prominentních osobností, včetně slavného whistleblowera NSA Edwarda Snowdena.
„Odhalili svou pravou tvář: Nikdy nevěřte OpenAI ani jejím produktům (ChatGPT atd.). Existuje jen jeden důvod, proč jmenovat ředitele NSA do představenstva,“ řekl. „Jedná se o úmyslnou a promyšlenou zradu práv všech lidí na Zemi. Byli jste varováni.“
Edward Snowden, bývalý spolupracovník Národní bezpečnostní agentury (NSA), v roce 2013 zveřejnil tajné dokumenty, které odhalily obrovský rozsah vládních sledovacích programů. Snowden odhalil, že NSA bez rozdílu shromažďovala a ukládala obrovské množství údajů o běžných Američanech a cizích státních příslušnících, a to i o těch, kteří nebyli podezřelí z žádného protiprávního jednání.
Uniklé dokumenty ukázaly, že NSA tajně shromažďovala a ukládala telefonní záznamy, textové zprávy, e-maily, internetové vyhledávání a údaje o poloze z mobilních telefonů a dalších zařízení. Tyto údaje byly získávány přímo od velkých technologických společností, jako jsou Google, Facebook a Apple, prostřednictvím programu s názvem PRISM – a to vše bez soudního příkazu.
Snowdenova odhalení také ukázala, že NSA nesledovala pouze Američany, ale spolupracovala s dalšími zeměmi na rozsáhlém sledování občanů v těchto zemích.
Nakasone byl ředitelem NSA v letech 2018 až 2022 a předtím byl velitelem amerického kybernetického velitelství. Společně s Nakasonem oznámila OpenAI, že najme Sarah Friar jako finanční ředitelku a Kevina Weila jako produktového ředitele.
Friar byla před příchodem do OpenAI finanční ředitelkou platební společnosti Square a poté Nextdoor a je také členkou představenstva ConsenSys. Weil před příchodem do OpenAI zastával různé funkce ve společnostech jako Planet Labs, Facebook, Instagram a Twitter.
Vzhledem k Nakasoneho minulosti v NSA se jeho jmenování setkalo s širokou kritikou ze strany technologické komunity. Kromě Snowdena se proti tomuto rozhodnutí ozvali i další odborníci a významné osobnosti z oboru.
„Od tvůrců ‚přistupte blíž, abychom vám mohli zdarma naskenovat oči‘ přichází ‚Nevadí, že vám ředitel NSA nahlíží do každé myšlenky‘,“ napsal na Twitteru autor Preston Pysh s odkazem na paralelní projekt generálního ředitele OpenAI Sama Altmana Worldcoin, který komoditizuje biometrické údaje svých uživatelů výměnou za kryptoměnu.
Profesor Matthew Green z John Hopkins University řekl, že rozhodnutí jmenovat bývalého šéfa NSA je hodné románu Neala Stephensona, zatímco populární investiční účet Wall Street Silver označil oznámení za „velkou červenou vlajku“.
„OpenAI právě najalo člověka, který měl na starosti masové sledování v NSA,“ napsal na Twitteru technologický zakladatel a internetová osobnost Kim Dotcom. „Outsourcoval nelegální masové špehování Američanů britským špionážním agenturám, aby obešel americké zákony. Dal jim neomezený přístup k americkým sítím. To vám říká vše, co potřebujete vědět o OpenAI.“
OpenAI právě najalo člověka, který měl na starosti masové sledování v NSA. Outsourcoval nelegální masové špehování Američanů britským špionážním agenturám, aby obešel americké zákony. Dal jim neomezený přístup k americkým sítím. To vám říká vše, co potřebujete vědět o OpenAI. https://t.co/5zKyDHfFOC
— Kim Dotcom (@KimDotcom) 14. června 2024
Navzdory těmto kontroverzím OpenAI Nakasoneho jmenování obhájilo. Podle firmy bude Nakasoneho první prioritou vstup do bezpečnostního výboru představenstva, který je zodpovědný za předkládání doporučení celému představenstvu ohledně kritických rozhodnutí týkajících se bezpečnosti všech projektů a operací OpenAI.
OpenAI také uvedlo, že Nakasoneho poznatky přispějí k úsilí společnosti o lepší pochopení toho, jak lze AI využít k posílení kybernetické bezpečnosti prostřednictvím rychlé detekce a reakce na kybernetické hrozby.
Není to poprvé, co kroky OpenAI vyvolaly obavy. Celý tým „superalignment“ odpovědný za vývoj bezpečných politik AI byl dříve rozpuštěn a generální ředitel Sam Altman vytvořil tým pod svým vedením, který má předkládat doporučení představenstvu OpenAI. On sám je také členem tohoto týmu.
Před několika dny OpenAI oznámilo partnerství s Apple, které pomůže pohánět službu Apple Intelligence, která bude k dispozici na většině zařízení Apple: smartphonech, tabletech a laptopech.
Krok OpenAI by mohl některé uživatele AI přimět k přechodu na jiné modely, jako jsou Claude a Reka AI od společnosti Anthropic. Mezitím startup Venice, založený spoluzakladatelem kryptoměnové burzy ShapeShift, využil této příležitosti k propagaci svého decentralizovaného soukromého řešení pro uživatele chatbotů AI.
