OpenAI, het bedrijf achter ChatGPT, heeft veel kritiek gekregen vanwege de recente benoeming van generaal Paul Nakasone, voormalig hoofd van de National Security Agency (NSA), als bestuurslid.
De aankondiging, die komt te midden van een reeks controverses over de slechte veiligheidsmaatregelen van het bedrijf en nadat OpenAI-CTO Mira Murati beschuldigingen van het ontwikkelen van “griezelige spyware” had afgewezen, heeft tot veel weerstand geleid bij prominente figuren, waaronder de beroemde NSA-klokkenluider Edward Snowden.
“Ze hebben hun masker volledig afgezet: vertrouw OpenAI of zijn producten (ChatGPT enz.) nooit. Er is maar één reden om een NSA-directeur in je raad van bestuur te benoemen”, zei hij. “Dit is een opzettelijke, berekende schending van de rechten van elke persoon op aarde. Je bent gewaarschuwd.”
Edward Snowden, een voormalig medewerker van de National Security Agency (NSA), lekte in 2013 geheime documenten die de enorme omvang van de surveillanceprogramma’s van de overheid aan het licht brachten. Snowden onthulde dat de NSA zonder onderscheid enorme hoeveelheden gegevens verzamelde en opsloeg over gewone Amerikanen en buitenlandse burgers, zelfs over mensen die niet van iets waren verdacht.
Uit de gelekte documenten bleek dat de NSA in het geheim telefoongegevens, sms-berichten, e-mails, zoekopdrachten op internet en locatiegegevens van mobiele telefoons en andere apparaten verzamelde en opsloeg. Deze gegevens werden rechtstreeks verzameld bij grote technologiebedrijven zoals Google, Facebook en Apple via een programma genaamd PRISM, en dat alles zonder gerechtelijk bevel.
Uit de onthullingen van Snowden bleek ook dat de NSA niet alleen Amerikanen bespioneerde, maar ook samenwerkte met andere landen om ook burgers in die landen op grote schaal te surveilleren.
Nakasone was van 2018 tot 2022 directeur van de NSA en daarvoor commandant van het Amerikaanse Cyber Command. Naast Nakasone kondigde OpenAI aan dat het Sarah Friar zou aanstellen als Chief Financial Officer en Kevin Weil als Chief Product Officer.
Friar was voorheen CFO van betalingsbedrijf Square en vervolgens van Nextdoor voordat ze bij OpenAI kwam werken, en is ook bestuurslid bij ConsenSys. Weil bekleedde verschillende functies bij bedrijven als Planet Labs, Facebook, Instagram en Twitter voordat hij bij OpenAI kwam werken.
Gezien Nakasone’s achtergrond bij de NSA is zijn benoeming op veel kritiek gestuit in de tech-gemeenschap. Naast Snowden hebben ook andere experts en grote namen in de sector hun stem tegen het besluit laten horen.
“Van de makers van ‘kom dichterbij zodat we je ogen kunnen scannen voor gratis geld’ komt nu ‘Maak je geen zorgen dat deze NSA-directeur al je gedachten leest’”, twitterde auteur Preston Pysh, verwijzend naar het parallelle project Worldcoin van OpenAI-CEO Sam Altman, dat de biometrische gegevens van zijn gebruikers commercialiseert in ruil voor cryptovaluta.
John Hopkins-professor Matthew Green zei dat het besluit om een voormalig NSA-hoofd aan te stellen een roman van Neal Stephenson waardig was, terwijl het populaire beleggingsaccount Wall Street Silver de aankondiging bestempelde als een grote “enorme rode vlag”.
“OpenAI heeft zojuist de man aangenomen die verantwoordelijk was voor massasurveillance bij de NSA”, twitterde tech-oprichter en internetpersoonlijkheid Kim Dotcom. “Hij besteedde de illegale massasurveillance van Amerikanen uit aan Britse spionageagentschappen om de Amerikaanse wetgeving te omzeilen. Hij gaf hen onbeperkte toegang tot Amerikaanse netwerken. Dat zegt genoeg over OpenAI.”
OpenAI heeft zojuist de man aangenomen die verantwoordelijk was voor massasurveillance bij de NSA. Hij besteedde de illegale massasurveillance van Amerikanen uit aan Britse spionageagentschappen om de Amerikaanse wet te omzeilen. Hij gaf hen onbeperkte toegang tot Amerikaanse netwerken voor spionage. Dat zegt genoeg over OpenAI. https://t.co/5zKyDHfFOC
— Kim Dotcom (@KimDotcom) 14 juni 2024
Ondanks deze controverses heeft OpenAI de benoeming van Nakasone verdedigd. Volgens het bedrijf zal Nakasone zich in de eerste plaats richten op het Safety and Security Committee van de raad van bestuur, dat verantwoordelijk is voor het doen van aanbevelingen aan de volledige raad van bestuur over cruciale veiligheids- en beveiligingsbeslissingen voor alle projecten en activiteiten van OpenAI.
OpenAI verklaarde ook dat Nakasone’s inzichten zullen bijdragen aan de inspanningen van het bedrijf om beter te begrijpen hoe AI kan worden gebruikt om de cyberveiligheid te versterken door cyberdreigingen snel op te sporen en erop te reageren.
Dit is niet de eerste keer dat de acties van OpenAI tot bezorgdheid hebben geleid. Het hele “superalignment”-team dat verantwoordelijk was voor het ontwikkelen van veilig AI-beleid werd eerder ontmanteld en CEO Sam Altman richtte een team op onder zijn leiding om aanbevelingen te doen aan de raad van bestuur van OpenAI. Hij is ook lid van dat team.
Enkele dagen geleden kondigde OpenAI een samenwerking aan met Apple om zijn Apple Intelligence-dienst te ondersteunen, die beschikbaar zal zijn op de meeste van zijn apparaten: smartphones, tablets en laptops.
De stap van OpenAI zou sommige AI-gebruikers kunnen aanzetten om over te stappen op andere modellen, zoals Claude en Reka AI van Anthropic. Ondertussen heeft Venice, een start-up opgericht door de medeoprichter van de cryptobeurs ShapeShift, van het nieuws gebruikgemaakt om zijn gedecentraliseerde, privéoplossing voor gebruikers van AI-chatbots te promoten.
