OpenAI, la société à l’origine de ChatGPT, a suscité une vive polémique en nommant récemment le général Paul Nakasone, ancien directeur de la National Security Agency (NSA), au sein de son conseil d’administration.
Cette annonce, qui intervient au milieu d’une série de controverses remettant en question les pratiques de sécurité insuffisantes de l’entreprise et après que Mira Murati, directrice technique d’OpenAI, ait rejeté les allégations selon lesquelles l’entreprise développerait un « logiciel espion effrayant », a suscité une vive réaction de la part de personnalités éminentes, dont le célèbre lanceur d’alerte de la NSA, Edward Snowden.
« Ils ont complètement levé le masque : ne faites jamais confiance à OpenAI ou à ses produits (ChatGPT, etc.). Il n’y a qu’une seule raison pour nommer un directeur de la NSA au sein de votre conseil d’administration », a-t-il déclaré. « Il s’agit d’une trahison délibérée et calculée des droits de chaque personne sur Terre. Vous avez été prévenus. »
Edward Snowden, ancien sous-traitant de l’Agence nationale de sécurité (NSA), a divulgué en 2013 des documents classifiés qui ont révélé l’ampleur considérable des programmes de surveillance gouvernementale. Snowden a révélé que la NSA collectait et stockait sans discernement de vastes quantités de données sur des citoyens américains ordinaires et des ressortissants étrangers, même ceux qui n’étaient soupçonnés d’aucun acte répréhensible.
Les documents divulgués ont montré que la NSA collectait et stockait secrètement des enregistrements téléphoniques, des SMS, des e-mails, des recherches Internet et des données de localisation provenant de téléphones portables et d’autres appareils. Ces données étaient directement collectées auprès de grandes entreprises technologiques telles que Google, Facebook et Apple grâce à un programme appelé PRISM, le tout sans mandat.
Les révélations de Snowden ont également révélé que la NSA n’espionnait pas seulement les Américains, mais qu’elle s’était associée à d’autres nations pour mener une surveillance généralisée des citoyens de ces pays.
Nakasone a occupé le poste de directeur de la NSA de 2018 à 2022, et était auparavant commandant du Cyber Command américain. Parallèlement à Nakasone, OpenAI a annoncé l’embauche de Sarah Friar au poste de directrice financière et de Kevin Weil au poste de directeur des produits.
Friar était auparavant directrice financière de la société de paiement Square, puis de Nextdoor avant de rejoindre OpenAI. Elle est également membre du conseil d’administration de ConsenSys. Weil a occupé divers postes dans des entreprises telles que Planet Labs, Facebook, Instagram et Twitter avant de rejoindre OpenAI.
Compte tenu du passé de Nakasone à la NSA, sa nomination a été largement critiquée par la communauté technologique. Outre Snowden, d’autres experts et grands noms du secteur ont élevé leur voix contre cette décision.
« Après « approchez-vous pour que nous puissions scanner vos yeux gratuitement », voici « ne vous inquiétez pas si le directeur de la NSA scrute vos pensées » », a tweeté l’auteur Preston Pysh, faisant référence au projet parallèle de Sam Altman, PDG d’OpenAI, Worldcoin, qui commercialise les données biométriques de ses utilisateurs en échange de cryptomonnaie.
Matthew Green, professeur à l’université John Hopkins, a déclaré que la décision de nommer un ancien directeur de la NSA était digne d’un roman de Neal Stephenson, tandis que le compte d’investissement populaire Wall Street Silver a qualifié cette annonce de « signal d’alarme majeur ».
« OpenAI vient d’embaucher le responsable de la surveillance de masse à la NSA », a tweeté Kim Dotcom, fondateur d’une entreprise technologique et personnalité du web. « Il a externalisé l’espionnage illégal des Américains à des agences de renseignement britanniques afin de contourner la loi américaine. Il leur a donné un accès illimité aux réseaux américains. Cela en dit long sur OpenAI. »
OpenAI vient d’embaucher l’ancien responsable de la surveillance de masse à la NSA. Il a externalisé l’espionnage illégal à grande échelle des Américains à des agences de renseignement britanniques afin de contourner la loi américaine. Il leur a donné un accès illimité aux réseaux américains. Cela en dit long sur OpenAI. https://t.co/5zKyDHfFOC
— Kim Dotcom (@KimDotcom) 14 juin 2024
Malgré ces controverses, OpenAI a défendu la nomination de Nakasone. Selon l’entreprise, la priorité de Nakasone sera de rejoindre le comité de sécurité et de sûreté du conseil d’administration, qui est chargé de formuler des recommandations à l’ensemble du conseil d’administration sur les décisions critiques en matière de sécurité et de sûreté pour tous les projets et opérations d’OpenAI.
OpenAI a également déclaré que les connaissances de Nakasone contribueraient aux efforts de l’entreprise pour mieux comprendre comment l’IA peut être utilisée pour renforcer la cybersécurité en détectant et en répondant rapidement aux menaces de cybersécurité.
Ce n’est pas la première fois que les actions d’OpenAI suscitent des inquiétudes. L’ensemble de l’équipe « superalignment » chargée d’élaborer des politiques en matière d’IA sûre a été démantelée, et le PDG Sam Altman a créé une équipe sous sa direction afin d’envoyer des recommandations au conseil d’administration d’OpenAI. Il est également membre de cette équipe.
Il y a quelques jours à peine, OpenAI a annoncé un partenariat avec Apple afin de contribuer à l’alimentation de son service Apple Intelligence, qui sera disponible sur la plupart de ses appareils : smartphones, tablettes et ordinateurs portables.
La décision d’OpenAI pourrait pousser certains utilisateurs d’IA vers d’autres modèles, tels que Claude et Reka AI d’Anthropic. Parallèlement, Venice, une start-up créée par le cofondateur de la crypto-bourse ShapeShift, a profité de l’occasion pour promouvoir sa solution décentralisée et privée destinée aux utilisateurs de chatbots IA en réponse à cette nouvelle.
