Il s’agit d’une histoire d’espionnage d’entreprise que même un scénariste humain n’aurait pas pu imaginer. OpenAI, qui a suscité l’obsession mondiale pour l’IA l’année dernière, s’est retrouvée à la une des journaux avec le licenciement soudain puis la réintégration de Sam Altman, le PDG de l’entreprise.
Même si M. Altman est revenu à son poste, un nuage de questions demeure, notamment sur ce qui s’est passé en coulisses.
Certains ont décrit le chaos comme une bataille de type « Succession » ou « Game of Thrones » sur HBO. D’autres ont supposé que c’était parce qu’Altman s’était tourné vers d’autres entreprises comme Worldcoin.
Mais la dernière théorie en date, et la plus convaincante, affirme qu’il a été licencié à cause d’une simple lettre : Q.
Des sources anonymes ont déclaré à Reuters que Mira Murati, directrice technique d’OpenAI, a déclaré qu’une découverte majeure – décrite comme « Q Star » ou « Q* » – était à l’origine de la décision contre Altman, qui a été exécutée sans la participation de Greg Brockman, président du conseil d’administration, qui a ensuite démissionné d’OpenAI en signe de protestation.
Qu’est-ce que « Q* » et pourquoi devrions-nous nous en préoccuper ? Il s’agit des voies les plus probables que le développement de l’IA pourrait emprunter à partir d’ici.
Dévoiler le mystère de Q*
L’énigmatique Q* cité par Mira Murati, directeur technique d’OpenAI, a donné lieu à de nombreuses spéculations au sein de la communauté de l’IA. Ce terme pourrait faire référence à l’une de deux théories distinctes : L’apprentissage Q ou l’algorithme Q* du Maryland Refutation Proof Procedure System (MRPPS). Il est essentiel de comprendre la différence entre ces deux théories pour saisir l’impact potentiel de Q*.
Théorie 1 : L’apprentissage Q
L’apprentissage Q est un type d’apprentissage par renforcement, une méthode par laquelle l’IA apprend à prendre des décisions par essais et erreurs. Dans l’apprentissage Q, un agent apprend à prendre des décisions en estimant la « qualité » des combinaisons action-état.
Source : Simplilearn
La différence entre cette approche et l’approche actuelle d’OpenAI – connue sous le nom de Reinforcement Learning Through Human Feedback ou RLHF – est qu’elle ne repose pas sur l’interaction humaine et qu’elle fait tout toute seule.
Diagramme RLHF. Image : OpenAI
Imaginez un robot naviguant dans un labyrinthe. Avec l’apprentissage Q, il apprend à trouver le chemin le plus rapide vers la sortie en essayant différents itinéraires, en recevant des récompenses positives définies par sa propre conception lorsqu’il se rapproche de la sortie et des récompenses négatives lorsqu’il se trouve dans une impasse. Au fil du temps, par essais et erreurs, le robot développe une stratégie (une « table Q ») qui lui indique la meilleure action à entreprendre à partir de chaque position dans le labyrinthe. Ce processus est autonome et repose sur les interactions du robot avec son environnement.
Si le robot utilise la RLHF, au lieu de découvrir les choses par lui-même, un humain pourrait intervenir lorsque le robot atteint un carrefour pour indiquer si le choix du robot était judicieux ou non.
Ce retour d’information pourrait prendre la forme d’ordres directs (« tourne à gauche »), de suggestions (« essaie le chemin avec plus de lumière ») ou d’évaluations des choix du robot (« bon robot » ou « mauvais robot »).
Dans l’apprentissage Q, Q* représente l’état souhaité dans lequel un agent connaît exactement la meilleure action à entreprendre dans chaque état pour maximiser sa récompense totale attendue au fil du temps. En termes mathématiques, il répond à l’équation de Bellman.
En mai dernier, OpenAI a publié un article indiquant qu’ils avaient « formé un modèle pour atteindre un nouvel état de l’art dans la résolution de problèmes mathématiques en récompensant chaque étape correcte du raisonnement au lieu de simplement récompenser la bonne réponse finale ». S’ils ont utilisé l’apprentissage Q ou une méthode similaire pour y parvenir, cela ouvrirait un tout nouvel ensemble de problèmes et de situations que ChatGPT serait en mesure de résoudre de manière native.
Théorie 2 : Algorithme Q* de MRPPS
L’algorithme Q* fait partie du Maryland Refutation Proof Procedure System (MRPPS). Il s’agit d’une méthode sophistiquée de démonstration de théorèmes en IA, en particulier dans les systèmes de réponse aux questions.
« L’algorithme Q∗ génère des nœuds dans l’espace de recherche, en appliquant des informations sémantiques et syntaxiques pour diriger la recherche. La sémantique permet de mettre fin aux chemins et d’explorer les chemins fructueux », peut-on lire dans le document de recherche.
Image : Jack Minker
Une façon d’expliquer le processus est de considérer le détective fictif Sherlock Holmes essayant de résoudre une affaire complexe. Il recueille des indices (informations sémantiques) et les relie logiquement (informations syntaxiques) pour parvenir à une conclusion. L’algorithme Q* fonctionne de la même manière dans l’IA, en combinant des informations sémantiques et syntaxiques pour naviguer dans des processus complexes de résolution de problèmes.
Cela signifierait que l’OpenAI se rapproche d’un modèle capable de comprendre sa réalité au-delà de simples messages textuels et plus proche du J.A.R.V.I.S fictif (pour les GenZers) ou du Bat Computer (pour les boomers).
Ainsi, alors que l’apprentissage Q consiste à enseigner à l’IA à apprendre en interagissant avec son environnement, l’algorithme Q vise davantage à améliorer les capacités déductives de l’IA. Il est essentiel de comprendre ces distinctions pour apprécier les implications potentielles du « Q » d’OpenAI. Les deux algorithmes offrent un immense potentiel pour faire progresser l’IA, mais leurs applications et leurs implications varient considérablement.
Tout ceci n’est que spéculation, bien sûr, car OpenAI n’a pas expliqué le concept, ni même confirmé ou infirmé les rumeurs selon lesquelles Q* – quel qu’il soit – existe réellement.
Les implications potentielles de ‘Q’*
Le « Q* » dont parle la rumeur d’OpenAI pourrait avoir un impact vaste et varié. S’il s’agit d’une forme avancée d’apprentissage Q, cela pourrait signifier un bond en avant dans la capacité de l’IA à apprendre et à s’adapter de manière autonome dans des environnements complexes, ce qui permettrait de résoudre toute une série de nouveaux problèmes. Une telle avancée pourrait améliorer les applications de l’IA dans des domaines tels que les véhicules autonomes, où la prise de décision en une fraction de seconde en fonction de conditions en constante évolution est cruciale.
Par ailleurs, si « Q » fait référence à l’algorithme Q de MRPPS, il pourrait s’agir d’une avancée significative dans les capacités de raisonnement déductif et de résolution de problèmes de l’IA. Cela aurait un impact particulier dans les domaines nécessitant une réflexion analytique approfondie, tels que l’analyse juridique, l’interprétation de données complexes et même le diagnostic médical.
Quelle que soit sa nature exacte, « Q* » représente potentiellement une avancée significative dans le développement de l’IA, et le fait qu’il soit au cœur d’un débat existentiel de l’OpenAI est donc tout à fait justifié. Il pourrait nous rapprocher de systèmes d’IA plus intuitifs, plus efficaces et capables de gérer des tâches qui requièrent actuellement un haut niveau d’expertise humaine. Cependant, ces progrès s’accompagnent de questions et de préoccupations concernant l’éthique de l’IA, la sécurité et les implications de systèmes d’IA de plus en plus puissants dans notre vie quotidienne et dans la société en général.
Le bon et le mauvais de Q*
Les avantages potentiels de Q*:
Amélioration de la résolution des problèmes et de l’efficacité : Si le Q* est une forme avancée de l’apprentissage Q ou de l’algorithme Q*, il pourrait déboucher sur des systèmes d’IA capables de résoudre des problèmes complexes de manière plus efficace, ce qui profiterait à des secteurs tels que les soins de santé, la finance et la gestion de l’environnement.
Une meilleure collaboration entre l’homme et l’IA : Une IA dotée de meilleures capacités d’apprentissage ou de déduction pourrait renforcer le travail humain, ce qui permettrait une collaboration plus efficace en matière de recherche, d’innovation et de tâches quotidiennes.
Progrès de l’automatisation : « Q* » pourrait conduire à des technologies d’automatisation plus sophistiquées, améliorant la productivité et créant potentiellement de nouvelles industries et de nouvelles opportunités d’emploi.
Risques et préoccupations:
Questions éthiques et de sécurité : À mesure que les systèmes d’IA deviennent plus avancés, il devient de plus en plus difficile de s’assurer qu’ils fonctionnent de manière éthique et sûre. Il existe un risque de conséquences involontaires, en particulier si les actions de l’IA ne sont pas parfaitement alignées sur les valeurs humaines.
Vie privée et sécurité : Avec l’avancée de l’IA, les préoccupations en matière de protection de la vie privée et de sécurité des données s’intensifient. Les systèmes d’IA capables de comprendre et d’interagir plus profondément avec les données pourraient être utilisés à mauvais escient. Imaginez donc une IA qui appelle votre partenaire romantique lorsque vous le trompez, parce qu’elle sait que c’est mal de tromper.
Impacts économiques : L’automatisation accrue et les capacités de l’IA pourraient entraîner des déplacements d’emplois dans certains secteurs, ce qui nécessiterait des ajustements sociétaux et de nouvelles approches en matière de développement de la main-d’œuvre. Si l’IA peut presque tout faire, pourquoi avoir des travailleurs humains ?
Désalignement de l’IA : Le risque que les systèmes d’IA développent des objectifs ou des méthodes de fonctionnement qui ne correspondent pas aux intentions ou au bien-être de l’homme, ce qui pourrait avoir des conséquences néfastes. Imaginez un robot nettoyeur obsédé par l’ordre et qui ne cesse de jeter vos papiers importants ? Ou qui éliminerait complètement les créateurs de désordre…
Le mythe de l’AGI
Qu’en est-il de la rumeur Q* d’OpenAI dans la quête de l’Intelligence Générale Artificielle (AGI) – le Saint Graal de la recherche sur l’IA ?
L’AGI désigne la capacité d’une machine à comprendre, à apprendre et à appliquer l’intelligence à diverses tâches, à l’instar des capacités cognitives humaines. Il s’agit d’une forme d’IA capable de généraliser l’apprentissage d’un domaine à un autre, faisant preuve d’une véritable adaptabilité et polyvalence.
Que le Q soit une forme avancée d’apprentissage Q ou qu’il soit lié à l’algorithme Q, il est essentiel de comprendre qu’il n’équivaut pas à l’atteinte de l’AGI. Si le « Q* » peut représenter une avancée significative dans les capacités spécifiques de l’IA, l’AGI englobe un éventail plus large de compétences et de compréhension.
Atteindre l’IAG signifierait développer une IA capable d’accomplir n’importe quelle tâche intellectuelle qu’un être humain peut accomplir – une étape insaisissable.
Une machine ayant atteint le niveau Q n’est pas consciente de sa propre existence et ne peut pas encore raisonner au-delà des limites de ses données de pré-entraînement et des algorithmes définis par l’homme. Non, malgré le battage médiatique, « Q » n’est pas encore le signe avant-coureur de nos maîtres de l’IA ; c’est plutôt un grille-pain intelligent qui a appris à beurrer son propre pain.
Quant à l’AGI, qui annonce la fin de la civilisation, il se peut que nous surestimions notre importance dans la hiérarchie cosmique. Le Q* d’OpenAI est peut-être un pas de plus vers l’IA de nos rêves (ou de nos cauchemars), mais ce n’est pas tout à fait l’AGI qui s’interrogera sur le sens de la vie ou sur sa propre existence en silicium.
N’oubliez pas qu’il s’agit de la même OpenAI qui observe prudemment son ChatGPT comme un parent surveillant un enfant en bas âge avec un marqueur – fière, mais perpétuellement inquiète qu’il dessine sur les murs de l’humanité. Si « Q* » est un bond en avant, l’AGI n’en est qu’à un pas, et le mur de l’humanité est en sécurité pour l’instant.
