Geoffrey Hinton, pionnier de l’intelligence artificielle connu comme l’un des « parrains de l’IA », a démissionné de son poste chez Google afin de pouvoir exprimer ouvertement ses inquiétudes sur la façon dont l’IA pourrait causer des dommages importants au monde.
Dans une interview accordée au New York Times, M. Hinton a admis qu’il regrettait aujourd’hui en partie l’œuvre de sa vie. Malgré les utilisations bénéfiques de l’I.A., M. Hinton craint que la technologie ne soit utilisée de manière irresponsable et n’entraîne des conséquences imprévues.
Il craint que la concurrence entre les géants de la technologie comme Google et Microsoft pour créer l’I.A. la plus avancée ne débouche sur une course mondiale qui ne s’arrêtera pas sans une certaine forme de réglementation mondiale. Cependant, il a également insisté sur le fait qu’il pensait que Google avait agi de manière responsable dans ses recherches:
Dans le NYT d’aujourd’hui, Cade Metz laisse entendre que j’ai quitté Google pour pouvoir le critiquer. En fait, je suis parti pour pouvoir parler des dangers de l’IA sans tenir compte de l’impact sur Google. Google a agi de manière très responsable.
– Geoffrey Hinton (@geoffreyhinton) May 1, 2023
Hinton est connu pour avoir popularisé le développement théorique des réseaux neuronaux en 1986 et pour en avoir créé un capable de reconnaître des images en 2012. Son travail a été crucial pour le développement des modèles d’art génératif actuels tels que Stable Diffusion et MidJourney, et a jeté les bases des efforts à venir de l’OpenAI pour rendre GPT-4 capable d’interagir avec les images.
Sa décision, qui pourrait être tardive, a conduit de nombreuses personnes à le comparer à J. Robert Oppenheimer, un professeur de physique à qui l’on doit la création de la bombe atomique.
Les risques de l’IA
L’un des problèmes immédiats soulignés par Hinton est la prolifération d’images, de vidéos et de textes falsifiés en ligne, qui pourrait rendre la vérité de plus en plus difficile à discerner pour le commun des mortels. Alors que l’IA générative continue de s’améliorer, les créateurs de faux contenus et de contenus manipulateurs pourraient utiliser ces outils pour tromper et confondre les gens.
M. Hinton s’inquiète également de la manière dont l’IA pourrait affecter les emplois à l’avenir. Si les chatbots tels que ChatGPT complètent actuellement les travailleurs humains, ils pourraient à terme remplacer ceux qui s’occupent de tâches routinières, comme les assistants personnels, les comptables et les traducteurs. Bien que l’IA puisse alléger certaines tâches monotones, elle pourrait également supprimer plus d’emplois que prévu, ce qui perturberait l’équilibre social.
À long terme, M. Hinton craint que les futures versions de la technologie ne constituent une menace pour l’humanité en raison des comportements inattendus qu’elles pourraient apprendre à partir des grands volumes de données qu’elles analysent. Cela devient un problème lorsque les systèmes d’IA sont autorisés à générer et à exécuter leur propre code.
Cette vision à long terme a également pris une importance particulière lorsque d’autres personnalités du domaine de l’IA ont commencé à mettre en garde contre la possibilité d’un scénario « foom », dans lequel l’IA surpasserait de loin l’intelligence humaine, et contre l’impact que cela pourrait avoir sur le développement de la société.
M. Hinton n’est que l’un des milliers de leaders technologiques et de chercheurs alarmés par la progression exponentielle des développements de l’IA dans divers domaines (des conversations érotiques aux diagnostics médicaux). Le mois dernier, une lettre ouverte a gagné en popularité, dans laquelle des dirigeants ont appelé à une pause dans le développement de l’IA jusqu’à ce que des contrôles adéquats soient mis en place. Mme Hinton ne l’a pas signée.
L’évolution de la position de M. Hinton sur l’IA reflète une prise de conscience croissante des risques et des défis liés à l’évolution rapide de la technologie. Pour M. Hinton, il était important de démissionner de l’œuvre de sa vie afin d’éviter un scénario qui, selon lui, se rapproche chaque jour un peu plus.
« Regardez ce qui s’est passé il y a cinq ans et ce qui se passe aujourd’hui », a-t-il déclaré au New York Times. « Prenez la différence et propagez-la vers l’avant. C’est effrayant. «
