Un groupe d’éminents technologues, chercheurs et autres influenceurs demandent à OpenAI de mettre en pause la formation de son outil artificiel, ChatGPT.
Des personnalités de l’IA, dont Elon Musk, Steve Wozniak et Andrew Yang, ont apparemment signé une lettre ouverte appelant à une pause de six mois dans le développement de systèmes d’IA plus puissants que GPT-4, la version actuelle de l’outil génératif qui a été lancé pour la première fois en novembre 2022.
Dans la lettre, les auteurs affirment que si l’entreprise privée ne parvient pas à cesser d’entraîner son IA au-delà de la mise en œuvre actuelle du GPT4, les « gouvernements » devraient forcer les choses.
« Nous demandons à tous les laboratoires d’IA d’interrompre immédiatement, pendant au moins six mois, la formation de systèmes d’IA plus puissants que le GPT-4. Cette pause devrait être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut être mise en place rapidement, les gouvernements devraient intervenir et instituer un moratoire », indique la lettre.
La lettre compte actuellement plus de 1 100 signatures. Certains se sont toutefois demandé si tous les signataires de renom avaient réellement signé la lettre. Parmi les noms notables, citons Yoshua Bengio, lauréat du prix Turing, Stuart Russell, directeur du Center for Intelligent Systems, Emad Mostaque, PDG de Stability AI, et Chris Larsen, cofondateur de Ripple.
Un porte-parole du projet a déclaré que les premières signatures avaient été vérifiées, mais que l’affichage des noms avait été interrompu en raison de la forte demande.
« Tous les premiers signataires de la liste ont fait l’objet d’une vérification indépendante », a déclaré Anthony Aguirre, vice-président du Future of Life Institute, à TCN. Il a ajouté : « Faire cela pour l’ensemble de la liste (qui dépasse largement les 30 000 noms) dépasse notre capacité ».
Une note sur le site indique : « En raison de la forte demande, nous continuons à recueillir des signatures, mais nous suspendons leur apparition sur la lettre afin que nos processus de vérification puissent rattraper leur retard. »
Musk, l’un des cofondateurs d’OpenAI, a démissionné du conseil d’administration en 2018 mais aurait investi 100 millions de dollars dans le projet.
L’arrivée de GPT4 il y a deux semaines a suscité à la fois de l’excitation – certains annonçant son arrivée comme plus importante que l’arrivée du feu – et de l’inquiétude chez les personnes craignant que, sans contrôle, elle n’anéantisse l’humanité.
La lettre affirme que les systèmes d’IA dotés d’une intelligence compétitive avec celle des humains présentent des risques importants pour la société et l’humanité. Elle affirme que l’accent devrait être mis sur l’amélioration de la précision, de la sécurité, de la transparence, de la robustesse et de la fiabilité des systèmes existants, tout en accélérant le développement de systèmes de gouvernance de l’IA.
« L’humanité peut jouir d’un avenir florissant avec l’IA », a déclaré le rapport, notant que « la société a mis en pause d’autres technologies ayant des effets potentiellement catastrophiques sur la société. Nous pouvons faire de même ici. Profitons d’un long été de l’IA et ne nous précipitons pas sans préparation vers l’automne.
En réponse à un tweet sur la pétition, Musk a répondu : « Les principaux développeurs [d’intelligence artificielle] ne tiendront pas compte de cet avertissement, mais au moins il a été dit. «
Les principaux développeurs d’AGI ne tiendront pas compte de cet avertissement, mais au moins cela a été dit
– Elon Musk (@elonmusk) Le 29 mars 2023
OpenAI n’a pas encore répondu à une demande de commentaire.
