Les dangers de l’IA générative ont de nouveau fait l’objet de discussions de haut niveau entre les dirigeants du monde entier, le secrétaire général des Nations unies se joignant à un nombre croissant de voix appelant à réglementer cette technologie.
« Les sonnettes d’alarme concernant la dernière forme d’intelligence artificielle, l’IA générative, sont assourdissantes, et ce sont les développeurs qui l’ont conçue qui les tirent le plus fort », a déclaré António Guterres lors d’une conférence de presse lundi. « Les scientifiques et les experts ont appelé le monde à agir, déclarant que l’IA est une menace existentielle pour l’humanité au même titre que le risque de guerre nucléaire. «
« Nous devons prendre ces avertissements au sérieux », a déclaré le Secrétaire général de l’ONU.
Les commentaires de M. Guterres sont intervenus le jour même où l’ONU a publié un rapport intitulé « Intégrité de l’information sur les plateformes numériques », qui souligne la nécessité d’une utilisation responsable de l’IA et met en garde contre l’utilisation de « deepfakes » dans les zones de conflit.
Aujourd’hui également, le Parlement européen a adopté ce qu’il décrit comme « la toute première législation au monde sur l’IA ».
Faire l’histoire en façonnant notre avenir.
C’est ce que signifie le vote d’aujourd’hui sur la toute première législation mondiale en matière d’intelligence artificielle.
Il s’agit pour l’Europe de prendre la tête de l’innovation numérique. pic.twitter.com/jICNwcX9hy
– Roberta Metsola (@EP_President) 14 juin 2023
Alors que l’intelligence artificielle est une préoccupation essentielle pour Guterres, le Secrétaire général a déclaré que l’avènement de l’IA ne devrait pas détourner l’attention des dommages que la technologie numérique cause déjà dans le monde entier, compte tenu de la montée des discours de haine et de la désinformation en ligne.
« La prolifération de la haine et des mensonges dans l’espace numérique cause aujourd’hui de graves dommages à l’échelle mondiale », a-t-il déclaré, « elle alimente aujourd’hui les conflits, la mort et la destruction. Elle menace la démocratie et les droits de l’homme. Elle compromet la santé publique et l’action en faveur du climat.
M. Guterres a indiqué qu’il créerait et nommerait les membres d’un comité consultatif sur l’intelligence artificielle chargé de gérer les initiatives liées à l’intelligence artificielle. Ce conseil sera composé d’experts en intelligence artificielle et de scientifiques de l’Union internationale des télécommunications (UIT) et de l’Organisation pour l’éducation, la science et la culture (UNESCO).
Le Secrétaire général a également déclaré qu’il serait favorable à la création d’une agence de l’intelligence artificielle inspirée de l’Agence internationale de l’énergie atomique.
Fondée en 1957, l’Agence internationale de l’énergie atomique (AIEA) est un organisme des Nations unies chargé de superviser les activités nucléaires mondiales.
« L’avantage de l’AIEA est qu’il s’agit d’une institution très solide basée sur la connaissance, et en même temps, même si elle est limitée, elle a des fonctions de régulation », a déclaré António Guterres. « Je pense donc qu’il s’agit d’un modèle qui pourrait être très intéressant.
Le PDG d’OpenAI, Sam Altman, qui a témoigné devant la commission judiciaire du Sénat américain, a lui aussi appelé à la création d’un organisme gouvernemental chargé de fixer des normes pour le développement de l’intelligence artificielle.
« Je créerais une nouvelle agence qui délivrerait des licences pour tout effort dépassant une certaine échelle de capacités, et qui pourrait retirer cette licence et garantir le respect des normes de sécurité », a déclaré M. Altman, ajoutant que cette agence devrait exiger des audits indépendants de toute technologie d’intelligence artificielle.
Bien que le secrétaire général soit favorable à la création d’une nouvelle agence internationale, il a reconnu que l’ONU n’investissait pas suffisamment dans l’administration publique, ce qui signifie que toute action nécessiterait l’initiative des États membres et la bonne volonté des parties concernées.
« Aujourd’hui, nous sentons combien il est difficile pour les États et les organisations internationales de rivaliser d’un point de vue scientifique et technique avec les plateformes qui, entre-temps, ont acquis un énorme potentiel et une énorme connaissance », a déclaré M. Guterres.
À la suite du lancement du GPT-4 d’OpenAI en mars, une pétition en ligne lancée par le Future of Life Institute a appelé à une pause de six mois dans la formation des systèmes d’IA. Des personnalités du secteur technologique, dont Elon Musk, PDG de Tesla, et Steve Wozniak, cofondateur d’Apple, ont signé la lettre.
