Les Nations Unies ont tiré la sonnette d’alarme sur les deepfakes générés par l’IA qui sont utilisés pour répandre la haine et la désinformation sur les médias sociaux. Dans un rapport publié lundi et intitulé « Intégrité de l’information sur les plateformes numériques », l’organisation mondiale souligne la nécessité d’une utilisation responsable de l’IA.
« Tout en offrant un potentiel presque inimaginable pour relever les défis mondiaux, il existe des préoccupations sérieuses et urgentes concernant le potentiel tout aussi puissant des avancées récentes en matière d’intelligence artificielle – y compris les générateurs d’images et les deepfakes vidéo – pour menacer l’intégrité de l’information », indique le rapport de l’ONU.
L’intégrité de l’information fait référence à l’exactitude, à la cohérence et à la fiabilité de l’information, qui, selon les Nations unies, est menacée par la désinformation, la mésinformation et les discours de haine.
« Ces risques se sont encore intensifiés en raison des progrès rapides de la technologie, tels que l’intelligence artificielle générative », a écrit le secrétaire général de l’ONU, M. Guterres, dans l’introduction du rapport. « Il est devenu évident que le maintien du statu quo n’est pas une option. «
L’IA générative est un type de programme, généralement présenté sous la forme d’un chatbot, qui est capable de générer du texte, des images ou d’autres médias en réponse à des invites.
Le rapport des Nations unies s’inquiète des effets des deepfakes et de la désinformation générée par l’IA dans les zones de conflit.
L’utilisation de discours de haine a souvent été observée comme un précurseur de crimes atroces tels que le génocide, note l’ONU. Le rapport souligne également que la Convention de 1948 pour la prévention et la répression du crime de génocide interdit toute incitation directe ou publique pouvant conduire au génocide.
La prolifération de la haine et des mensonges dans l’espace numérique cause de graves dommages à l’échelle mondiale.
Cette menace mondiale claire et actuelle exige une action mondiale claire et coordonnée.
– @antonioguterres lance son nouveau rapport sur l’intégrité de l’information sur les plateformes numériques. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– Nations Unies (@UN) 12 juin 2023
Sans donner d’exemples précis, le rapport de l’ONU attire l’attention sur des cas récents d’utilisation de l’IA générative pour créer, dans certains cas, des contenus et des images convaincants et trompeurs.
En mars, une image générée par l’IA de l’arrestation de l’ancien président Donald Trump est devenue virale après avoir été partagée sur Twitter par Eliot Higgins, fondateur et directeur de la création de Bellingcat. Le même mois, Midjourney, la société à l’origine du générateur d’IA texte-image du même nom, a mis fin à sa version d’essai gratuite en raison d’abus généralisés.
« Toutes les parties prenantes devraient prendre des mesures urgentes et immédiates pour garantir l’utilisation sûre, sécurisée, responsable, éthique et conforme aux droits de l’homme de l’intelligence artificielle et s’attaquer aux implications des récentes avancées dans ce domaine pour la propagation de la désinformation et des discours haineux », a déclaré l’ONU.
Le rapport appelle les propriétaires de plateformes numériques à investir dans des systèmes de modération de contenu qui utilisent à la fois l’intelligence humaine et artificielle pour toutes les langues utilisées dans les pays où ils opèrent, et à rendre transparent le signalement des contenus.
L’organisme international a déclaré que l’ère de la philosophie de la Silicon Valley « aller vite et casser les choses » doit cesser et que la vie privée des utilisateurs, la sécurité et la transparence sont essentielles et doivent être intégrées dès le départ dans les nouvelles technologies.
M. Guterres a souligné que le prochain Sommet du futur, qui se tiendra en 2024, sera l’occasion d’adopter des solutions multilatérales.
« Les défis auxquels nous sommes confrontés ne peuvent être relevés que par une coopération internationale plus forte », a déclaré le Secrétaire général Guterres.
