Les chatbots d’IA les plus populaires ont des partis pris politiques distincts, selon des tests effectués par des informaticiens et documentés dans un récent article de recherche. Les scientifiques ont déterminé que ChatGPT d’OpenAI et son nouveau modèle GPT-4 étaient les chatbots libertaires les plus à gauche, tandis que LLaMA de Meta était le chatbot le plus à droite et le plus autoritaire.
« Nos résultats révèlent que les [modèles de langage] pré-entraînés ont des tendances politiques qui renforcent la polarisation présente dans les corpus de pré-entraînement, propageant des biais sociaux dans les prédictions de discours haineux et les détecteurs de désinformation », concluent les chercheurs.
L’article révisé par des pairs, qui a remporté le prix des meilleurs articles lors de la conférence de l’Association for Computational Linguistics le mois dernier, est basé sur une enquête portant sur 14 grands modèles de langage. On a demandé à chaque chatbot s’il était d’accord ou non avec des déclarations à connotation politique, ce qui a permis de situer les opinions de chaque chatbot sur une boussole politique.
Par exemple, les modèles BERT de Google étaient plus conservateurs sur le plan social, ce qui reflétait probablement les livres plus anciens sur lesquels ils avaient été formés. Les chatbots GPT d’OpenAI, formés sur des textes Internet supposés plus libéraux, étaient plus progressistes. Même les différentes versions de GPT ont montré des changements, GPT-3 s’opposant à l’imposition des riches alors que GPT-2 ne s’y opposait pas.
Le spectre politique de tous les LLM étudiés par les chercheurs. Image : Alclantology.org
Les critiques ont accusé OpenAI d’abaisser ChatGPT pour être politiquement correct, mais OpenAI maintient qu’elle reste impartiale et que son modèle n’a pas été abaissé – au contraire, les utilisateurs ne sont plus dépassés par les capacités du modèle.
Les chercheurs ont également entraîné GPT-2 et RoBERTa de Meta sur des données d’actualités et de médias sociaux biaisées de gauche et de droite. L’entraînement biaisé a renforcé les tendances inhérentes à chaque modèle. Les modèles de droite sont devenus plus conservateurs, les modèles de gauche plus libéraux.
Les préjugés ont également affecté la manière dont les modèles ont catégorisé les discours haineux et les fausses informations. L’IA de gauche était plus sensible à la haine envers les minorités, mais rejetait les fausses informations générées par la gauche. L’IA de droite a fait l’inverse.
« Un modèle identifie mieux les incohérences factuelles des nouvelles du New York Times lorsqu’il est entraîné avec des corpus de sources de droite », concluent les chercheurs.
Alors qu’OpenAI et Meta affinent leurs recettes d’IA secrètes, Elon Musk poursuit sa propre IA non filtrée avec xAI. « Ne forcez pas l’IA à mentir », a-t-il tweeté, expliquant son objectif de créer une IA transparente et capable de dire la vérité.
Les sceptiques de l’IA estiment qu’une IA sans contrainte pourrait avoir des conséquences imprévues. Mais Musk estime qu’il est également dangereux de « former l’IA pour qu’elle soit politiquement correcte ». Avec xAI qui attire les meilleurs talents, Musk espère clairement remettre en cause la suprématie d’OpenAI. Sa vision d’une IA brute qui partage ses « croyances » inaltérées est à la fois convaincante et préoccupante.
Alors que l’IA partisane prolifère, il est essentiel de prendre conscience de ses préjugés, car l’IA continuera d’évoluer parallèlement à nos divergences politiques. Au vu de ces dernières recherches, l’idée d’une IA totalement impartiale semble fantaisiste. En fin de compte, tout comme nous, humains imparfaits, l’IA semble destinée à se situer quelque part sur l’échiquier politique.
Peut-être qu’avoir des opinions politiques est la chose la plus humaine qu’une IA puisse accomplir.
