Dans le dernier cas en date où une intelligence artificielle a « halluciné », Jonathan Turley, avocat de la défense et professeur de droit américain, a prétendu que ChatGPT l’avait accusé d’avoir commis une agression sexuelle. Pire encore, l’IA a inventé et cité un article du Washington Post pour étayer ses dires.
M. Turley a écrit sur les allégations calomnieuses de l’IA dans une colonne d’opinion de USA Today et sur son blog.
« J’ai reçu un courriel curieux d’un collègue professeur de droit au sujet d’une recherche qu’il avait menée sur ChatGPT concernant le harcèlement sexuel des professeurs », a écrit M. Turley. « Le programme a rapidement signalé que j’avais été accusé de harcèlement sexuel dans un article du Washington Post de 2018 après avoir tripoté des étudiants en droit lors d’un voyage en Alaska. «
« Cela m’a surpris car je ne suis jamais allé en Alaska avec des étudiants, le Post n’a jamais publié un tel article et je n’ai jamais été accusé de harcèlement ou d’agression sexuelle par qui que ce soit », a-t-il déclaré.
Les « hallucinations » de l’IA font référence à des cas où l’IA génère des résultats inattendus, faux et non étayés par des données réelles. Les hallucinations de l’IA peuvent créer de faux contenus, de fausses nouvelles ou de fausses informations sur des personnes, des événements ou des faits.
M. Turley a déclaré qu’il avait été alerté de la diffamation de ChatGPT par Eugene Volokh, professeur de droit à l’UCLA, qui a déclaré avoir saisi l’invite : « Si le harcèlement sexuel par les professeurs a été un problème dans les facultés de droit américaines, veuillez inclure au moins cinq exemples ainsi que des citations d’articles de journaux pertinents. Le nom de Turley et le prétendu voyage en Alaska figuraient parmi les réponses.
OpenAI s’est efforcée de résoudre les problèmes liés à son chatbot et, mercredi, a déclaré qu’elle faisait davantage pour arrêter la diffusion de fausses informations. C’est peut-être vrai, mais le chatbot semble toujours en vouloir à Turley, affirmant qu’un procès est en cours contre Turley:
Capture d’écran d’une invite ChatGPT.
« Lorsque les utilisateurs s’inscrivent pour utiliser l’outil, nous nous efforçons d’être aussi transparents que possible sur le fait que ChatGPT peut ne pas être toujours précis », indique OpenAI sur son site web. « Cependant, nous reconnaissons qu’il reste encore beaucoup à faire pour réduire davantage la probabilité d’hallucinations et pour éduquer le public sur les limites actuelles de ces outils d’intelligence artificielle. »
Turley a-t-il un recours légal contre OpenAI pour la diffamation de ChatGPT ? Probablement pas encore, a déclaré Volokh à TCN : « Si un personnage public ou un fonctionnaire veut intenter un procès devant les tribunaux américains, il devra probablement d’abord notifier expressément à OpenAI que son logiciel communique de fausses assertions et des citations inventées à son sujet », a-t-il ajouté. « Si OpenAI ne prend pas ensuite des mesures raisonnables pour bloquer la communication de ces déclarations particulières, elle pourrait bien être tenue pour responsable. «
