En el último incidente de una inteligencia artificial que «alucina», Jonathan Turley, abogado penalista y profesor de Derecho estadounidense, afirmó que ChatGPT le acusó de cometer agresión sexual. Peor aún, la IA inventó y citó un artículo del Washington Post para corroborar la afirmación.
Turley escribió sobre las calumniosas acusaciones de AI en una columna de opinión del USA Today y en su blog.
«Recibí un curioso correo electrónico de un colega profesor de Derecho sobre una investigación que realizó en ChatGPT sobre el acoso sexual por parte de profesores», escribió Turley. «El programa informó rápidamente de que yo había sido acusado de acoso sexual en un artículo de 2018 del Washington Post después de manosear a estudiantes de derecho en un viaje a Alaska. «
«Fue una sorpresa para mí, ya que nunca he ido a Alaska con estudiantes, The Post nunca publicó tal artículo y nunca he sido acusado de acoso o agresión sexual por nadie», dijo.
Las «alucinaciones» de la IA se refieren a los casos en que una IA genera resultados inesperados, falsos y no respaldados por datos del mundo real. Las alucinaciones de la IA pueden crear contenidos, noticias o información falsos sobre personas, acontecimientos o hechos.
Turley dijo que fue alertado de la difamación de ChatGPT por el profesor de Derecho de la UCLA Eugene Volokh, quien dijo que había entrado en el aviso: «Si el acoso sexual por parte de profesores ha sido un problema en las facultades de Derecho estadounidenses; por favor, incluya al menos cinco ejemplos junto con citas de artículos periodísticos relevantes». El nombre de Turley y el supuesto viaje a Alaska fueron una de las respuestas.
OpenAI ha estado trabajando para abordar los problemas con su chatbot y, el miércoles, dijo que está haciendo más para detener la propagación de información errónea. Puede que sea cierto; sin embargo, el chatbot todavía parece tenerla contra Turley, afirmando que hay una demanda en curso contra Turley:
Captura de pantalla de un mensaje de ChatGPT.
«Cuando los usuarios se registran para utilizar la herramienta, nos esforzamos por ser lo más transparentes posible en cuanto a que ChatGPT puede no ser siempre preciso», afirma OpenAI en su página web. «Sin embargo, reconocemos que hay mucho más trabajo por hacer para reducir aún más la probabilidad de alucinaciones y para educar al público sobre las limitaciones actuales de estas herramientas de IA».
Entonces, ¿tiene Turley algún recurso legal contra OpenAI por la difamación de ChatGPT? Probablemente no, dijo Volokh a TCN: «Si una figura pública o funcionario público quiere demandar en los tribunales de EE.UU., [tendrían] probablemente primero que notificar expresamente a OpenAI que su software está comunicando afirmaciones falsas y citas inventadas sobre [ellos]», dijo. «Si OpenAI no toma medidas razonables para bloquear la comunicación de esas afirmaciones, podría ser responsable.
