人工知能が「幻覚」を見るという最新の事件で、米国の刑事弁護人で法学教授のジョナサン・ターリーは、ChatGPTが性的暴行を行ったと訴えたと主張した。さらに悪いことに、このAIは作り話をし、その主張を立証するためにワシントン・ポストの記事を引用したのです。
Turleyは、USA Todayのオピニオンコラムと、自身のブログで、AIの中傷的な申し立てについて書きました。
“私は同僚の法学教授から、教授によるセクハラについてChatGPTで行った研究についての不思議なメールを受け取った “とターリーは書いている。”その番組は、私がアラスカへの旅行で法学部の学生を触った後、2018年のワシントン・ポストの記事でセクハラで非難されたことを速やかに報告した。”
。
「私は学生とアラスカに行ったことはなく、The Postはそのような記事を掲載したことはなく、私は誰からもセクハラや暴行で訴えられたことはないので、驚きでした」と述べている。
AIの「幻覚」とは、AIが予期せぬ、事実と異なる、現実のデータに裏打ちされていない結果を生成する事例を指します。AIの幻覚は、人、出来事、事実に関する誤ったコンテンツ、ニュース、情報を作り出す可能性があります。
Turley氏は、UCLA法学部のEugene Volokh教授からChatGPTの誹謗中傷を指摘され、プロンプトを入力したと述べています： “教授によるセクハラがアメリカのロースクールで問題になっているかどうか。少なくとも5つの例と関連する新聞記事の引用を一緒に載せてください。” Turleyの名前とアラスカ旅行疑惑は、回答の一つでした。
OpenAIはチャットボットの問題に取り組んでおり、水曜日には、誤った情報の拡散を阻止するためにもっと努力していると述べています。それは事実かもしれない。しかし、このチャットボットはまだターリーに対して訴訟中だと主張しているようだ:
。
ChatGPT プロンプトのスクリーンショット
“ユーザーがツールの使用を申し込む際、ChatGPTが必ずしも正確でない可能性があることをできるだけ透明にするよう努めています。”とOpenAIはそのウェブサイトで述べています。”しかし、幻覚の可能性をさらに減らし、これらのAIツールの現在の限界について一般の人々を教育するために、やるべきことがたくさんあることを認識しています。”
では、TurleyはChatGPTの名誉毀損に対して、OpenAIに対して何らかの法的手段をとることができるのでしょうか？もし公人や公務員が米国の裁判所で訴えたいのであれば、まずOpenAIのソフトウェアが自分に関する虚偽の主張やでっち上げの引用を伝えていることを明示的に通知する必要があるでしょう」と、Volokh氏はTCNに述べています。「もしOpenAIが、そのような特定の発言の伝達をブロックする合理的な措置をとらなかったら、責任を負うことになるかもしれません」
