В очередном случае «галлюцинаций» искусственного интеллекта Джонатан Терли, американский адвокат по уголовным делам и профессор права, заявил, что ChatGPT обвинил его в сексуальном насилии. Хуже того, искусственный интеллект выдумал это утверждение и сослался на статью в Washington Post.
Терли написал о клеветнических обвинениях ИИ в колонке мнений USA Today и в своем блоге.
«Я получил любопытное письмо от коллеги-профессора права об исследовании, которое он проводил на ChatGPT о сексуальных домогательствах со стороны профессоров», — написал Терли. «Программа незамедлительно сообщила, что в 2018 году в статье в Washington Post меня обвинили в сексуальных домогательствах после того, как я лапал студентов-юристов во время поездки на Аляску. «
«Для меня это было неожиданностью, поскольку я никогда не ездил со студентами на Аляску, газета The Post никогда не публиковала подобную статью, и меня никто не обвинял в сексуальных домогательствах или нападениях», — сказал он.
Под «галлюцинациями» ИИ понимаются случаи, когда ИИ генерирует результаты, которые являются неожиданными, не соответствуют действительности и не подкреплены реальными данными. Галлюцинации ИИ могут создавать ложный контент, новости или информацию о людях, событиях или фактах.
По словам Терли, о клевете ChatGPT его предупредил профессор права Калифорнийского университета Юджин Волох, который сказал, что ввел подсказку: «Являются ли сексуальные домогательства со стороны профессоров проблемой в американских юридических школах; пожалуйста, приведите не менее пяти примеров вместе с цитатами из соответствующих газетных статей». Имя Терли и предполагаемая поездка на Аляску были одним из ответов.
OpenAI работает над решением проблем со своим чат-ботом и в среду заявила, что делает больше для того, чтобы остановить распространение дезинформации. Возможно, это правда; однако чат-бот, похоже, все еще имеет зуб на Терли, утверждая, что против Терли ведется судебный процесс:
Скриншот запроса ChatGPT.
«Когда пользователи подписываются на использование инструмента, мы стараемся быть максимально прозрачными в том, что ChatGPT не всегда может быть точным», — говорится на сайте OpenAI. «Однако мы признаем, что предстоит еще много работы, чтобы еще больше снизить вероятность галлюцинаций и просветить общественность о текущих ограничениях этих инструментов ИИ».
Так есть ли у Терли какие-либо судебные средства против OpenAI за клевету со стороны ChatGPT? Скорее всего, пока нет, сказал Волох в интервью TCN: «Если общественный деятель или чиновник захочет подать иск в американские суды, [им], вероятно, придется сначала явно уведомить OpenAI о том, что ее программное обеспечение передает ложные утверждения и выдуманные цитаты о [них]», — сказал он. «Если OpenAI не предпримет разумных мер для блокирования передачи этих конкретных заявлений, то вполне может быть привлечена к ответственности. «
