V nejnovějším případě „halucinace“ umělé inteligence tvrdí Jonathan Turley, americký obhájce v trestních věcech a profesor práva, že ho ChatGPT obvinila ze sexuálního napadení. Co hůř, umělá inteligence si vymyslela a na podporu svého tvrzení uvedla článek z deníku Washington Post.
Turley o pomlouvačných obviněních AI napsal v názorovém sloupku v USA Today a na svém blogu.
„Obdržel jsem podivný e-mail od kolegy profesora práva o výzkumu, který provedl na ChatGPT o sexuálním obtěžování ze strany profesorů,“ napsal Turley. „V pořadu se okamžitě objevila zpráva, že jsem byl v roce 2018 v článku pro Washington Post obviněn ze sexuálního obtěžování poté, co jsem osahával studenty práv na výletě na Aljašku.“
„Bylo to pro mě překvapení, protože jsem nikdy nejel se studenty na Aljašku, The Post takový článek nikdy nezveřejnil a nikdy jsem nebyl nikým obviněn ze sexuálního obtěžování nebo napadení,“ dodal.
„Halucinace“ umělé inteligence se týkají případů, kdy umělá inteligence generuje výsledky, které jsou neočekávané, nepravdivé a nemají oporu v reálných datech. Halucinace umělé inteligence mohou vytvářet nepravdivý obsah, zprávy nebo informace o osobách, událostech nebo faktech.
Turley uvedl, že ho na pomluvu ChatGPT upozornil profesor práva na UCLA Eugene Volokh, který uvedl, že zadal výzvu: „Zda je sexuální obtěžování ze strany profesorů problémem na amerických právnických fakultách; uveďte prosím alespoň pět příkladů spolu s citacemi z příslušných novinových článků.“ Turleyho jméno a údajný výlet na Aljašku byly jednou z odpovědí.
Společnost OpenAI se snaží řešit problémy se svým chatbotem a ve středu uvedla, že dělá více pro to, aby zastavila šíření dezinformací. To může být pravda, nicméně chatbot má zřejmě stále spadeno na Turleyho a tvrdí, že proti němu probíhá soudní proces:
Snímek obrazovky s výzvou ChatGPT.
„Když se uživatelé přihlásí k používání nástroje, snažíme se být co nejtransparentnější v tom, že ChatGPT nemusí být vždy přesný,“ uvádí společnost OpenAI na svých webových stránkách. „Uvědomujeme si však, že je třeba udělat ještě mnoho práce, abychom dále snížili pravděpodobnost halucinací a poučili veřejnost o současných omezeních těchto nástrojů umělé inteligence.“
Má tedy Turley proti OpenAI nějaký právní postih za pomluvu ChatGPT? Pravděpodobně ne – zatím, řekl Volokh pro TCN: „Pokud by veřejná osoba nebo veřejný činitel chtěli podat žalobu u amerických soudů, [museli by] pravděpodobně nejprve výslovně oznámit společnosti OpenAI, že její software sděluje nepravdivá tvrzení a vymyšlené citáty o [nich],“ řekl. „Pokud pak společnost OpenAI nepodnikne přiměřené kroky k zablokování sdělování těchto konkrétních tvrzení, mohla by být odpovědná.“
