Със заплахата от изкуствения интелект за демокрацията, която е основна грижа за политиците и избирателите по света, OpenAI представи в понеделник своя план за осигуряване на прозрачност на съдържанието, генерирано от изкуствен интелект, и за подобряване на надеждната информация за гласуването преди изборите през 2024 г.
След стартирането на GPT-4 през март генеративният ИИ и потенциалната му злоупотреба, включително генерираните от ИИ дълбоки фалшификати, се превърнаха в основна част от разговора около стремителния възход на ИИ през 2023 г. През 2024 г. може да станем свидетели на сериозни последици от подобна дезинформация, задвижвана от ИИ, на фона на важни избори, включително президентската надпревара в САЩ.
„Докато се подготвяме за изборите през 2024 г. в най-големите демокрации в света, нашият подход е да продължим работата си по безопасността на платформите, като издигнем точната информация за гласуването, приложим премерени политики и подобрим прозрачността“, заяви OpenAI в публикация в блога си.
OpenAI добави, че „обединява експертния опит на нашите системи за безопасност, разузнаване на заплахи, правни, инженерни и политически екипи, за да разследва бързо и да се справи с потенциални злоупотреби.“
Снимка на това как се подготвяме за световните избори през 2024 г:
– Работим за предотвратяване на злоупотреби, включително заблуждаващи дълбоки фалшификации
– Осигуряване на прозрачност на съдържанието, генерирано от изкуствен интелект
– Подобряване на достъпа до достоверна информация за гласуванетоhttps://t.co/qsysYy5l0L– OpenAI (@OpenAI) January 15, 2024
През август Федералната избирателна комисия на САЩ заяви, че ще продължи разглеждането на петиция за забрана на генерираните от изкуствен интелект реклами за кампании, като комисарят на ФИК Алън Дикерсън заяви: „На фона на тези усилия се крият сериозни опасения, свързани с Първата поправка“.
За американските клиенти на ChatGPT OpenAI заяви, че ще насочва потребителите към непартийния уебсайт CanIVote.org, когато им бъдат зададени „определени процедурни въпроси, свързани с изборите“. Компанията твърди, че въвеждането на тези промени ще информира за подхода ѝ в световен мащаб.
„Очакваме с нетърпение да продължим да работим с партньорите си и да се учим от тях, за да предвидим и предотвратим потенциални злоупотреби с нашите инструменти в навечерието на тазгодишните глобални избори“, добави тя.
В ChatGPT OpenAI заяви, че не позволява на разработчиците да създават чатботове, които се преструват на истински хора или институции като държавни служители и ведомства. Също така, OpenAI заяви, че не са разрешени приложения, които имат за цел да попречат на хората да гласуват, включително да ги разубедят да гласуват или да представят невярно кой има право да гласува.
Генерираните от ИИ дълбоки фалшификати, фалшиви изображения, видеоклипове и аудиоклипове, създадени с помощта на генеративен ИИ, станаха вирусни миналата година, като няколко от тях с участието на президента на САЩ Джо Байдън, бившия президент Доналд Тръмп и дори папа Франциск се превърнаха във фокус на изображенията, споделяни в социалните медии.
За да спре използването на своя генератор на изображения Dall-E 3 в кампаниите за дълбоки фалшификати, OpenAI заяви, че ще приложи удостоверенията за съдържание на Коалицията за доказване и автентичност на съдържанието, които добавят знак или „икона“ към изображение, генерирано от ИИ.
„Експериментираме и с класификатор на произхода – нов инструмент за откриване на изображения, генерирани от Dall-E“, заявиха от OpenAI. „Нашите вътрешни тестове показаха обещаващи ранни резултати, дори когато изображенията са били подложени на обичайни видове модификации.“
Миналия месец папа Франциск призова световните лидери да приемат обвързващ международен договор за регулиране на ИИ.
„Присъщото достойнство на всяко човешко същество и братството, което ни свързва като членове на единното човешко семейство, трябва да залегнат в основата на развитието на новите технологии и да служат като неоспорими критерии за тяхната оценка, преди да бъдат използвани, за да може цифровият прогрес да се осъществява при надлежно зачитане на справедливостта и да допринася за каузата на мира“, каза Франциск.
За да се ограничи дезинформацията, OpenAI заяви, че ChatGPT ще започне да предоставя новини в реално време в световен мащаб, включително цитати и връзки.
„Прозрачността относно произхода на информацията и баланса в източниците на новини може да помогне на избирателите да оценяват по-добре информацията и да решават сами на какво могат да се доверят“, заявиха от компанията.
Миналото лято OpenAI дари 5 млн. долара на Американския журналистически проект. Предишната седмица OpenAI сключи договор с Associated Press, за да предостави на разработчика на изкуствен интелект достъп до архива с новинарски статии на световната медия.
Коментарите на OpenAI относно приписването на авторство в новинарските репортажи идват в момент, когато компанията е изправена пред няколко съдебни дела за авторски права, включително от New York Times. През декември Times заведе дело срещу OpenAI и Microsoft, най-големия инвеститор на OpenAI, като твърди, че милиони негови статии са били използвани за обучение на ChatGPT без разрешение.
„OpenAI и Microsoft са изградили бизнес, оценяван на десетки милиарди долари, като са взели комбинираните произведения на човечеството без разрешение“, се казва в иска, „При обучението на своите модели ответниците са възпроизвели материали, защитени с авторско право, за да използват точно това, което Законът за авторското право е създаден да защитава: елементите на защитимото изразяване в тях, като стил, избор на думи и подреждане и представяне на фактите.“
OpenAI нарече иска на New York Times „неоснователен“, твърдейки, че изданието е манипулирало подканите си, за да накара чатбота да генерира отговори като статиите на Times.
