Vzhledem k tomu, že hrozba umělé inteligence pro demokracii je pro politiky a voliče na celém světě jedním z hlavních problémů, představila v pondělí organizace OpenAI svůj plán, jak pomoci zajistit transparentnost obsahu generovaného umělou inteligencí a zlepšit spolehlivé informace o hlasování před volbami v roce 2024.
Po březnovém spuštění GPT-4 se generativní umělá inteligence a její potenciální zneužití, včetně deepfakes generovaných umělou inteligencí, staly ústřední součástí konverzace kolem raketového vzestupu umělé inteligence v roce 2023. V roce 2024 bychom mohli být svědky vážných důsledků takových dezinformací vytvářených umělou inteligencí na pozadí významných voleb, včetně prezidentských voleb v USA.
„Při přípravě na volby v roce 2024 napříč největšími světovými demokraciemi je naším přístupem pokračovat v naší práci na bezpečnosti platforem vyzdvižením přesných informací o hlasování, prosazováním měřených politik a zlepšováním transparentnosti,“ uvedla společnost OpenAI v příspěvku na blogu.
Společnost OpenAI dodala, že „spojuje odborné znalosti z našich bezpečnostních systémů, zpravodajství o hrozbách, právních, technických a politických týmů, aby rychle vyšetřila a řešila potenciální zneužití.“
Snímek o tom, jak se připravujeme na celosvětové volby v roce 2024:
– Pracujeme na prevenci zneužití, včetně zavádějících deepfakes.
– Zajištění transparentnosti obsahu generovaného umělou inteligencí
– Zlepšení přístupu k autoritativním informacím o hlasováníhttps://t.co/qsysYy5l0L– OpenAI (@OpenAI) January 15, 2024
V srpnu Federální volební komise USA oznámila, že pokročí v projednávání petice za zákaz volebních reklam vytvářených umělou inteligencí, přičemž komisař FEC Allen Dickerson uvedl: „V pozadí tohoto úsilí se skrývají vážné obavy týkající se prvního dodatku.“
Pro americké zákazníky služby ChatGPT společnost OpenAI uvedla, že při položení „určitých procedurálních otázek týkajících se voleb“ bude uživatele odkazovat na nestranickou webovou stránku CanIVote.org. Společnost uvádí, že implementace těchto změn bude informovat o jejím přístupu v celosvětovém měřítku.
„Těšíme se, že budeme i nadále spolupracovat s partnery a učit se od nich, abychom předvídali a zabránili možnému zneužití našich nástrojů v období před letošními celosvětovými volbami,“ dodala.
V aplikaci ChatGPT společnost OpenAI uvedla, že brání vývojářům vytvářet chatboty, kteří se vydávají za skutečné lidi nebo instituce, jako jsou vládní úředníci a úřady. Podle OpenAI také nejsou povoleny aplikace, jejichž cílem je zabránit lidem v hlasování, včetně odrazování od hlasování nebo zkreslování informací o tom, kdo je oprávněn volit.
Deepfakes, falešné obrázky, videa a zvuky vytvořené pomocí generativní umělé inteligence, se v loňském roce staly virálními, přičemž několik z nich, na nichž se objevil americký prezident Joe Biden, bývalý prezident Donald Trump a dokonce i papež František, se stalo středem zájmu snímků sdílených na sociálních sítích.
Aby zabránila použití svého generátoru obrázků Dall-E 3 v kampaních deepfake, uvedla společnost OpenAI, že implementuje pověření obsahu Koalice pro prokazování pravosti a autenticity obsahu, které přidává k obrázku vygenerovanému umělou inteligencí značku nebo „ikonu“.
„Experimentujeme také s klasifikátorem provenience, novým nástrojem pro detekci obrázků generovaných Dall-E,“ uvedla společnost OpenAI. „Naše interní testování ukázalo slibné první výsledky, a to i v případech, kdy byly obrázky podrobeny běžným typům úprav.“
Minulý měsíc papež František vyzval světové lídry k přijetí závazné mezinárodní smlouvy o regulaci umělé inteligence.
„Přirozená důstojnost každé lidské bytosti a bratrství, které nás spojuje jako členy jedné lidské rodiny, musí být základem vývoje nových technologií a sloužit jako nezpochybnitelná kritéria pro jejich hodnocení před jejich použitím, aby digitální pokrok probíhal s náležitým respektem ke spravedlnosti a přispíval k věci míru,“ řekl František.
S cílem omezit dezinformace OpenAI uvedla, že ChatGPT začne celosvětově poskytovat zpravodajství v reálném čase, včetně citací a odkazů.
„Transparentnost ohledně původu informací a vyváženosti zpravodajských zdrojů může voličům pomoci lépe vyhodnocovat informace a rozhodovat se sami, čemu mohou věřit,“ uvedla společnost.
V létě loňského roku věnovala společnost OpenAI 5 milionů dolarů organizaci American Journalism Project. Předminulý týden uzavřela společnost OpenAI dohodu s agenturou Associated Press, která vývojářům umělé inteligence poskytla přístup k archivu zpravodajských článků této světové zpravodajské agentury.
Připomínky OpenAI k uvádění autorství ve zpravodajství přicházejí v době, kdy společnost čelí několika žalobám na ochranu autorských práv, mimo jiné ze strany New York Times. V prosinci Times zažalovaly OpenAI a Microsoft, největšího investora OpenAI, s tvrzením, že miliony jejich článků byly bez povolení použity k tréninku ChatGPT.
„Společnosti OpenAI a Microsoft si vybudovaly byznys v hodnotě desítek miliard dolarů tím, že bez svolení převzaly kombinovaná díla lidstva,“ uvádí se v žalobě, „Při trénování svých modelů žalovaní reprodukovali materiály chráněné autorským právem, aby využili přesně to, k čemu byl autorský zákon navržen: prvky chráněného vyjádření v nich, jako je styl, volba slov a uspořádání a prezentace faktů.“
Společnost OpenAI označila žalobu New York Times za „neopodstatněnou“ a tvrdila, že publikace manipulovala se svými podněty tak, aby chatbot generoval odpovědi podobné článkům Times.
