Organizace spojených národů bije na poplach kvůli deepfakes generovaným umělou inteligencí, které se používají k šíření nenávisti a dezinformací na sociálních sítích. V pondělí zveřejněné zprávě „Informační integrita na digitálních platformách“ globální organizace zdůraznila potřebu zodpovědného využívání umělé inteligence.
„Přestože v sobě skrývá téměř nepředstavitelný potenciál pro řešení globálních výzev, existují vážné a naléhavé obavy ohledně stejně silného potenciálu nedávných pokroků v oblasti umělé inteligence – včetně generátorů obrázků a video deepfakes – ohrozit informační integritu,“ uvádí se ve zprávě OSN.
Informační integrita se týká přesnosti, konzistence a spolehlivosti informací, které jsou podle OSN ohroženy dezinformacemi, dezinformacemi a nenávistnými projevy.
„Tato rizika se dále zintenzivnila kvůli rychlému technologickému pokroku, jako je generativní umělá inteligence,“ napsal v úvodu zprávy generální tajemník OSN Guterres. „Ukázalo se, že obvyklý postup není řešením.“
Generativní umělá inteligence je typ programu, obvykle prezentovaný ve formě chatbota, který je schopen generovat text, obrázky nebo jiná média v reakci na podněty.
Zpráva OSN vyjádřila obavy z vlivu deepfakes a dezinformací generovaných umělou inteligencí v konfliktních oblastech.
Používání nenávistných projevů bylo často pozorováno jako předstupeň krutých zločinů, jako je genocida, uvádí OSN. Zpráva rovněž zdůrazňuje, že Úmluva o prevenci a trestání zločinu genocidy z roku 1948 zakazuje jakékoli přímé nebo veřejné podněcování, které může vést ke genocidě.
Šíření nenávistných &; lží v digitálním prostoru způsobuje vážné globální škody.
Tato jasná & současná globální hrozba vyžaduje jasnou & koordinovanou globální akci.
– @antonioguterres představil svou novou zprávu o integritě informací na digitálních platformách. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– Organizace spojených národů (@UN) 12. června 2023
Zpráva OSN sice neuvádí konkrétní příklady, ale upozorňuje na nedávné případy využití generativní umělé inteligence k vytváření v některých případech přesvědčivě zavádějícího obsahu a obrazů.
V březnu se virálně rozšířil obrázek bývalého prezidenta Donalda Trumpa generovaný umělou inteligencí, který byl zatčen poté, co jej na Twitteru sdílel zakladatel a kreativní ředitel společnosti Bellingcat Eliot Higgins. Tentýž měsíc společnost Midjourney, která stojí za stejnojmenným generátorem umělé inteligence pro převod textu na obrázek, ukončila svou bezplatnou zkušební verzi kvůli rozsáhlému zneužívání.
„Všechny zúčastněné strany by měly přijmout naléhavá a okamžitá opatření k zajištění bezpečného, zabezpečeného, odpovědného, etického a lidskoprávního využívání umělé inteligence a zabývat se důsledky nedávného pokroku v této oblasti pro šíření dezinformací a nenávistných projevů,“ uvedla OSN.
Zpráva vyzvala vlastníky digitálních platforem, aby investovali do systémů moderování obsahu, které využívají lidskou i umělou inteligenci pro všechny jazyky používané v zemích, kde působí – a aby zajistili transparentnost hlášení obsahu.
Mezinárodní orgán uvedl, že musí skončit éra filozofie Silicon Valley „move fast and break things“, a prohlásil, že soukromí, bezpečnost a transparentnost uživatelů jsou zásadní a měly by být do nových technologií zabudovány od samého počátku.
Guterres poukázal na nadcházející summit budoucnosti v roce 2024 jako na příležitost dohodnout se na mnohostranných řešeních.
„Výzvy, kterým čelíme, lze řešit pouze prostřednictvím silnější mezinárodní spolupráce,“ řekl generální tajemník Guterres.
