V době, kdy je volební sezóna v USA v plném proudu, Čína podle společnosti Microsoft stále častěji využívá umělou inteligenci v rámci širších snah o zasahování do americké politiky – mezitím se učí, co rozděluje občany, aby to mohla využít k vyvolání neshod.
„Aktéři napojení na ČKS začali klást sporné otázky týkající se kontroverzních domácích problémů v USA, aby lépe porozuměli klíčovým otázkám, které rozdělují americké voliče,“ varuje Microsoft. Zpráva naznačuje, že Čína rovněž využívá sociální média k vykreslování USA v „nepříznivém světle“.
Zpráva obsahuje několik snímků obrazovek účtů na sociálních sítích, které žádají o názory na kontroverzní témata, včetně obrázků vytvořených nebo zmanipulovaných umělou inteligencí, a využívají taktiky k získání dosahu a zapojení na různých platformách.
Zdroj: Microsoft
„V posledních měsících dochází k častějšímu využívání čínského obsahu generovaného umělou inteligencí, který se snaží ovlivňovat a zasévat rozkol v USA i jinde v celé řadě témat,“ uvádí se ve zprávě. Tato taktika zahrnuje psaný obsah i obrazové a video deepfakes.
Čína se také vměšuje do místní politiky. Microsoft uvádí příspěvky o vykolejení vlaku v Kentucky, požárech na ostrově Maui a imigračních problémech na jižní hranici USA. Účty, které vybízejí lidi, aby komentovali významné zpravodajské události svými názory, jsou „čínské sockpuppets“, vysvětluje zpráva.
Microsoft sice uznává, že „existuje jen málo důkazů, že tyto snahy byly úspěšné při ovlivňování veřejného mínění“, ale upozorňuje, že Čína své propagandistické operace poháněné umělou inteligencí pravděpodobně postupem času zdokonaluje.
„Rostoucí experimentování Číny s rozšiřováním memů, videí a zvuků bude pravděpodobně pokračovat – a může se ukázat jako účinnější,“ uzavírá zpráva.
Kromě Číny Microsoft upozornil také na online akce Severní Koreje.
„Severní Korea se i nadále prioritně zaměřovala na krádeže finančních prostředků v kryptoměnách, provádění útoků na dodavatelský řetězec softwaru a cílení na své domnělé protivníky v oblasti národní bezpečnosti,“ uvádí se ve zprávě.
AI jako geopolitická zbraň
Nárůst role velkých dat a umělé inteligence ve volbách vyvolává obavy ohledně soukromí voličů, integrity voleb a možnosti nepatřičného ovlivňování prostřednictvím cílených a personalizovaných zpráv – protože samotné politické kampaně stále častěji využívají analýzu dat k mikrocílení na voliče pomocí reklamy a oslovování na míru na základě podrobných profilů voličů.
Například Obamova kampaň v roce 2012 byla chválena za své sofistikované datové operace identifikující a mobilizující příznivce. Podobně i Trumpova kampaň v roce 2016 využila data o 1,6 milionu dobrovolníků k organizování občanského úsilí.
Objevily se také kontroverze týkající se zneužití údajů o voličích pro politický výzkum na bázi umělé inteligence, například narušení v roce 2015, které umožnilo kampani senátora Bernieho Sanderse přístup k údajům o kampani Hillary Clintonové, a neoprávněné shromažďování údajů o uživatelích Facebooku společností Cambridge Analytica pro cílené politické reklamy.
Regulační orgány nyní spěchají se zavedením pravidel a dohledu nad využíváním umělé inteligence ve volbách. Několik amerických států představilo návrhy zákonů na regulaci deepfakes a klamavého obsahu UI, včetně snah o vyžadování zveřejňování a označování vedle snahy prezidenta Bidena o řešení tohoto problému. Evropská unie rovněž zavádí svůj zákon o umělé inteligenci, který označuje za první komplexní zákon o umělé inteligenci na světě, jenž bude zahrnovat předpisy týkající se využívání umělé inteligence ve volbách.
Nejpozoruhodnější a nejpolarizovanější snahou je však pravděpodobně zákon „Protecting Americans from Foreign Adversary Controlled Applications Act“, který usiluje o zákaz TikToku v USA.
„Důvodem, proč je TikTok tak úspěšný, důvodem, proč je tak atraktivní, je to, že vás zná lépe než vy sami sebe, a čím více ho používáte, tím více se učí,“ řekl senátor Marco Rubio během každoročního slyšení o hodnocení světových hrozeb. „Shodou okolností ovládají společnost, která vlastní jeden z nejlepších algoritmů umělé inteligence na světě. Je to ten, který v této zemi používá TikTok, a využívá data Američanů k tomu, aby v podstatě četl vaše myšlenky a předvídal, jaká videa chcete vidět.“
Někteří však tvrdí, že nejpalčivější hrozby plynou spíše z šíření nepravdivého a škodlivého obsahu na platformách sociálních médií než z vytváření obsahu čistě pomocí umělé inteligence. Technologické společnosti podepsaly dohodu o přijetí opatření proti zneužití umělé inteligence, ale pokud jde o omezení dezinformací a určení toho, kdo je zodpovědný za jejich zveřejnění, zdá se, že regulace sociálních médií je méně jasná – dokonce i ve srovnání s oblastí umělé inteligence.
