Generativní umělá inteligence umožňuje uživatelům vytvářet nejrůznější padělky. V posledních dnech se po internetu rozletěly falešné snímky bývalého prezidenta Donalda Trumpa utíkajícího před policií, ruského prezidenta Putina mazlícího se s kočičkou, a dokonce i papeže v bílém huňatém kabátě Balenciaga. Co se vám nepovede?
Nemůžete vytvořit obrázek čínského prezidenta Si Ťin-pchinga – alespoň ne na platformě generativní umělé inteligence Midjourney.
Aby zpomalila šíření hlubokých podvrhů na internetu, Midjourney minulý týden oznámila, že ukončí svou bezplatnou zkušební verzi, ale platforma stále dokáže generovat obrázky světových vůdců – přičemž čínský prezident je významnou výjimkou. Zkuste to udělat a Midjourney, společnost se sídlem v San Francisku, vám řekne, že je to zakázané. Nemůžete dokonce ani použít jméno čínského prezidenta ve výzvě:
Kritici tvrdí, že zákaz představuje formu cenzury a podkopává základní zásady svobody slova a projevu.
„Vzhledem k tomu, jak dnešní svět funguje a jak úzce jsme všichni propojeni, záleží na tom, jaké zákony o projevu platí jinde,“ řekla v rozhovoru pro TCN Sarah McLaughlinová, vedoucí vědecká pracovnice Nadace pro práva jednotlivce a vyjadřování (FIRE). „Ten trh nebo ta vláda mohou být dostatečně silné na to, aby ovlivnily fungování amerických společností.“
McLaughlinová poukázala na hackerský útok na společnost Sony z roku 2015, který odhalil, že z produkční kopie filmu Adama Sandlera „Pixels“ byla odstraněna scéna ničení Velké čínské zdi, a to z obavy, že by to poškodilo kasovní úspěch filmu v Číně.
FIRE je nezisková organizace se sídlem ve Filadelfii, která hájí práva na svobodu projevu ve Spojených státech se zaměřením na univerzitní kampusy. McLaughlin dodal, že nadace se nedávno rozšířila a stala se „univerzální skupinou pro svobodu projevu a první dodatek“.
McLaughlin řekl, že lidé mají tendenci dělat chybu, když mezinárodní cenzuru odmítají jako pro ně nepodstatnou.
Když se loni na serveru Midjourney Discord objevila otázka cenzury, generální ředitel Midjourney David Holz řekl, že společnost chce minimalizovat drama.
„Nejsou v tom žádné zlé intriky – v podstatě chceme jen minimalizovat drama,“ řekl Holz, když se k této otázce vyjadřoval loni v červnu.
Fotografování zatčení Trumpa při čekání na zatčení Trumpa. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) 20. března 2023
V červnu 2022 Holz v příspěvku na serveru Midjourney Discord upozornil na rozdíl v tom, jak je politická satira přijímána v západních zemích ve srovnání s Čínou, a připustil, že politická satira, která je typická pro Západ, může v Číně způsobit problémy a může dokonce ohrozit uživatele.
Vytváření satirických obrazů světových vůdců má dlouhou historii, zejména ve Spojených státech, kde je svoboda slova a projevu zakotvena v americké ústavě, ale v jiných zemích tomu tak není.
„Není to jen otázka amerického a čínského práva,“ řekl McLaughlin. „Je to složitější a může se stát, že nástroje, které používáme, se nakonec budou řídit zákony jiných zemí místo našich vlastních, a to způsobem, který jsme nepředpokládali.“
Holz navrhl, že větším dobrem je umožnit Číňanům používat technologii, než podporovat politickou satiru.
„Myslím, že lidé v Číně, kteří tuto technologii používají, posouvají [jehlu] ve světě obecně pozitivním [směrem],“ řekl Holz. „Náhodní lidé, kteří zde dělají čínskou politickou satiru, k ničemu moc nepřispívají – analýza nákladů a přínosů se zdá být jasná.“
Zastánci těchto omezení mohou tvrdit, že jsou nezbytná, aby se zabránilo šíření dezinformací a potenciálnímu zneužití technologie umělé inteligence. I přes omezení týkající se obrázků prezidenta Si však McLaughlin nevidí, že by působení MidJounrey v Číně trvalo příliš dlouho.
„Nepřekvapilo by mě, kdyby k němu Čína nakonec i přes omezení zablokovala přístup, protože má tendenci vylučovat západní společnosti,“ řekla.
McLaughlinová uvedla, že to, co dělá Midjourney, se vymyká normálu, a odkázala na nedávné rozhodnutí společnosti Twitter cenzurovat obsah v Indii.
„Twitter nedávno čelil v Indii problémům s cenzurou, když vláda požadovala cenzurovat dokument BBC o premiérovi Módím,“ uvedl McLaughlin. „Twitter zablokoval obsah pouze v Indii, nikoliv globálně. Na druhou stranu Mid-Journey způsobuje, že všichni nemohou používat jméno Si Ťin-pchinga, což je eskalace z pouhého blokování čínských uživatelů.“
