Losangeleský videoeditor a politický satirik Justin T. Brown se ocitl v centru kontroverzní debaty díky svým snímkům generovaným umělou inteligencí, které zobrazují prominentní politiky, jako jsou Donald Trump, Barack Obama a Joe Biden, jak se oddávají fiktivním nevěrám.
Jeho provokativní série pokřtěná slovy „AI způsobí revoluci ve vyděračském průmyslu“ se rychle dostala pod palbu kritiky, což vedlo k Brownovu vykázání z umělecké platformy Midjourney AI, kterou ke generování obrázků používal.
Brown uvedl, že obrázky byly zamýšleny jako ostré varování před možným zneužitím umělé inteligence.
Není to poprvé, co obrázky vytvořené umělou inteligencí vyvolaly kontroverzi. Společnost TCN již dříve s pozoruhodnou přesností vykreslila humorné obrázky Joea Bidena, ale tým Midjourney ji ušetřil trestných opatření. Jiní uživatelé generující obrázky vysoce postavených osobností, jako je papež nebo čínský prezident, však takové štěstí neměli a okamžitě si vysloužili zákazy
Dostal jsem ban od Midjourney AI za generování realistických obrázků politiků, kteří podvádějí své manželky, pro sérii nazvanou „AI způsobí revoluci ve vyděračském průmyslu“.
Pár myšlenek o obrázcích AI od někoho, kdo je dobrý ve vytváření falešných věcí
Trump podvádí svou manželku: pic.twitter.com/HjxBj7qdaR
– JustinTBrown (@JuuustinBrown) 26. května 2023
Brownův projekt byl koncipován s jediným cílem: katapultovat potenciální hrozby zneužití umělé inteligence do mainstreamového diskurzu.
„Vytvořil jsem tento seriál s cílem vtáhnout některé z nejvlivnějších lidí v Americe do konverzace o nebezpečích UI a oslovit co největší publikum,“ upřesnil Brown ve vlákně na Twitteru.
Ohlasy na Brownovu kontroverzní sérii o umělé inteligenci byly rychlé. Poté, co byly snímky zveřejněny na Redditu, Midjourney Brownovi udělil ban, což je akce, kterou dává do přímé souvislosti se zveřejněním na Redditu.
„Poté, co série získala na Redditu určitou popularitu, byla moderátory odstraněna a téměř okamžitě následoval ban od Midjourney,“ poznamenal.
Ban podnítil Browna k vyjádření smíšených emocí. Na jedné straně cítil, že sankce je ukazatelem určité úrovně odpovědnosti vynucované na uživatelích generujících škodlivý obsah. Na druhou stranu vznesl palčivou otázku: „Byl jsem zakázán několik měsíců poté, co jsem poprvé vytvořil obrázky, takže v době, kdy je škodlivý obsah generován, není už pozdě?“
To je důležité zejména v politice, jak Brown dále upozornil.
„Dezinformační kampaň umělé inteligence těsně před dnem voleb by mohla volbami rozhodně zamíchat. Správné obrázky nebo video s umělou inteligencí ve správný čas by mohly zasáhnout trh, vyvolat nepokoje nebo poslat někoho do pizzerie s pistolí.“
Brown se obával především potenciálu umělé inteligence šířit dezinformace. „K tomuto druhu dezinformací bude docházet i nadále, příště je budou šířit zlí lidé se zlými úmysly, takže bychom to měli začít řešit hned,“ upozornil a uznal, že je třeba o této technologii vést mezinárodní diskusi.
Na tuto problematiku upozornil také deník New York Times, který odhalil, že předpisy pro volební kampaně umožnily politikům používat obrázky vytvořené umělou inteligencí před prezidentskými volbami v roce 2024. Rovněž uvedl, že stávající obranné prostředky a služby, které tvrdí, že identifikují obsah AI, jsou do značné míry neúčinné.
Jeden z Brownových stoupenců odpověděl svými obavami a vyjádřil obavy z možného zneužití AI.
„Myslím, že máte pravdu, pokud jde o nebezpečí. GOP už použila AI v reklamě. Ne jako vydírání, ale ukazuje, že AI lze použít k rychlým operacím. Nejlepší by bylo, kdyby sociální média měla univerzální moderování proti dezinformacím a ověřené účty pro všechny renomované tiskové agentury, govt orgs, pols.“
Bernie, noo
Myslím, že máš pravdu, pokud jde o nebezpečí. GOP už použila AI v reklamě. Ne jako vydírání, ale ukazuje, že AI se dá využít k rychlým operacím. Nejlepší by bylo, kdyby sociální média měla univerzální moderování proti dezinformacím & ověřené účty pro všechny renomované tiskoviny, govt orgs, pols.
– Patrick Scott Bruck Viz na pomoc naší rodině! (@PatrickSBruck) 26. května 2023
Měl na mysli sérii politických reklam, v nichž americká Republikánská strana využila MidJourney, aby si „představila“ budoucnost s Bidenem znovu zvoleným prezidentem. Objevily se také zvěsti o tom, že UI byla použita k vylepšení předvolební reklamy Rona de Santis, ale jeho kampaň odhalila, že tomu tak není.
Donald Trump zase vytvořil celou falešnou konverzaci mezi Elonem Muskem, Adolfem Hitlerem a Ronem de Santisem, aby zesměšnil oznámení posledně jmenovaného, že usiluje o post prezidentského kandidáta GOP.
V digitálním věku plném dezinformací a bezuzdného zneužívání technologií znějí Brownova slova až děsivě pravdivě,
„Myslím, že se stačí připravit na náraz. Možná s tím udělejte něco užitečného,“ řekl.
V tomto víru umělé inteligence, umění a etiky existuje jedna jistota: hranice mezi realitou a obrazy vytvořenými umělou inteligencí se stírá rychleji, než dokážeme říct „Photoshop“.
