Generatieve AI stelt gebruikers in staat om allerlei soorten vervalsingen te maken. De afgelopen dagen hebben nepfoto’s van de voormalige president Donald Trump die voor de politie wegrent, de Russische president Poetin die een poes knuffelt en zelfs de paus in een witte Balenciaga-pofjas het web rondgeslingerd. Wat kun je niet maken?
Je kunt geen foto maken van de Chinese president Xi Jinping – althans niet op het generatieve AI-platform Midjourney.
Om de verspreiding van diepe vervalsingen online te vertragen, zei Midjourney vorige week dat het zijn gratis proefversie zou beëindigen, maar het platform kan nog steeds afbeeldingen van wereldleiders genereren – met de Chinese president als opmerkelijke uitzondering. Probeer dit te doen, en Midjourney, een in San Francisco gevestigd bedrijf, vertelt je dat het verboden is. Je mag zelfs de naam van de Chinese president niet gebruiken in een prompt:
Volgens critici is het verbod een vorm van censuur en ondermijnt het de fundamentele beginselen van vrije meningsuiting.
“De manier waarop de wereld tegenwoordig functioneert, en hoe nauw we allemaal met elkaar verweven zijn, maakt het wel degelijk uit welke spraakwetten elders gelden,” vertelde Sarah McLaughlin, Senior Scholar bij de Foundation for Individual Rights and Expression (FIRE), in een interview aan TCN. “Die markt of die regering kan machtig genoeg zijn om te beïnvloeden hoe Amerikaanse bedrijven werken.”
McLaughlin wees op de 2015 Sony hack, die onthulde dat een scène van de Grote Muur van China die werd vernietigd, werd verwijderd uit de productie kopie van de Adam Sandler film “Pixels,” omdat men bezorgd was dat het het kassucces van de film in China zou schaden.
FIRE is een in Philadelphia gevestigde non-profit organisatie die opkomt voor het recht op vrije meningsuiting in de Verenigde Staten, met de nadruk op universiteitscampussen. De stichting, voegde McLaughlin eraan toe, is onlangs uitgebreid tot een “all purpose free speech and First Amendment group”.
McLaughlin zei dat mensen de fout maken om internationale censuur af te doen als irrelevant voor hen.
Toen de kwestie van censuur vorig jaar ter sprake kwam op de Midjourney Discord server, zei Midjourney CEO David Holz dat het bedrijf drama wil minimaliseren.
“Er is geen slecht plan – in principe willen we gewoon het drama minimaliseren,” zei Holz toen hij de kwestie afgelopen juni besprak.
Het maken van foto’s van Trump die gearresteerd wordt in afwachting van Trump’s arrestatie. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) Maart 20, 2023
In een post van juni 2022 op de Midjourney Discord server, benadrukte Holz het verschil in hoe politieke satire wordt ontvangen in Westerse landen vergeleken met China, en erkende dat politieke satire die typisch is in het Westen problemen kan veroorzaken in China en zelfs gebruikers in gevaar kan brengen.
Het maken van satirische afbeeldingen van wereldleiders kent een lange geschiedenis, vooral in de Verenigde Staten, waar vrijheid van meningsuiting is vastgelegd in de Amerikaanse grondwet, maar niet in andere landen.
“Het is niet alleen een kwestie van Amerikaanse wet versus Chinese wet,” zei McLaughlin. “Het is complexer dan dat, en we kunnen erachter komen dat de instrumenten die we gebruiken uiteindelijk de wetten van andere landen volgen in plaats van de onze, op manieren die we niet hadden voorzien.”
