Generative KI ermöglicht es Nutzern, alle Arten von Fälschungen zu erstellen. In den letzten Tagen kursierten im Internet gefälschte Bilder des ehemaligen US-Präsidenten Donald Trump auf der Flucht vor der Polizei, des russischen Präsidenten Putin, der mit einer Katze kuschelt, und sogar des Papstes in einem weißen Balenciaga-Puffmantel. Was kann man nicht machen?
Man kann kein Bild des chinesischen Präsidenten Xi Jinping machen – zumindest nicht auf der generativen KI-Plattform Midjourney.
Um die Verbreitung von Fälschungen im Internet einzudämmen, hat Midjourney letzte Woche angekündigt, seine kostenlose Testversion einzustellen, aber die Plattform kann immer noch Bilder von Staatsoberhäuptern erstellen – mit dem chinesischen Präsidenten als bemerkenswerter Ausnahme. Wenn Sie dies versuchen, sagt Ihnen Midjourney, ein in San Francisco ansässiges Unternehmen, dass dies verboten ist. Sie können nicht einmal den Namen des chinesischen Präsidenten in einer Eingabeaufforderung verwenden:
Kritiker argumentieren, dass das Verbot eine Form der Zensur darstellt und die Grundprinzipien der freien Rede und Meinungsäußerung untergräbt.
„So wie die Welt heute funktioniert und wie eng wir alle miteinander verflochten sind, spielt es eine Rolle, welche Sprachgesetze anderswo gelten“, sagte Sarah McLaughlin, Senior Scholar bei der Foundation for Individual Rights and Expression (FIRE), in einem Interview mit TCN. „Dieser Markt oder diese Regierung kann mächtig genug sein, um zu beeinflussen, wie amerikanische Unternehmen arbeiten.“
McLaughlin verwies auf den Sony-Hack aus dem Jahr 2015, bei dem bekannt wurde, dass eine Szene, in der die Chinesische Mauer zerstört wird, aus der Produktionskopie des Adam-Sandler-Films „Pixels“ entfernt wurde, weil man befürchtete, dass sie dem Kassenerfolg des Films in China schaden würde.
FIRE ist eine gemeinnützige Organisation mit Sitz in Philadelphia, die sich für das Recht auf freie Meinungsäußerung in den Vereinigten Staaten einsetzt, wobei der Schwerpunkt auf dem College-Campus liegt. Die Stiftung, fügte McLaughlin hinzu, hat sich vor kurzem zu einer „Allzweckgruppe für freie Meinungsäußerung und den ersten Verfassungszusatz“ entwickelt.
McLaughlin sagte, dass die Menschen dazu neigen, den Fehler zu machen, die internationale Zensur als irrelevant für sie abzutun.
Als das Thema Zensur letztes Jahr auf dem Midjourney Discord Server aufkam, sagte Midjourney CEO David Holz, dass das Unternehmen das Drama minimieren wolle.
„Es gibt keine bösen Intrigen – im Grunde wollen wir nur das Drama minimieren“, sagte Holz, als er das Thema im letzten Juni ansprach.
Bilder von Trumps Verhaftung machen, während man auf Trumps Verhaftung wartet. pic.twitter.com/4D2QQfUpLZ
– Eliot Higgins (@EliotHiggins) March 20, 2023
In einem Beitrag vom Juni 2022 auf dem Midjourney-Discord-Server hob Holz den Unterschied hervor, wie politische Satire in westlichen Ländern im Vergleich zu China aufgenommen wird, und räumte ein, dass politische Satire, die im Westen typisch ist, in China Probleme verursachen und sogar Nutzer gefährden könnte.
Satirische Darstellungen von Staatsoberhäuptern haben eine lange Tradition, vor allem in den Vereinigten Staaten, wo das Recht auf freie Meinungsäußerung in der Verfassung verankert ist, während dies in anderen Ländern nicht der Fall ist.
„Es ist nicht nur eine Frage des amerikanischen Rechts gegenüber dem chinesischen Recht“, sagte McLaughlin. „Es ist komplexer als das, und wir könnten feststellen, dass die von uns verwendeten Instrumente am Ende den Gesetzen anderer Länder folgen und nicht unseren eigenen, und zwar auf eine Art und Weise, die wir nicht vorhergesehen haben.“
Holz vertrat die Ansicht, dass es besser sei, den Chinesen die Nutzung der Technologie zu ermöglichen, als politische Satire zu fördern.
„Ich denke, dass Menschen in China, die diese Technologie nutzen, die Welt im Allgemeinen in eine positive Richtung bewegen“, sagte Holz. „Wahllose Leute, die chinesische politische Satire machen, tragen kaum zu irgendetwas bei – die Kosten-Nutzen-Analyse scheint klar zu sein.“
Die Befürworter dieser Beschränkungen behaupten, sie seien notwendig, um die Verbreitung von Desinformationen und den potenziellen Missbrauch der KI-Technologie zu verhindern. Trotz der Beschränkung für Bilder von Präsident Xi sieht McLaughlin jedoch nicht, dass MidJounreys Zeit in China sehr lange dauern wird.
„Es würde mich nicht überraschen, wenn China trotz der Beschränkungen letztendlich den Zugang dazu blockiert, da sie dazu neigen, westliche Unternehmen auszuschließen“, sagte sie.
McLaughlin sagte, dass das, was Midjourney tut, außerhalb der Norm liegt und zitierte eine kürzliche Entscheidung von Twitter, Inhalte in Indien zu zensieren.
„Twitter sah sich kürzlich mit Zensurproblemen in Indien konfrontiert, als die Regierung verlangte, eine BBC-Dokumentation über Premierminister Modi zu zensieren“, sagte McLaughlin. „Twitter blockierte den Inhalt nur in Indien, nicht weltweit. Mid-Journey hingegen sorgt dafür, dass niemand den Namen Xi Jinping verwenden kann, was eine Eskalation gegenüber der bloßen Sperrung chinesischer Nutzer darstellt. „
