Einem Bericht von Kotaku zufolge löscht Epic Games nach dem Aufschrei der Spieler rassistische, von der KI generierte Bilder, die von Nutzern in das beliebte Battle-Royale-Spiel Fortnite hochgeladen wurden.
Eine der Funktionen, die Fortnite zu dem erfolgreichen Online-Spiel gemacht haben, ist die Möglichkeit, eigene Karten zu erstellen und spielbare Erfahrungen mit der Welt zu teilen. Dieses Ventil für Kreativität bedeutet jedoch auch, dass die Nutzer möglicherweise problematische Inhalte hochladen können, was hier geschehen ist.
Kürzlich fielen Nutzern Inselkarten mit groben, von der KI generierten Bildern auf, die rassistische Stereotypen verbreiten. Wie Kotaku berichtet, wurden unter anderem Karten mit Namen wie „Arabische Zonewars“, „Nigerianische Zonewars“ und „China Zonewars“ veröffentlicht.
Die Karten enthielten rassistische und offenbar von der KI generierte Bilder, die Stereotypen aufrechterhalten, darunter Männer aus dem Nahen Osten, die Bomben halten, und Schwarze, die Brathähnchen essen. Während die meisten dieser Karten nur kleine Serverpopulationen aufwiesen, hatte eine Karte, „Jamaica Zonewars“, Anfang dieses Monats über 35.000 aktive Spieler.
Bild: Artwork von einer verbannten Insel vom User
„Viele der Inseln, auf die verwiesen wurde, wurden bereits entfernt und die Schöpfer haben Maßnahmen ergriffen“, so Epic Games in einem Statement gegenüber Kotaku. „Wir haben uns bereits mit mehr als 100 Inseln befasst, die gegen den Inhalt verstoßen und dieses ähnliche Thumbnail-Format verwenden, und werden dies auch weiterhin tun.“
Epic Games fügte hinzu, dass diskriminierende Inhalte keinen Platz in Fortnite haben und gegen die Regeln des Unternehmens für Insel-Ersteller verstoßen, und fügte hinzu, dass Nutzer, die gegen diese Richtlinien verstoßen, ihre Konten dauerhaft sperren lassen können.
Unser menschliches Moderationsteam prüft alle Inhalte vor der Veröffentlichung, und wir aktualisieren aktiv unsere Regeln für Inselersteller und Moderationsschulungen, um die Anzahl der Karten, die gegen die Regeln verstoßen, zu minimieren“, so Epic Games. „Wir ermutigen die Spieler, alle Inseln zu melden, die sie sehen und die gegen unsere Regeln verstoßen.“
In einer Erklärung, die TCN’s GG zur Verfügung gestellt wurde, sagte Epic Games, dass alle von Nutzern erstellten Inseln vor der Veröffentlichung von Moderatoren überprüft werden, aber dass das Team eine leichte Hand hat.
Bild: Artwork von einer verbotenen Insel des Benutzers
„Wir bitten unser Moderationsteam, von der guten Absicht des Urhebers auszugehen, wenn sie sich bei einem Verstoß gegen den Inhalt unsicher sind, damit wir nicht überzensieren“, so Epic Games. „Manchmal bedeutet dies, dass Dinge veröffentlicht werden, die nicht veröffentlicht werden sollten, und wir arbeiten schnell daran, alle anstößigen Inhalte zu entfernen und neue Schulungsmaterialien für unsere Moderatoren zu erstellen. Schöpfer, die gegen unsere Schöpferregeln verstoßen, müssen mit einer Reihe von Maßnahmen rechnen, darunter auch permanente Veröffentlichungs- und Monetarisierungsverbote.“
Der Herausgeber fügte hinzu, dass er an der Aktualisierung seiner „Insel-Erstellerregeln und Moderationsschulungsprogramme“ arbeitet.
Der Epic Games Store hat sich dem generativen KI-Wahn angeschlossen und im September damit begonnen, Spiele und Beiträge zuzulassen, die KI-Kunst und andere Elemente enthalten. Dies geschah, nachdem der konkurrierende PC-Gaming-Marktplatz Steam zunächst eine ablehnende Haltung gegenüber KI-Inhalten eingenommen hatte, seine Regeln aber angesichts der steigenden Zahl solcher Einreichungen gelockert hat.
Wir verbieten keine Spiele, die neue Technologien verwenden“, schrieb der Gründer und CEO von Epic Games, Tim Sweeney, damals auf Twitter und wies darauf hin, dass Epic Games Anfang des Jahres das Self-Publishing vollständig geöffnet hatte.
Während die KI-Entwickler viel in die Entfernung anstößiger Bilder aus ihren Modellen investiert haben, haben die Nutzer Wege gefunden, die Modelle mit Hilfe spezieller Aufforderungen zu „knacken“. Im Oktober gingen KI-generierte Bilder von SpongeBob Schwammkopf oder Nintendos Kirby, die mit Düsenflugzeugen in das World Trade Center fliegen, viral.
