Na protest van spelers verwijdert Epic Games racistische AI-gegenereerde afbeeldingen die door gebruikers zijn geüpload naar de populaire ‘battle royale’-game Fortnite, volgens een rapport van Kotaku.
Een van de functies die Fortnite tot de grote online game heeft gemaakt, is de mogelijkheid voor gebruikers om hun eigen kaarten te maken en speelbare ervaringen met de wereld te delen. Deze uitlaatklep voor creativiteit betekent echter dat gebruikers mogelijk problematische inhoud kunnen uploaden, wat hier is gebeurd.
Onlangs begonnen gebruikers eilandkaarten op te merken met grove, door AI gegenereerde afbeeldingen die racistische stereotypen in stand houden. Zoals Kotaku meldde, waren er voorbeelden van kaarten met namen als “Arabische Zonewars”, “Nigeriaanse Zonewars” en “Chinese Zonewars”.
De kaarten bevatten racistische en blijkbaar door AI gegenereerde afbeeldingen die stereotypen in stand houden, zoals mannen uit het Midden-Oosten die bommen vasthouden en zwarte mannen die gefrituurde kip eten. De meeste van deze maps hadden een kleine serverpopulatie, maar één map, “Jamaica Zonewars”, had eerder deze maand meer dan 35.000 actieve spelers.
Afbeelding: Artwork van een verboden eiland van de gebruiker
“Veel van de genoemde eilanden zijn al verwijderd en de makers hebben actie ondernomen”, aldus Epic Games in een verklaring aan Kotaku. “We hebben al meer dan 100 eilanden met contentschendingen die dit vergelijkbare thumbnailformaat gebruiken aangepakt en zullen dat blijven doen.”
Epic Games voegde eraan toe dat discriminerende content niet thuishoort in Fortnite en in strijd is met de island creator rules van het bedrijf, en voegde eraan toe dat gebruikers die deze richtlijnen schenden hun account permanent kunnen laten verbannen.
Ons menselijke moderatieteam beoordeelt alle content voordat deze wordt gepubliceerd en we werken actief aan het bijwerken van onze regels voor het maken van eilanden en onze moderatietrainingsprogramma’s om het aantal overtredende maps dat spelers bereikt te minimaliseren”, aldus Epic Games. “We moedigen spelers aan om alle eilanden die ze zien en die mogelijk onze regels schenden te rapporteren.”
In een verklaring aan TCN’s GG zei Epic Games dat alle door gebruikers gemaakte eilanden door moderators worden beoordeeld voordat ze worden gepubliceerd, maar dat het team een lichte aanpak hanteert.
Afbeelding: Artwork van een verboden eiland van de gebruiker
“We vragen ons moderatieteam om uit te gaan van de goede bedoelingen van de maker als ze onzeker zijn over een schending van de inhoud, zodat we niet te veel censuur toepassen”, aldus Epic Games. “Soms betekent dit dat er dingen worden gepubliceerd die niet zouden moeten worden gepubliceerd. We werken er dan snel aan om de beledigende content te verwijderen en nieuw trainingsmateriaal te schrijven voor onze moderators. Creators die onze creatorregels overtreden, krijgen te maken met verschillende handhavingsacties, waaronder permanente publicatie- en geldverboden.”
De uitgever voegde eraan toe dat het werkt aan het updaten van zijn “eiland creator regels en moderatie trainingsprogramma’s.”
De Epic Games Store, die meedoet aan de generatieve AI-rage, begon in september games en inzendingen met AI-kunst en andere elementen toe te staan. Dit gebeurde nadat de rivaliserende marktplaats Steam in eerste instantie een standpunt innam tegen AI-inhoud, maar sindsdien zijn de regels versoepeld vanwege de toename van dergelijke inzendingen.
We verbieden geen games voor het gebruik van nieuwe technologieën”, schreef Epic Games-oprichter en CEO Tim Sweeney destijds op Twitter, waarbij hij opmerkte dat Epic Games eerder dat jaar volledig openstond voor zelfpublicatie.
Hoewel AI-ontwikkelaars veel hebben geïnvesteerd in het verwijderen van aanstootgevende beelden uit hun modellen, hebben gebruikers manieren gevonden om de modellen te “jailbreaken” met behulp van speciale aanwijzingen. In oktober gingen AI-gegenereerde beelden van SpongeBob SquarePants of Nintendo’s Kirby die straalvliegtuigen in het World Trade Center lieten vliegen, viral.
