Selon un rapport de Kotaku, Epic Games est en train de supprimer les images racistes générées par l’IA et téléchargées par les utilisateurs du célèbre jeu de bataille royale Fortnite, à la suite du tollé soulevé par les joueurs.
L’une des caractéristiques qui a fait de Fortnite le jeu en ligne à succès qu’il est aujourd’hui est la possibilité pour les utilisateurs de créer leurs propres cartes et de partager des expériences jouables avec le monde entier. Ce débouché pour la créativité signifie toutefois que les utilisateurs peuvent potentiellement télécharger du contenu problématique, ce qui s’est produit dans le cas présent.
Récemment, des utilisateurs ont commencé à remarquer des cartes d’îles comportant des images grossières générées par l’IA et véhiculant des stéréotypes racistes. Comme le rapporte Kotaku, ces cartes portent des noms tels que « Arab Zonewars », « Nigerian Zonewars » et « China Zonewars ».
Ces cartes présentent des images racistes, apparemment générées par l’IA, qui perpétuent des stéréotypes, notamment des hommes du Moyen-Orient tenant des bombes et des Noirs mangeant du poulet frit. Alors que la plupart de ces cartes avaient de petites populations de serveurs, l’une d’entre elles, « Jamaica Zonewars », comptait plus de 35 000 joueurs actifs au début du mois.
Image : Œuvre d’art d’une île interdite par l’utilisateur
« La plupart des îles citées en référence ont déjà été supprimées et les créateurs ont pris des mesures », a déclaré Epic Games à Kotaku. « Nous avons déjà traité plus de 100 îles présentant des violations de contenu et utilisant ce format de vignette similaire, et nous continuerons à le faire. »
Epic Games a ajouté que le contenu discriminatoire n’a pas sa place dans Fortnite et viole les règles de création d’îles de l’entreprise, ajoutant que les utilisateurs qui enfreignent ces directives pourraient voir leur compte banni de façon permanente.
« Notre équipe de modération humaine examine tous les contenus avant leur publication, et nous mettons activement à jour nos règles de création d’îles et nos programmes de formation à la modération afin de minimiser le nombre de cartes violentes qui parviennent aux joueurs », a déclaré Epic Games. « Nous encourageons les joueurs à signaler toutes les îles qu’ils voient et qui sont susceptibles de violer nos règles. »
Dans une déclaration fournie au GG de TCN, Epic Games a déclaré que toutes les îles créées par les utilisateurs sont examinées par des modérateurs avant d’être publiées, mais a précisé que l’équipe a une approche légère.
Image : Œuvre d’art d’une île interdite à l’utilisateur
« Nous demandons à notre équipe de modération de supposer la bonne intention du créateur si elle n’est pas sûre d’une violation de contenu afin de ne pas sur-censurer », a déclaré Epic Games. « Parfois, cela signifie que des choses sont publiées alors qu’elles ne devraient pas l’être, et nous travaillons rapidement pour retirer tout contenu offensant et rédiger de nouveaux documents de formation à l’intention de nos modérateurs. Les créateurs qui enfreignent nos règles de création s’exposent à diverses mesures d’application, y compris des interdictions permanentes de publication et de monétisation. »
L’éditeur a ajouté qu’il travaillait à la mise à jour de ses « règles de création d’île et de ses programmes de formation à la modération ».
S’inscrivant dans l’engouement pour l’IA générative, l’Epic Games Store a commencé à autoriser, en septembre, les jeux et les soumissions qui comportaient de l’art IA et d’autres éléments. Cette décision a été prise après que Steam, la place de marché rivale pour les jeux sur PC, ait initialement pris position contre le contenu de l’IA, mais a depuis assoupli ses règles face à l’augmentation de ce type de soumissions.
« Nous n’interdisons pas les jeux qui utilisent de nouvelles technologies », a écrit Tim Sweeney, fondateur et PDG d’Epic Games, sur Twitter à l’époque, notant qu’Epic Games avait ouvert l’auto-publication complète plus tôt dans l’année.
Si les développeurs d’IA ont beaucoup investi dans l’élimination des images choquantes de leurs modèles, les utilisateurs ont trouvé des moyens de « casser la baraque » des modèles à l’aide de messages-guides spécialisés. En octobre, des images générées par l’IA de Bob l’éponge ou de Kirby de Nintendo faisant voler des avions de ligne contre le World Trade Center sont devenues virales.
