In seguito alle proteste dei giocatori, Epic Games sta eliminando le immagini razziste generate dall’IA e caricate dagli utenti nel popolare gioco battle royale Fortnite, secondo quanto riportato da Kotaku.
Una delle caratteristiche che hanno reso Fortnite il gioco online di successo che è oggi è la possibilità per gli utenti di creare le proprie mappe e condividere esperienze di gioco con il mondo. Questo sfogo di creatività, tuttavia, significa che gli utenti possono potenzialmente caricare contenuti problematici, come è successo in questo caso.
Recentemente, gli utenti hanno iniziato a notare mappe di isole con immagini crude generate dall’intelligenza artificiale che perpetrano stereotipi razzisti. Come riportato da Kotaku, tra gli esempi di mappe vi sono quelle con nomi come “Arab Zonewars”, “Nigerian Zonewars” e “China Zonewars”.
Le mappe presentavano immagini razziste e apparentemente generate dall’intelligenza artificiale che perpetuano gli stereotipi, tra cui uomini mediorientali che tengono bombe e uomini di colore che mangiano pollo fritto. Mentre la maggior parte di queste mappe aveva una piccola popolazione di server, una mappa, “Jamaica Zonewars”, aveva oltre 35.000 giocatori attivi all’inizio di questo mese.
Immagine: Opera d’arte di un’isola bandita dall’utente
“Molte delle isole citate sono già state rimosse e i creatori hanno preso provvedimenti”, ha dichiarato Epic Games a Kotaku in un comunicato. “Abbiamo già affrontato più di 100 isole con violazioni dei contenuti che utilizzano questo formato di miniature simile e continueremo a farlo”.
Epic Games ha aggiunto che i contenuti discriminatori non hanno posto in Fortnite e violano le regole della società per i creatori di isole, aggiungendo che gli utenti che violano queste linee guida potrebbero avere i loro account permanentemente bannati.
Il nostro team di moderazione umano esamina tutti i contenuti prima della pubblicazione e stiamo aggiornando attivamente le nostre regole per i creatori di isole e i programmi di formazione per la moderazione per ridurre al minimo il numero di mappe in violazione che raggiungono i giocatori”, ha dichiarato Epic Games. “Incoraggiamo i giocatori a segnalare tutte le isole che vedono e che potrebbero violare le nostre regole”.
In una dichiarazione fornita al GG di TCN, Epic Games ha affermato che tutte le isole create dagli utenti vengono esaminate dai moderatori prima della pubblicazione, ma ha detto che il team adotta un tocco leggero.
Immagine: Opera d’arte di un’isola bannata dall’utente
“Chiediamo al nostro team di moderazione di presumere la buona intenzione del creatore se non è sicuro di aver violato un contenuto, in modo da non censurare eccessivamente”, ha dichiarato Epic Games. A volte questo significa che vengono pubblicate cose che non dovrebbero, e lavoriamo rapidamente per rimuovere i contenuti offensivi e scrivere nuovi materiali di formazione per i nostri moderatori”. I creatori che vengono trovati in violazione delle nostre regole sui creatori affrontano una serie di azioni di applicazione, tra cui il divieto permanente di pubblicazione e di monetizzazione”.
L’editore ha aggiunto che sta lavorando all’aggiornamento delle “regole per i creatori di isole e dei programmi di formazione per i moderatori”.
A settembre, l’Epic Games Store ha iniziato a consentire l’accesso ai giochi e alle iscrizioni che presentavano arte dell’intelligenza artificiale e altri elementi. Questo dopo che il mercato rivale dei giochi per PC Steam aveva inizialmente preso posizione contro i contenuti di IA, ma ha poi ammorbidito le sue regole in seguito all’aumento di tali invii.
Non vietiamo i giochi per l’utilizzo di nuove tecnologie”, ha scritto all’epoca su Twitter il fondatore e CEO di Epic Games Tim Sweeney, sottolineando che all’inizio dell’anno Epic Games aveva aperto la strada al self-publishing.
Mentre gli sviluppatori dell’IA hanno investito molto per eliminare le immagini offensive dai loro modelli, gli utenti hanno trovato il modo di “violare” i modelli utilizzando suggerimenti specifici. A ottobre sono diventate virali le immagini generate dall’IA di SpongeBob SquarePants o di Kirby di Nintendo che volava su un jet di linea contro il World Trade Center.
