Jak donosi serwis Kotaku, w następstwie oburzenia ze strony graczy, Epic Games usuwa rasistowskie obrazy generowane przez sztuczną inteligencję i przesyłane przez użytkowników do popularnej gry battle royale Fortnite.
Jedną z funkcji, które sprawiły, że Fortnite stał się tak popularną grą online, jest możliwość tworzenia własnych map i dzielenia się nimi ze światem. To ujście dla kreatywności oznacza jednak, że użytkownicy mogą potencjalnie przesyłać problematyczne treści, co właśnie miało miejsce w tym przypadku.
Niedawno użytkownicy zaczęli zauważać mapy wysp zawierające prymitywne obrazy generowane przez sztuczną inteligencję, które utrwalają rasistowskie stereotypy. Jak donosi Kotaku, przykłady map obejmują te z nazwami takimi jak „Arab Zonewars”, „Nigerian Zonewars” i „China Zonewars”.
Mapy zawierały rasistowskie i najwyraźniej generowane przez sztuczną inteligencję obrazy, które utrwalają stereotypy, w tym mężczyzn z Bliskiego Wschodu trzymających bomby i czarnoskórych mężczyzn jedzących smażonego kurczaka. Podczas gdy większość z tych map miała niewielką populację serwerów, jedna mapa, „Jamaica Zonewars”, miała ponad 35 000 aktywnych graczy na początku tego miesiąca.
Obrazek: Grafika z zakazanej wyspy od użytkownika
„Wiele z wysp, o których mowa, zostało już usuniętych, a twórcy podjęli odpowiednie działania” – powiedział Epic Games w oświadczeniu Kotaku. „Zajęliśmy się już ponad 100 wyspami z naruszeniami treści, które używają tego podobnego formatu miniatur i nadal będziemy to robić”.
Epic Games dodało, że dyskryminujące treści nie mają miejsca w Fortnite i naruszają zasady firmy dotyczące twórców wysp, dodając, że użytkownicy, którzy naruszają te wytyczne, mogą zostać trwale zbanowani.
„Nasz zespół moderatorów sprawdza wszystkie treści przed publikacją i aktywnie aktualizujemy nasze zasady tworzenia wysp i programy szkoleniowe dla moderatorów, aby zminimalizować liczbę naruszających je map, które docierają do graczy” – powiedział Epic Games. „Zachęcamy graczy do zgłaszania wszelkich wysp, które mogą naruszać nasze zasady”.
W oświadczeniu przekazanym GG TCN, Epic Games stwierdziło, że wszystkie wyspy stworzone przez użytkowników są sprawdzane przez moderatorów przed publikacją, ale powiedział, że zespół jest bardzo delikatny.
Obrazek: Grafika ze zbanowanej wyspy od użytkownika
„Prosimy nasz zespół moderacyjny, aby zakładał dobre intencje twórcy, jeśli nie ma pewności co do naruszenia treści, abyśmy nie przesadzali z cenzurą” – powiedział Epic Games. „Czasami oznacza to, że publikowane są rzeczy, które nie powinny, a my pracujemy szybko, aby usunąć wszelkie obraźliwe treści i napisać nowe materiały szkoleniowe dla naszych moderatorów. Twórcy, którzy naruszają nasze zasady, podlegają różnym działaniom egzekucyjnym, w tym stałym zakazom publikowania i monetyzacji”.
Wydawca dodał, że pracuje nad aktualizacją „wyspiarskich zasad dla twórców i programów szkoleniowych dla moderatorów”.
Przyłączając się do szału generatywnej sztucznej inteligencji, Epic Games Store zaczął we wrześniu zezwalać na gry i zgłoszenia zawierające sztuczną inteligencję i inne elementy. Nastąpiło to po tym, jak konkurencyjny rynek gier na PC Steam początkowo zajął stanowisko przeciwko treściom AI, ale od tego czasu złagodził swoje zasady w związku ze wzrostem liczby takich zgłoszeń.
„Nie zakazujemy gier za korzystanie z nowych technologii” – napisał wówczas na Twitterze założyciel i dyrektor generalny Epic Games, Tim Sweeney, zauważając, że Epic Games otworzyło pełną możliwość samodzielnego publikowania na początku tego roku.
Podczas gdy twórcy sztucznej inteligencji dużo zainwestowali w usuwanie obraźliwych obrazów ze swoich modeli, użytkownicy znaleźli sposoby na „jailbreak” modeli za pomocą specjalnych podpowiedzi. W październiku wygenerowane przez sztuczną inteligencję obrazy SpongeBoba Kanciastoportego lub Kirby’ego z Nintendo lecącego odrzutowcem w World Trade Center stały się wirusowe.
