След възмущението на играчите Epic Games премахва расистките изображения, генерирани от изкуствен интелект, качени от потребители в популярната battle royale игра Fortnite, според доклад на Kotaku.
Една от функциите, които превърнаха Fortnite в разбиващата онлайн игра, която е днес, е възможността потребителите да създават свои собствени карти и да споделят със света преживявания от играта. Този отдушник за творчество обаче означава, че потребителите могат потенциално да качват проблемно съдържание, което се е случило тук.
Неотдавна потребителите започнаха да забелязват карти на острови, съдържащи груби изображения, генерирани от изкуствен интелект, които натрапват расистки стереотипи. Както съобщи Kotaku, примерите за карти включват такива с имена като „Арабски зонови войни“, „Нигерийски зонови войни“ и „Китайски зонови войни“.
Картите съдържаха расистки и очевидно генерирани от изкуствен интелект изображения, които затвърждават стереотипи, включително мъже от Близкия изток, които държат бомби, и чернокожи мъже, които ядат пържено пиле. Въпреки че повечето от тези карти имаха малки сървърни популации, една карта, „Jamaica Zonewars“, имаше над 35 000 активни играчи по-рано този месец.
Изображение: Художествено произведение от забранен остров от потребителя
„Много от споменатите острови вече са премахнати, а създателите им са предприели действия“, казва Epic Games в изявление за Kotaku. „Вече сме се заели с повече от 100 острова с нарушения на съдържанието, които използват този подобен формат на миниатюрите, и ще продължим да го правим.“
Epic Games добави, че дискриминационното съдържание няма място във Fortnite и нарушава правилата на компанията за създаване на острови, като добави, че потребителите, които нарушават тези насоки, могат да получат постоянна забрана на акаунтите си.
„Нашият човешки екип за модериране преглежда цялото съдържание преди публикуването му и активно актуализираме нашите правила за създаване на острови и програми за обучение на модератори, за да сведем до минимум броя на картите, които нарушават правилата и достигат до играчите“, заявиха от Epic Games. „Насърчаваме играчите да докладват за всички острови, които виждат и които може да нарушават нашите правила.“
В изявлението, предоставено на GG на TCN, Epic Games заяви, че всички острови, създадени от потребители, се преглеждат от модератори преди публикуването им, но каза, че екипът действа леко.
Изображение: Художествено произведение от забранен остров от потребителя
„Помолихме нашия екип за модериране да приеме добронамереност от страна на създателя, ако не е сигурен в нарушението на съдържанието, за да не прекаляваме с цензурата“, заявиха от Epic Games. „Понякога това означава, че се публикуват неща, които не би трябвало, и ние работим бързо, за да премахнем всяко нарушаващо съдържание и да напишем нови материали за обучение на нашите модератори. Създателите, за които е установено, че нарушават нашите правила за създателите, са изправени пред различни действия за прилагане, включително постоянни забрани за публикуване и монетизиране.“
Издателят добави, че работи по актуализирането на своите „правила за създателите на острови и програми за обучение на модератори“.
Присъединявайки се към манията по генеративния изкуствен интелект, през септември магазинът Epic Games Store започна да разрешава игри и заявки, които включват изкуство и други елементи на изкуствен интелект. Това се случи, след като конкурентният пазар за компютърни игри Steam първоначално зае позиция срещу съдържанието с ИИ, но впоследствие смекчи правилата си на фона на нарастването на броя на такива подадени материали.
„Ние не забраняваме игрите за това, че използват нови технологии“, написа тогава в Twitter основателят и главен изпълнителен директор на Epic Games Тим Суини, като отбеляза, че по-рано същата година Epic Games е отворила напълно възможността за самостоятелно публикуване.
Въпреки че разработчиците на изкуствен интелект инвестираха много в изчистването на обидни изображения от моделите си, потребителите намериха начини да „освободят“ моделите от затвора, като използват специализирани подкани. През октомври генерирани от изкуствен интелект изображения на Спонджбоб Квадратни гащи или Кирби на Nintendo, които летят с реактивни самолети в Световния търговски център, станаха вирусни.
