По сообщению Kotaku, после возмущения игроков компания Epic Games удаляет расистские изображения, созданные искусственным интеллектом и загруженные пользователями в популярную игру Fortnite.
Одной из особенностей Fortnite, сделавшей ее популярной онлайн-игрой, является возможность создавать собственные карты и делиться с миром игровым опытом. Однако такой выход для творчества означает, что пользователи могут загружать проблемный контент, что и произошло в данном случае.
Недавно пользователи стали замечать, что на картах острова появляются грубые изображения, сгенерированные искусственным интеллектом, которые увековечивают расистские стереотипы. Как сообщает Kotaku, в качестве примера можно привести карты с такими названиями, как «Арабские зоны», «Нигерийские зоны» и «Китайские зоны».
На картах присутствуют расистские и, по всей видимости, сгенерированные искусственным интеллектом изображения, закрепляющие стереотипы, в том числе ближневосточные мужчины с бомбами в руках и чернокожие, поедающие жареную курицу. Хотя большинство из этих карт имели небольшое население серверов, на одной из них, «Jamaica Zonewars», в начале этого месяца насчитывалось более 35 000 активных игроков.
Изображение: Арт с запрещенного острова от пользователя
«Многие из упомянутых островов уже удалены, а к их создателям приняты меры», — говорится в заявлении Epic Games для Kotaku. «Мы уже устранили более 100 нарушений в содержании островов, использующих подобный формат миниатюр, и будем продолжать это делать».
Epic Games добавила, что дискриминационному контенту нет места в Fortnite и он нарушает правила компании по созданию островов, а пользователи, нарушающие эти правила, могут быть навсегда заблокированы.
«Наша команда модераторов проверяет весь контент перед публикацией, и мы активно обновляем наши правила создания островов и программы обучения модераторов, чтобы свести к минимуму количество нарушающих правил карт, которые попадают к игрокам», — заявили в Epic Games. «Мы призываем игроков сообщать о замеченных ими островах, которые могут нарушать наши правила».
В заявлении, предоставленном TCN’s GG, Epic Games сообщила, что все острова, созданные пользователями, проверяются модераторами перед публикацией, но отметила, что команда придерживается легкого подхода.
Изображение: Арт с запрещенного острова от пользователя
«Мы просим нашу команду модераторов предполагать добрые намерения создателя, если они не уверены в нарушении контента, чтобы не допустить чрезмерной цензуры», — заявили в Epic Games. Иногда это означает, что публикуются вещи, которые не должны публиковаться, и мы быстро удаляем все оскорбительные материалы и пишем новые обучающие материалы для наших модераторов». Создатели, уличенные в нарушении наших правил, сталкиваются с различными мерами воздействия, включая постоянные запреты на публикацию и монетизацию».
Издатель добавил, что работает над обновлением своих «правил для создателей островов и программ обучения модераторов».
В сентябре магазин Epic Games Store, присоединившись к повальному увлечению генеративным ИИ, начал разрешать игры и работы, в которых использовались искусственные интеллекты и другие элементы. Это произошло после того, как конкурирующий рынок компьютерных игр Steam сначала занял позицию против ИИ-контента, но затем смягчил свои правила на фоне роста числа таких работ.
«Мы не запрещаем игры за использование новых технологий», — написал тогда в Twitter основатель и генеральный директор Epic Games Тим Суини, отметив, что Epic Games в начале того же года открыла полную возможность самопубликации.
В то время как разработчики ИИ вложили немало средств в очистку своих моделей от оскорбительных изображений, пользователи нашли способы «взломать» модели с помощью специальных подсказок. В октябре сгенерированные ИИ изображения Губки Боба Квадратные Штаны или Кирби из Nintendo, летящих на реактивных лайнерах во Всемирный торговый центр, стали вирусными.
