Tras las protestas de los jugadores, Epic Games está eliminando las imágenes racistas generadas por la inteligencia artificial que los usuarios han subido al popular juego Fortnite, según informa Kotaku.
Una de las características que han hecho de Fortnite el exitazo de juego online que es hoy es la posibilidad de que los usuarios creen sus propios mapas y compartan experiencias jugables con el mundo. Esta salida para la creatividad, sin embargo, significa que los usuarios pueden potencialmente subir contenido problemático, que es lo que ha sucedido aquí.
Hace poco, los usuarios empezaron a darse cuenta de que los mapas de islas mostraban burdas imágenes generadas por la IA que perpetraban estereotipos racistas. Como informó Kotaku, entre los ejemplos de mapas se incluyen aquellos con nombres como «Zonewars árabe», «Zonewars nigeriano» y «Zonewars chino».
Los mapas mostraban imágenes racistas y aparentemente generadas por IA que perpetúan estereotipos, como hombres de Oriente Medio sosteniendo bombas y hombres negros comiendo pollo frito. Aunque la mayoría de estos mapas tenían una población de servidores pequeña, uno de ellos, «Jamaica Zonewars», contaba con más de 35.000 jugadores activos a principios de este mes.
Imagen: Artwork de una isla prohibida del usuario
«Muchas de las islas a las que se hace referencia ya han sido eliminadas, y los creadores han tomado medidas», dijo Epic Games a Kotaku en un comunicado. «Ya hemos abordado más de 100 islas con violaciones de contenido que utilizan este formato de miniatura similar y continuaremos haciéndolo».
Epic Games añadió que el contenido discriminatorio no tiene cabida en Fortnite y viola las reglas de creación de islas de la compañía, añadiendo que los usuarios que violen estas directrices podrían ver sus cuentas baneadas permanentemente.
«Nuestro equipo humano de moderación revisa todo el contenido antes de su publicación, y estamos actualizando activamente nuestras reglas de creación de islas y los programas de formación de moderación para minimizar el número de mapas infractores que llegan a los jugadores», dijo Epic Games. «Animamos a los jugadores a reportar cualquier isla que vean que pueda violar nuestras reglas».
En una declaración proporcionada a GG de TCN, Epic Games dijo que todas las islas creadas por los usuarios son revisadas por moderadores antes de su publicación, pero dijo que el equipo toma un toque ligero.
Imagen: Obra de arte de una isla prohibida del usuario
«Pedimos a nuestro equipo de moderación que asuma la buena intención por parte del creador si no están seguros de una infracción de contenido para no censurar en exceso», dijo Epic Games. «A veces esto significa que se publican cosas que no deberían, y trabajamos rápidamente para retirar cualquier contenido ofensivo y redactar nuevos materiales de formación para nuestros moderadores». Los creadores que violan nuestras reglas de creación se enfrentan a una variedad de acciones de aplicación, incluidas las prohibiciones permanentes de publicación y monetización.»
El editor añadió que está trabajando en la actualización de sus «reglas de creador de la isla y los programas de formación de moderación.»
Uniéndose a la moda de la IA generativa, Epic Games Store comenzó a permitir juegos y envíos que incluían arte de IA y otros elementos en septiembre. Esto se produjo después de que Steam, el mercado rival de juegos para PC, adoptara inicialmente una postura contraria a los contenidos de IA, pero desde entonces ha suavizado sus normas ante el aumento de este tipo de envíos.
«No prohibimos juegos por usar nuevas tecnologías», escribió entonces en Twitter el fundador y consejero delegado de Epic Games, Tim Sweeney, señalando que Epic Games se había abierto por completo a la autopublicación a principios de ese año.
Aunque los desarrolladores de IA han invertido mucho en eliminar las imágenes ofensivas de sus modelos, los usuarios han encontrado formas de «liberar» los modelos mediante mensajes especializados. En octubre, se hicieron virales imágenes generadas por IA de Bob Esponja o Kirby, de Nintendo, estrellando aviones contra el World Trade Center.
