Epic Games luta para remover imagens racistas geradas por IA

Fortnite: Epic Games remove imagens racistas geradas por IA após reações dos jogadores

Epic Games elimina imagens racistas de Fortnite

A popularidade do jogo Fortnite baseia-se na capacidade dos jogadores criarem os seus próprios mapas e partilharem as suas experiências de jogo com o mundo. No entanto, esta liberdade criativa conduziu recentemente a conteúdos problemáticos, incluindo imagens criadas por inteligência artificial que perpetuam estereótipos racistas.

Os jogadores do Fortnite notaram mapas de ilhas com imagens brutas geradas por IA que perpetuam estereótipos racistas, como nomes como “Zonewars Árabes”, “Guerras Zonas Nigerianas” e “Guerras Zoneares da China”. Esses cartões apresentavam imagens racistas aparentemente geradas pela IA, perpetuando estereótipos, como homens do Oriente Médio segurando bombas e homens negros comendo frango frito.

Remoção de conteúdo ofensivo

Depois de receber reação dos jogadores, a Epic Games tomou a decisão de remover essas imagens racistas geradas por IA, removendo muitas das ilhas envolvidas e banindo os criadores deste conteúdo. Até o momento, mais de 100 ilhas com violações de conteúdo semelhantes foram abordadas e a Epic Games continuará a fazê-lo.

A Epic Games afirmou que este tipo de conteúdo discriminatório não tem lugar no Fortnite e sublinhou que os utilizadores que violarem estas regras poderão ser banidos permanentemente da sua conta.

Regras de moderação e criação

A empresa garantiu que sua equipe de moderação revise todo o conteúdo antes de publicar e está trabalhando ativamente para atualizar suas regras para criadores de ilhas e programas de treinamento de moderação para minimizar o número de mapas problemáticos que chegam aos jogadores. A Epic Games incentiva os jogadores a denunciar qualquer conteúdo que viole suas regras.

A empresa também reconheceu a importância de atualizar suas regras para criadores de ilhas e seus programas de treinamento de moderação e disse estar trabalhando nisso.

Acomodação de novas tecnologias

A Epic Games abriu recentemente suas portas para arte gerada por IA, permitindo jogos e envios que apresentem tais elementos em setembro. Esta decisão segue um relaxamento das regras iniciais do Steam em relação à IA. A Epic Games enfatizou que não proíbe jogos que utilizam novas tecnologias e incentiva a exploração criativa.

Fonte: decrypt.co