Microsoft usa IA para proteger jogos online – Detalhes no relatório do Xbox

A Microsoft usa IA para ajudar a identificar conteúdo prejudicial e garantir que a comunidade de jogadores permaneça segura ao jogar online.

Usando IA para segurança do jogador

Em uma postagem no blog para o Relatório de Transparência do Xbox, a empresa reiterou seus “avanços na promoção da segurança dos jogadores” e seu “compromisso com a transparência”, bem como sua “abordagem progressiva ao uso de IA”.

Dois métodos específicos são usados: auto-rotulagem e correspondência de padrões de imagem.

Aplicação de IA na identificação de conteúdo prejudicial

A automarcação usa IA para identificar palavras ou frases prejudiciais em denúncias de jogadores, permitindo que os moderadores da comunidade façam uma triagem rápida de denúncias falsas e se concentrem nos casos mais críticos.

A correspondência de padrões de imagens também é usada para identificar e remover rapidamente imagens prejudiciais e tóxicas.

Usando IA para melhorar a segurança

O uso de IA segue a introdução no ano passado de um novo recurso de relatório de voz, permitindo aos jogadores do Xbox capturar videoclipes de bate-papo de voz no jogo para enviar à equipe de segurança do Xbox para revisão.

A Microsoft afirma ter capturado 138.000 gravações de voz desde o lançamento do recurso. Quando estes relatórios resultaram numa sanção, 98% dos jogadores melhoraram o seu comportamento e não receberam mais sanções.

Combatendo a toxicidade online

No entanto, a toxicidade e o sexismo continuam prevalecendo no chat de voz do jogo. Exemplos como o do streamer do Twitch, Taylor Morgan, destacam a necessidade de melhorar a segurança dos jogos online.

Estes exemplos destacam que ainda há muito a ser feito para melhorar a segurança dos jogos online. Embora a Microsoft esteja usando a IA de maneira positiva, é importante lembrar que no ano passado a empresa demitiu toda a sua equipe de ética e sociedade em IA como parte de 10.000 cortes de empregos em toda a empresa.

Mesmo assim, a Microsoft continua a promover os benefícios da IA. Em novembro passado, a empresa anunciou uma “parceria de co-desenvolvimento plurianual” com a Inworld AI para fornecer aos estúdios de jogos Xbox ferramentas de IA, como um co-piloto de design e um mecanismo de execução de personagens.

Concluindo, o uso da IA ​​pela Microsoft para melhorar a segurança dos jogadores online é um passo positivo, embora sejam necessários mais esforços para eliminar a toxicidade generalizada na indústria de jogos.

Fonte: www.eurogamer.net