A verdade sombria por trás da sua GPU: gerando conteúdo adulto por meio do Salad

Salad: a plataforma de jogos em nuvem que cria conteúdo adulto com sua GPU

Se você é um jogador que empresta seu poder de GPU para uma empresa de computação em nuvem chamada Salad, há uma boa chance de que ele esteja sendo usado para criar conteúdo adulto gerado por IA em troca de moeda e itens de videogame.

De acordo com um relatório da 404 Media, Salad encontrou uma maneira inteligente de dimensionar a geração de conteúdo de IA, incluindo imagens, vídeos e texto, terceirizando o trabalho intensivo de computação para as poderosas GPUs encontradas nas configurações de jogos. Os jogadores que se inscrevem para “alugar” suas GPUs ociosas são compensados ​​​​em produtos digitais como cosméticos Fortnite, créditos Roblox, skins Minecraft e outras recompensas no jogo por meio da loja Salad.

É dinheiro fácil – placas gráficas poderosas são adequadas ao poder de processamento necessário para executar modelos de IA como Stable Diffusion para gerar mídia. No entanto, parte do conteúdo de IA que o Salad gera usando a potência da GPU alugada é conteúdo adulto.

O lado negro da salada: implicações éticas e riscos de conteúdo não consensual

Durante o registro, o Salad oferece aos usuários a opção de cancelar a geração de conteúdo adulto explícito. No entanto, os moderadores da plataforma alegaram que, por padrão, todos são excluídos e alguns países não permitem a adesão devido às leis locais. O site da Salad também sugere que os usuários que não geram conteúdo adulto podem ganhar menos dinheiro.

A verdadeira opacidade se manifesta com o envolvimento da Salad com o Civitai, uma plataforma onde modelos de IA são compartilhados e imagens são geradas. A 404 Media observa que Civitai já permitiu a geração de pornografia não consensual, incluindo um incidente particularmente perturbador em que imagens geradas por IA “poderiam ser classificadas como pornografia infantil” foram distribuídas por outra empresa que trabalhava com Civitai.

Nem Salad nem Civitai foram transparentes sobre a prevalência da geração de conteúdo não consensual e ilegal entre as muitas imagens pornográficas que a IA produz. Mas dado o histórico de Civitai e a escala de poder de processamento opaco que Salad possui, é inteiramente possível que coisas perturbadoras possam ser criadas, sem o conhecimento dos jogadores cujas GPUs estão sendo alugadas.

É uma situação sombria e representativa dos maiores desafios éticos emergentes no desenvolvimento da IA ​​comercial – empresas que correm para reivindicar quota de mercado e expandir-se sem salvaguardas adequadas de transparência ou responsabilização.

Fonte: www.bing.com