Os TikTokers estão usando IA para fazer Joe Biden falar sobre ‘pegar vadias’, Obama abandonar a gíria do Minecraft e Trump se gabar de como ele é ótimo no Fortnite

• Uma nova tendência envolvendo vozes de IA de celebridades e políticos está assumindo o TikTok.
• Existem inúmeros vídeos virais de diálogos gerados por IA entre Joe Biden, Joe Rogan, Donald Trump e Barack Obama.

No fim de semana, a conta do TikTok @ai.voicesspeech postou um vídeo com vozes geradas por algoritmos para Joe Biden, Barack Obama, Donald Trump e outras figuras notáveis ​​jogando o jogo de dedução social “Among Us” e discutindo sobre quem entre eles é o impostor do mal.

“Que porra você está falando? Eu estava no Medbay com Biden”, diz a voz de Trump, referindo-se a uma sala do jogo. O vídeo termina com a voz de IA de Elon Musk admitindo que ele foi o jogador escolhido como o impostor e confessando que uma versão de IA de George Bush era a outra.

Clipes como esses fazem parte de uma tendência crescente no TikTok, em que os criadores estão usando IA para imitar vozes e conversas entre pessoas famosas que talvez nunca tenham na vida real. A ideia é fazer com que usem gírias e falem sobre assuntos que talvez nunca escutemos deles. Embora a maior parte desse tipo de conteúdo seja troll e benigno, ele também pode entrar em território problemático rapidamente.

@ai.voicesspeech #amoungus #aivoices #ai #funny ♬ som original – vozes Ai

Em um vídeo em que uma voz falsa de Biden responde ao recente incidente que levou o governo dos EUA a derrubar um balão operado pela China, a voz da IA ​​é ouvida usando um insulto racista várias vezes.

“Eu gastei meu dinheiro e ainda estou nas trincheiras”, disse a voz a certa altura. “Foda-se comigo, sim.”

A grande maioria dos clipes mais populares, no entanto, são bastante cômicos. O formato mais popular parece ser imaginar figuras de alto nível jogando videogames como “FIFA”, “Overwatch” ou “Minecraft”. Os vídeos tendem a colar fotos estáticas dos alto-falantes sobre as cenas do jogo, o que dá a impressão de que estão todos em uma chamada de voz jogando juntos.

E ouvir Obama ou Biden usar gírias de jogos online é engraçado e chocante porque a IA simula suas vozes com tanta precisão.

“É o seu garoto Joe Rizzler”, disse o AI Biden em um clipe de “Overwatch”. “Meu irmão em Cristo, tente pegar algumas cadelas de uma vez e pule fora dos heróis sem habilidade.”

@steppaontop Estes são muito divertidos de fazer #joebiden #biden #stateoftheunion #voiceai #overwatch #overwatchclips ♬ som original – bigsteppa

Embora não esteja claro como alguns desses TikTokers estão usando IA para simular vozes famosas, e muitos fãs perguntam em suas seções de comentários, há tecnologia disponível para fazer isso. A Fortune informou recentemente que a startup ElevenLabs e sua plataforma de síntese de voz oferecem ferramentas para criar áudio com som realista a partir de vozes humanas. Insider entrou em contato com algumas das contas de memes mais populares para perguntar.

Em outro vídeo que se tornou extremamente viral, um AI Obama diz que ele e Biden querem se juntar ao mundo “Minecraft” de Trump. Depois de alguns minutos discutindo uns com os outros, todos dizem que entraram no servidor. Mas então Trump imediatamente joga Biden em uma ravina profunda e seu personagem morre.

“Veja, Donald, é por isso que não queríamos brincar com você da última vez”, disse AI Biden.

“Vocês são um bando de bebês, puta merda”, respondeu AI Trump.

As pessoas não apenas se divertem com a troca fingida, mas também ficam perplexas com a precisão com que suas vozes são imitadas. “A IA está ficando boa até em inflexão e ênfase”, disse um dos principais comentários.

@edass.s Respondendo a @ trump leva o L novamente #fyp #ai #aivoices #trump #minecraft #obama #joebiden #presidents #presidentaivoices ♬ original sound

Algumas contas dedicadas a clipes de voz falsos de IA acumularam muitos seguidores e milhões de visualizações em cada vídeo. O criador @joerizzington conquistou mais de 160.000 seguidores desde que começou a postar na quinta-feira. A hashtag #aivoices acumulou mais de 53 milhões de visualizações cumulativas.

Além da retórica preocupante de que alguns criadores estão usando mal esse meme e a tecnologia para gerar, há também um risco real de enganar os espectadores involuntários a acreditar em mensagens falsas e desinformação.

Na semana passada, o TikTok derrubou um anúncio em vídeo viral no qual um Joe Rogan manipulado digitalmente parecia defender um suplemento para aumentar a libido chamado Alpha Grind. Rogan nunca anunciou o produto na vida real, e um professor que também apareceu no anúncio confirmado no Twitter foi medicado.

Outros deepfakes recentes, incluindo um do presidente Biden falando sobre tanques e outro de Hillary Clinton lendo textos transfóbicos, também fizeram com que os especialistas se preocupassem em confundir os limites entre o real e o falso. Esses exemplos de alto risco levaram a ElevenLabs a lançar seu próprio declaração públicadizendo que tentará adulterar “casos de uso indevido de clonagem de voz”.