O TikTok disponibilizou, supostamente por engano, uma versão interna de sua ferramenta de Inteligência Artificial (IA) que permitia que o avatar digital de uma pessoa dissesse praticamente qualquer coisa.
A plataforma a removeu do ar após a CNN veicular uma reportagem dizendo que vídeos com conteúdo problemático, como citações de ditadores e até mesmo instruções para beber água sanitária, teriam sido criados usando a ferramenta.
De acordo com relatos, o TikTok teria postado acidentalmente um link para uma versão não protegida de seu novo recurso de avatar digital alimentado por IA, permitindo que usuários comuns criassem vídeos sem quaisquer tipos de restrições.
Lançado neste mês, “Symphony Digital Avatars” do TikTok foi projetado para permitir que empresas gerassem anúncios usando imagem de atores pagos. A ferramenta utiliza tecnologia de dublagem por IA, possibilitando que os anunciantes façam os avatares dizerem o que desejarem, desde que dentro das diretrizes da plataforma.
Embora apenas usuários com conta TikTok Ads Manager tenham acesso à versão oficial da ferramenta, a rede CNN encontrou uma versão que permitia que qualquer pessoa com uma conta pessoal a experimentasse.
Uma porta-voz do TikTok, Laura Perez, informou ao The Verge que a plataforma resolveu o “erro técnico” que “permitiu que um número extremamente pequeno de usuários criasse conteúdo usando uma versão de teste interno da ferramenta por alguns dias”.
O repórter de tecnologia da CNN, Jon Sarlin, diz ter encontrado vídeos problemáticos que teriam sido criados usando a ferramenta de IA do TikTok. Mas não está claro onde ele encontrou os tais vídeos além dos criados pela reportagem, uma vez que o TikTok remove esse tipo de conteúdo de sua plataforma.
A CNN chegou a gerar vários vídeos com conteúdo problemático para a reportagem, como a “Carta à América” de Osama bin Laden e um slogan de supremacia branca. Porém, a rede de notícias alega que não chegou a publicar esses vídeos na plataforma.
Perez destacou que, caso os vídeos tivessem sido postados no TikTok, eles “teriam sido rejeitados por violar nossas políticas”.
