Polêmica utilização de IA para recriação de vozes de crianças vítimas de crimes

Recentemente, se tornou popular entre alguns criadores de conteúdo nas mídias sociais um novo método de narrar histórias de vítimas de crimes. Estes conteúdos, geralmente postados em plataformas como TikTok e YouTube, utilizam a inteligência artificial (IA) para recriar a semelhança e a voz de crianças desaparecidas ou mortas, dando a elas a possibilidade de relatar os detalhes perturbadores do que aconteceu com elas.

Embora alguns defensores afirmem que esses vídeos são uma nova maneira de chamar a atenção para casos pouco divulgados, os críticos argumentam que eles podem apresentar informações incorretas e ofender familiares das vítimas. Mas, como isso é possível usando IA no storytelling?

LEIA MAIS:

Caso Gabriel Rossi: saiba como a polícia desvendou estelionato e chegou à mandante do crime

Homem se passa por empresária para conseguir fotos íntimas de adolescente e é preso por extorsão

A tecnologia por trás do fenômeno, crianças e a IA

De acordo com Felix M. Simon, pesquisador de comunicação do Instituto Oxford de Internet, os vídeos mencionados neste artigo foram produzidos utilizando “uma ou várias ferramentas de IA”. Esses vídeos utilizam IA para recriar imagens e vozes de crianças, geralmente apresentando estética de anime ou de quadrinhos e pele polida, características típicas de vídeos gerados por IA de baixo custo.

O avanço da IA possibilitou a criação de softwares capazes de imitar, ou até clonar, vozes de pessoas com um alto grau de precisão. No entanto, as vozes infantis nos vídeos em questão parecem ser geradas por computador e não baseadas nas vozes reais das vítimas.

As preocupações acerca dessa prática

Simon alerta que esse tipo de conteúdo tem potencial para retraumatizar os enlutados. Ele acredita que o uso da IA para recriar as vozes dos falecidos pode ser visto como uma violação do princípio de que os mortos devem ser tratados com dignidade e terem seus direitos garantidos.

Além disso, conteúdos emocionais tendem a ter maior engajamento nas redes sociais, o que pode levar a um aumento no compartilhamento desses vídeos. Nos comentários desses vídeos, muitos usuários deixam homenagens às jovens vítimas, enquanto outros criticam os criadores por usarem estas vítimas para ganhar visibilidade ou notoriedade.

As ações das plataformas

Enquanto o TikTok removeu diversos vídeos que retratam essas narrativas, muitos ainda estão disponíveis no YouTube. O TikTok afirmou que seus Community Guidelines são claros ao desaprovar mídias sintéticas que contenham a semelhança de jovens e que continuará removendo conteúdo deste tipo. Por outro lado, o YouTube não se manifestou sobre suas diretrizes a respeito desses videos.