Já se deparou com um vídeo ou áudio que parecia incrivelmente real, mas descobriu depois que era falso? Conhecidos como ‘deepfakes’, esses vídeos ou áudios manipulados por Inteligência Artificial (IA) estão se tornando cada vez mais sofisticados e difíceis de identificar, causando preocupação significativa aos usuários. No entanto, essa tecnologia de simulação, se bem utilizada, pode ser uma grande aliada do negócio em diversos setores do mercado.

No Brasil, o uso de deepfakes disparou 830% em apenas um ano, de acordo com o Sumsub Identity Fraud Report 2023. O país, que acumula metade dos casos registrados na América Latina, enfrenta o agravante de que 66% dos brasileiros, segundo a Kaspersky, não sabem o que é uma deepfake. Esse desconhecimento resultou em repercussões controversas envolvendo vídeos manipulados de figuras públicas.

Essa falta de informação no país resultou em repercussões controversas a diversas celebridades, como, por exemplo, um vídeo adulterado do médico Dráuzio Varella indicando o uso de um colágeno em gotas que é usado supostamente por outros famosos. Além disso, produtos similares foram impulsionados indevidamente nas redes sociais ao lado de rostos igualmente falsos, como do cantor Solimões, do ex- jogador de futebol Ronaldo Nazário e do cantor Roberto Carlosa, entre outros.

Embora essa simulação digital esteja vinculada a diversos golpes virtuais, ela é vista com bons olhos por entusiastas da tecnologia no mercado legal. Mesmo que o movimento ainda seja incipiente no Brasil, empresas com foco B2B (prestação de serviços para outras companhias) estão de olho nessa tecnologia para desenvolver conteúdos educacionais, treinamento de trabalho ou até mesmo para a publicidade.

Imagine, por exemplo, esse tipo de tecnologia sendo usada para mostrar o Dom Pedro I contando a história do nosso país, ou, ainda, ver artistas já falecidos "atuando" em novas produções, proporcionando experiências únicas aos espectadores, como foi o caso da Volkswagen, que recriou digitalmente a cantora Elis Regina para atuar com sua filha Maria Rita. Mesmo gerando controvérsia, a propaganda continua no ar validada pelo Conar (Conselho Nacional de Autorregulamentação Publicitária).

Já em casos reais no setor corporativo, materiais audiovisuais podem ser desenvolvidos a partir da captação de características de um executivo para aprimorar o treinamento de funcionários, por exemplo.

Contudo, mesmo que as vantagens de uso sejam evidentes no mercado,vale ressaltar que é de extrema importância considerar os cuidados contra crimes cibernéticos nas mídias digitais. Por isso, é essencial que as plataformas sociais invistam em soluções tecnológicas, como em IA e aprendizado de máquina (conhecido também como ‘Machine Learning’); colaboração com universidades ou institutos de pesquisa; desenvolvimento de ferramentas de autenticação e verificação; monitoramento em tempo real e respostas rápidas; além de campanhas de conscientização. A partir dessa premissa, será possível identificar e bloquear esses vídeos antes que causem danos irreparáveis à população.

Do outro lado, como expectadores, também é nosso o papel de lutar contra essas desinformações. Dessa forma, há alguns sinais visuais que ajudam a desmascarar manipulações, como observar o piscar de olhos irregular ou ausente da pessoa, além da iluminação do rosto que pode parecer estranha ou inconsistente.

Outro aspecto importante é a sincronização labial em que, por vezes, as palavras faladas não combinam perfeitamente com o movimento dos lábios, o que pode indicar uma edição artificial. Além disso, reparar em detalhes borrados ou fora de foco em cabelos e dentes, regiões estas tão sensíveis e que podem escapar dos algoritmos de IA que identificam as inconsistências.

Diante a tantas vantagens e desvantagens do uso dessa tecnologia, é fundamental que as práticas seguras de vigilância nas redes sociais sejam constantes, que vão desde verificar a autenticidade de fontes até manter-se atualizado sobre as últimas tendências tecnológicas.

Embora o futuro possa parecer desafiador, a simulação digital tem um caminho positivo se utilizada com ética para que o usuário possa navegar em um cenário mais confiável e as soluções de mercado sejam ampliadas.

*Kefreen Batista é vice-presidente de tecnologias na Globant, empresa nativa digital focada em reinventar negócios por meio de soluções tecnológicas inovadoras.

Sobre a Globant

Na Globant, criamos os produtos nativos digitais que as pessoas adoram. Preenchemos a lacuna entre negócios e consumidores por meio da tecnologia e da criatividade, aproveitando nossa experiência como potência em IA. Ousamos transformar digitalmente as organizações e nos esforçamos para encantar seus clientes.

Contamos com mais de 28,9 mil funcionários e estamos presentes em 33 países, abrangendo 5 continentes, trabalhando para empresas como Google, Electronic Arts e Santander, entre outras.
Fomos reconhecidos como Líder Mundial em Serviços de IA (2023) e Líder Mundial em
Serviços de Melhoria da Experiência do Cliente (2020) pelo relatório IDC MarketScape.
Somos a marca de TI que mais cresce e a quinta marca de TI mais forte no mundo (2024), de acordo com a Brand Finance.
Também fomos destaque em estudos de caso de negócios em Harvard, MIT e Stanford.
Somos membros ativos da Green Software Foundation (GSF) e do Cybersecurity Tech Accord.