Deepfakes: O Que São e Por Que Precisamos Combatê-las

Imagine ver um vídeo onde uma pessoa pública ou alguém próximo a você diz coisas que nunca diria ou age de maneira totalmente inesperada. Essa é a realidade criada pelas deepfakes. Nos últimos anos, essa tecnologia ganhou destaque no mundo digital, levantando preocupações em diferentes áreas, desde a segurança pessoal até a estabilidade política.

As deepfakes podem ser vistas como uma versão avançada das fake news. Elas representam uma tecnologia de manipulação mais moderna e perigosa, pois permitem que pessoas sejam imitadas ou que eventos sejam simulados, criando falsificações que são difíceis de identificar como falsas.

Essas manipulações podem ocorrer de diversas formas, cada uma com uma técnica específica para criar uma falsa representação da realidade que parece completamente autêntica. As mais comuns incluem:

• Substituição de um rosto por outro (face-swap, ou troca-de-face).
• Clonagem de voz, aparência e trejeitos, para gerar um vídeo em que a pessoa clonada reproduz todas as falas e movimentos realizados por um ator (pupper-master, ou jogo do ventríloquo).
• Adulteração da região da boca, para que o movimento dos lábios acompanhe um áudio acrescentado (lip-sync, ou sincronização labial).

As deepfakes mais avançadas são criadas com a ajuda das redes generativas adversárias, ou GANs (sigla para Generative Adversarial Networks). Em uma GAN, dois algoritmos trabalham em competição: um deles cria conteúdos falsos que parecem reais, enquanto o outro tenta identificar e revelar as falhas nesses conteúdos. Esse processo de “treinamento” constante permite que o primeiro algoritmo melhore continuamente, gerando resultados que parecem cada vez mais realistas.

Com essa sofisticação, as deepfakes se tornam ferramentas poderosas de engano, capazes de nos fazer acreditar que uma pessoa disse ou fez algo que nunca aconteceu ou esteve em lugares onde jamais esteve. Isso abre portas para diversos tipos de fraude, manipulação da opinião pública e interferência no debate democrático. Por exemplo, criadores de deepfakes podem enganar pessoas para obter informações sensíveis, como senhas bancárias e de e-mails, ou até se passar por familiares para pedir dinheiro emprestado ou transferências bancárias. Já houve casos em que deepfakes foram usadas para simular sequestros, exigindo resgates, e para enganar funcionários de empresas, fazendo com que executassem ordens falsas de pagamento, resultando em grandes perdas financeiras.

Danos Os danos causados por deepfakes são vastos e afetam diretamente tanto o público quanto a esfera política e econômica. Deepfakes também são usadas como ferramentas de manipulação política, promovendo narrativas falsas que influenciam eleições ao redor do mundo. Elas ajudam a espalhar conteúdos enganosos e impactantes que reforçam intolerância, ódio e preconceito, muitas vezes resultando em violência no mundo real.

Uso Mal-Intencionado Além disso, deepfakes são frequentemente usadas para criar vídeos de conteúdo sexual falso, muitas vezes em casos de vingança ou assédio em ambientes escolares, causando humilhação intensa para as vítimas e suas famílias.

Em essência, deepfakes não representam provas de verdade, mas sim criam falsificações de eventos que nunca ocorreram, trazendo sérios prejuízos para a sociedade, empresas e indivíduos.

Para enfrentar esse desafio digital, é crucial investir em tecnologias de detecção, conscientizar a sociedade e implementar regulamentações eficazes. Essas medidas são essenciais para proteger a integridade da informação e manter a confiança pública. Além disso, é importante lembrar que nas redes sociais e plataformas de vídeo, as deepfakes podem ser denunciadas através dos canais disponíveis para reportar violações das regras de comunidade e termos de uso.