Uma IA brasileira aprendeu a reconhecer 9 em 10 deepfakes que nunca viu

Quando a falsificação muda antes do detector

Uma imagem falsificada pode chegar a uma redação ou a uma empresa antes que alguém saiba qual programa a criou. Esses conteúdos, conhecidos como deepfakes, imitam registros verdadeiros usando inteligência artificial. Podem servir a golpes, roubo de identidade e desinformação. Para um detector, a dificuldade aumenta quando a técnica de fabricação ainda não apareceu em seu treinamento.

Pesquisadores do Laboratório de Inteligência Artificial Recod.ai, do Instituto de Computação da Unicamp, desenvolveram um detector para enfrentar essa situação. Nos testes com bases desconhecidas, ele identificou cerca de 90% dos deepfakes, superando os métodos tradicionais comparados no estudo. O sistema parte de imagens autênticas para aprender o padrão que a falsificação tende a alterar.

A corrida que começa atrasada

Detectores convencionais procuram deformações faciais, texturas artificiais, bordas irregulares ou outras marcas aprendidas a partir de manipulações disponíveis. Quando um novo gerador muda esses sinais, a equipe precisa reunir exemplos, treinar o modelo outra vez e gastar tempo e processamento. A fraude, enquanto isso, já pode circular.

O ponto de partida pode ser comparado a um controle de qualidade que aprende a aparência das peças íntegras. Conhecer esse padrão ajuda a procurar desvios numa peça nova, mesmo quando o defeito ainda não entrou num catálogo. O detector brasileiro faz essa comparação em fotografias: examina textura, iluminação, sombras e outras características da imagem.

Rocha mudou o ponto de partida

O grupo coordenado pelo professor Anderson Rocha treinou o modelo com quantidades semelhantes de imagens genuínas e manipuladas. Esse equilíbrio ajuda a evitar que a aprendizagem fique concentrada num único tipo de falsificação. O sistema observa detalhes de uma região da fotografia e características do conjunto para separar os padrões de rostos reais e modificados.

O limite do catálogo de golpes orientou a escolha de projeto. A cada novo gerador, surgem ataques que a equipe ainda não tem à mão. Rocha formulou a pergunta que levou o laboratório a mudar o ponto de partida.

Entre 2 e 4 de junho de 2026, em Londres, Rocha apresentou o projeto Horus durante a FAPESP Week. No palco, mostrou pesquisas do laboratório voltadas às chamadas realidades sintéticas, o universo de imagens, vídeos e textos gerados por inteligência artificial. O detector de deepfakes é uma das frentes dessa investigação.

Dessa forma, procuramos pensar o problema por outro ângulo: se é difícil modelar os ataques, devido à sua variabilidade e às suas nuances, seria possível modelar o que chamamos de normal?

O teste apresentou falsificações fora do catálogo

A avaliação colocou o modelo diante de bases com falsificações produzidas por técnicas ausentes do treinamento. Para visualizar a proporção obtida, o sistema reconheceu aproximadamente nove deepfakes em cada dez naquela condição. O desafio é diferente de reconhecer novamente os exemplos usados para ensinar o detector.

O trabalho foi publicado no periódico científico IEEE Transactions on Circuits and Systems for Video Technology. A equipe chamou o modelo de Open-Set DeepFake Detection, ou OSDFD. O nome identifica a situação de conjunto aberto: durante o teste, aparecem tipos de falsificação que o detector não havia encontrado no aprendizado.

Depois de aprender os padrões das imagens autênticas, o OSDFD compara novas fotografias com essa referência. O modelo também recebe diferentes estilos de falsificação, procurando características gerais do conteúdo sintético. A combinação permite enfrentar a mudança dos geradores sem depender apenas de um sinal específico, como uma borda irregular.

Do laboratório à checagem de conteúdo

O Horus reúne oito aplicações em desenvolvimento no Recod.ai. Entre elas estão detecção de deepfakes, verificação de mídia sintética, checagem de fatos e identificação de falsificação científica. O projeto organiza a pesquisa em torno de situações nas quais uma imagem ou um conteúdo precisa ter sua autenticidade examinada.

Outras ferramentas do laboratório já chegaram à checagem de conteúdo. Uma solução de verificação de imagens é usada por Lupa, Aos Fatos e G1 e foi acionada para analisar registros visuais de conflitos no Oriente Médio. Outra, voltada a falsificações em publicações biomédicas, é usada pelo Escritório de Integridade Científica do governo dos Estados Unidos e está disponível como código aberto.

Atualizar o padrão da fotografia

A evolução do método depende também de acompanhar mudanças nas imagens reais. Rocha explica que a equipe pode acrescentar fotografias naturais periodicamente para capturar características mais recentes. Conseguir imagens de situações normais é mais simples que reunir exemplos de todas as manipulações que ainda poderão surgir.

Essa atualização mantém a referência do detector próxima das fotografias que circulam fora do laboratório. Quando um novo gerador muda a aparência da falsificação, o OSDFD pode procurar o desvio em relação a esse padrão. É esse problema, encontrar uma fraude que ainda não estava no catálogo, que os testes da equipe brasileira enfrentaram.