Pesquisadores do Laboratório de Inteligência Artificial (Recod.ai) do Instituto de Computação (IC) da Unicamp, em parceria com cientistas da China e de Singapura, desenvolveram uma inteligência artificial capaz de identificar deepfakes que foram criados com modelos nunca vistos durante o treinamento. Denominado Open-Set DeepFake Detection (OSDFD), o inovador sistema consegue reconhecer conteúdos manipulados em cenários de conjunto aberto – situações em que o sistema de detecção encontra, durante o teste, tipos de deepfakes que não estavam presentes no treinamento. Sua capacidade de identificação em bases de dados desconhecidas atingiu cerca de 90%, superando métodos tradicionais de detecção.
A ferramenta pode ajudar a combater fraudes em um momento de rápida evolução das técnicas de geração de imagens sintéticas. Publicado no periódico IEEE Transactions on Circuits and Systems for Video Technology, o estudo que resultou na criação foi desenvolvido no âmbito do projeto Horus e contou com financiamento da Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp).
O desafio
Os deepfakes, tecnologias de alteração e manipulação de imagens, vídeos e áudios digitais, têm se tornado instrumento para inúmeras atividades ilegais – de golpes financeiros e fraudes corporativas a casos de abuso sexual infantil e disseminação de imagens íntimas não consensuais, além da propagação de desinformação. Servem, portanto, para a produção de conteúdos digitais sintéticos que podem causar danos à reputação de pessoas, instituições e marcas.
Em 2025, cerca de 8 milhões de deepfakes circularam nas redes sociais, um aumento de 900% em relação a 2024, segundo a empresa global de cibersegurança Deep Strike. Com o progresso e a multiplicação das ferramentas de geração de imagens sintéticas, que se tornaram mais sofisticadas e difíceis de serem detectadas, “fica impossível conseguir exemplos de ataques de todos os geradores”, afirma Anderson Rocha, coordenador do Recod.ai e professor no Instituto de Computação da Unicamp. “Dessa forma, procuramos pensar o problema por outro ângulo: se é difícil modelar os ataques, devido à sua variabilidade e às suas nuances, seria possível modelar o que chamamos de normal?”
A solução encontrada pelo grupo de pesquisadores foi ensinar o sistema a reconhecer primeiramente como é uma imagem autêntica. Em vez de depender apenas de exemplos de deepfakes, o OSDFD utiliza imagens reais como referência para aprender padrões de normalidade – textura de pele, iluminação e sombras, entre outros. Essas imagens também ajudam a equilibrar o treinamento, para o qual são utilizadas quantidades semelhantes de conteúdos genuínos e manipulados, evitando que o modelo se especialize em determinados tipos de falsificação.
O novo sistema se diferencia de outros métodos de detecção baseados em IA que aprendem a reconhecer sinais de falsificação a partir de exemplos apresentados no processo de treinamento. Alguns desses modelos buscam nos conteúdos sintéticos sinais de deformações faciais, padrões incomuns de textura e inconsistências fisiológicas, por exemplo. Outros analisam as imagens de forma mais ampla, procurando identificar características compartilhadas por diferentes técnicas de manipulação.
O problema é que esses detectores nem sempre conseguem acompanhar a evolução das técnicas de deepfakes, razão pela qual muitos deles precisam ser integralmente atualizados, o que demanda tempo e recursos computacionais. Quando se deparam com tipos de falsificação para os quais não foram treinados, o risco de erro aumenta e há uma piora significativa no desempenho.
A partir do conhecimento adquirido sobre imagens autênticas, o OSDFD compara as novas imagens com os padrões aprendidos e busca sinais que indiquem possíveis manipulações. “No caso de nossa formulação, a ideia é a de que precisamos adicionar apenas imagens naturais de tempos em tempos, para o modelo capturar características mais recentes e sempre atualizadas de fotografia e não de manipulações, porque é muito mais fácil conseguir imagens de situações normais [ou seja, que são reais]”, explica Rocha.
O modelo combina diferentes métodos de análise. Além de avaliar características locais e globais da imagem, como bordas irregulares e texturas artificiais, seu sistema inclui um módulo que reforça a separação entre padrões de rostos reais e manipulados. Durante o treinamento, ele também é exposto a diferentes estilos de falsificação, o que favorece o aprendizado de características gerais dos deepfakes sem depender de técnicas específicas.
A operacionalização da tecnologia demanda baixo consumo de memória e processamento, permitindo atualizações rápidas e fazendo com que o modelo, no futuro, possa ser instalado em dispositivos móveis, democratizando a detecção desse tipo de conteúdo. Dessa forma, tem potencial para acompanhar a evolução acelerada de geradores de deepfakes.
Fortalecer a confiança digital
Embora nenhuma ferramenta disponível seja capaz de eliminar completamente os deepfakes, métodos mais robustos podem ampliar a capacidade de identificar conteúdos manipulados e servir de apoio para estratégias de verificação digital. Nesse sentido, o OSDFD auxilia no combate à desinformação, ao roubo de identidade e às fraudes digitais. Seu desempenho elevado mesmo entre os tipos de falsificação para os quais não recebeu treinamento é especialmente importante para o combate do problema, já que o surgimento de novos geradores desses materiais é constante.
Ao melhorar a capacidade de verificar a autenticidade de imagens, vídeos e áudios, o modelo pode contribuir para ampliar a integridade da mídia digital e a confiança do público em conteúdos compartilhados online, especialmente em contextos sensíveis que envolvem processos eleitorais, práticas jornalísticas e comunicações institucionais.
Matéria: Juliana Vicentini | Jornal da Unicamp.