IA detecta deepfakes criados com técnicas desconhecidas
Programa aprende padrões de imagens autênticas para encontrar fraudes
Pesquisadores do Laboratório de Inteligência Artificial (Recod.ai) do Instituto de Computação (IC) da Unicamp, em parceria com cientistas da China e de Singapura, desenvolveram uma inteligência artificial capaz de identificar deepfakes que foram criados com modelos nunca vistos durante o treinamento. Denominado Open-Set DeepFake Detection (OSDFD), o inovador sistema consegue reconhecer conteúdos manipulados em cenários de conjunto aberto – situações em que o sistema de detecção encontra, durante o teste, tipos de deepfakes que não estavam presentes no treinamento. Sua capacidade de identificação em bases de dados desconhecidas atingiu cerca de 90%, superando métodos tradicionais de detecção.
A ferramenta pode ajudar a combater fraudes em um momento de rápida evolução das técnicas de geração de imagens sintéticas. Publicado no periódico IEEE Transactions on Circuits and Systems for Video Technology, o estudo que resultou na criação foi desenvolvido no âmbito do projeto Horus e contou com financiamento da Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp).
O desafio
Os deepfakes, tecnologias de alteração e manipulação de imagens, vídeos e áudios digitais, têm se tornado instrumento para inúmeras atividades ilegais – de golpes financeiros e fraudes corporativas a casos de abuso sexual infantil e disseminação de imagens íntimas não consensuais, além da propagação de desinformação. Servem, portanto, para a produção de conteúdos digitais sintéticos que podem causar danos à reputação de pessoas, instituições e marcas.
Em 2025, cerca de 8 milhões de deepfakes circularam nas redes sociais, um aumento de 900% em relação a 2024, segundo a empresa global de cibersegurança Deep Strike. Com o progresso e a multiplicação das ferramentas de geração de imagens sintéticas, que se tornaram mais sofisticadas e difíceis de serem detectadas, “fica impossível conseguir exemplos de ataques de todos os geradores”, afirma Anderson Rocha, coordenador do Recod.ai e professor no Instituto de Computação da Unicamp. “Dessa forma, procuramos pensar o problema por outro ângulo: se é difícil modelar os ataques, devido à sua variabilidade e às suas nuances, seria possível modelar o que chamamos de normal?”
A solução encontrada pelo grupo de pesquisadores foi ensinar o sistema a reconhecer primeiramente como é uma imagem autêntica. Em vez de depender apenas de exemplos de deepfakes, o OSDFD utiliza imagens reais como referência para aprender padrões de normalidade – textura de pele, iluminação e sombras, entre outros. Essas imagens também ajudam a equilibrar o treinamento, para o qual são utilizadas quantidades semelhantes de conteúdos genuínos e manipulados, evitando que o modelo se especialize em determinados tipos de falsificação.
O novo sistema se diferencia de outros métodos de detecção baseados em IA que aprendem a reconhecer sinais de falsificação a partir de exemplos apresentados no processo de treinamento. Alguns desses modelos buscam nos conteúdos sintéticos sinais de deformações faciais, padrões incomuns de textura e inconsistências fisiológicas, por exemplo. Outros analisam as imagens de forma mais ampla, procurando identificar características compartilhadas por diferentes técnicas de manipulação.
O problema é que esses detectores nem sempre conseguem acompanhar a evolução das técnicas de deepfakes, razão pela qual muitos deles precisam ser integralmente atualizados, o que demanda tempo e recursos computacionais. Quando se deparam com tipos de falsificação para os quais não foram treinados, o risco de erro aumenta e há uma piora significativa no desempenho.
A partir do conhecimento adquirido sobre imagens autênticas, o OSDFD compara as novas imagens com os padrões aprendidos e busca sinais que indiquem possíveis manipulações. “No caso de nossa formulação, a ideia é a de que precisamos adicionar apenas imagens naturais de tempos em tempos, para o modelo capturar características mais recentes e sempre atualizadas de fotografia e não de manipulações, porque é muito mais fácil conseguir imagens de situações normais [ou seja, que são reais]”, explica Rocha.
O modelo combina diferentes métodos de análise. Além de avaliar características locais e globais da imagem, como bordas irregulares e texturas artificiais, seu sistema inclui um módulo que reforça a separação entre padrões de rostos reais e manipulados. Durante o treinamento, ele também é exposto a diferentes estilos de falsificação, o que favorece o aprendizado de características gerais dos deepfakes sem depender de técnicas específicas.
A operacionalização da tecnologia demanda baixo consumo de memória e processamento, permitindo atualizações rápidas e fazendo com que o modelo, no futuro, possa ser instalado em dispositivos móveis, democratizando a detecção desse tipo de conteúdo. Dessa forma, tem potencial para acompanhar a evolução acelerada de geradores de deepfakes.
Fortalecer a confiança digital
Embora nenhuma ferramenta disponível seja capaz de eliminar completamente os deepfakes, métodos mais robustos podem ampliar a capacidade de identificar conteúdos manipulados e servir de apoio para estratégias de verificação digital. Nesse sentido, o OSDFD auxilia no combate à desinformação, ao roubo de identidade e às fraudes digitais. Seu desempenho elevado mesmo entre os tipos de falsificação para os quais não recebeu treinamento é especialmente importante para o combate do problema, já que o surgimento de novos geradores desses materiais é constante.
Ao melhorar a capacidade de verificar a autenticidade de imagens, vídeos e áudios, o modelo pode contribuir para ampliar a integridade da mídia digital e a confiança do público em conteúdos compartilhados online, especialmente em contextos sensíveis que envolvem processos eleitorais, práticas jornalísticas e comunicações institucionais.
Matéria: Juliana Vicentini | Jornal da Unicamp.