Tecnologia desenvolvida na USP usa IA para identificar riscos no conteúdo digital acessado por crianças e adolescentes
Parceria entre a Embrapii ICMC-USP e a startup Infantia deu origem a um aplicativo que analisa conteúdos textuais produzidos e consumidos por esse público em ambientes digitais
O uso de telas por crianças e adolescentes já faz parte da rotina das famílias brasileiras e os números mostram a dimensão desse cenário. Segundo a pesquisa TIC Kids Online Brasil 2025, 92% das crianças e adolescentes entre 9 e 17 anos utilizam internet no País, enquanto 28% tiveram o primeiro contato com a rede antes dos seis anos de idade. O levantamento também aponta que um em cada cinco jovens entre 11 e 17 anos já recebeu mensagens ou conteúdo de caráter sexual on-line, evidenciando os desafios relacionados à segurança e ao acompanhamento digital na infância e adolescência.
Diante desse cenário, a Embrapii ICMC-USP, unidade da Empresa Brasileira de Pesquisa e Inovação Industrial (Embrapii) integrada ao Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, junto à startup Infantia, desenvolveram uma nova tecnologia baseada em inteligência artificial capaz de analisar conteúdos textuais produzidos e consumidos por esse público em ambientes digitais. O objetivo do projeto é ajudar famílias a identificarem sinais de risco e comportamentos preocupantes no ambiente virtual, oferecendo suporte mais inteligente, preventivo e contextualizado para o acompanhamento. O aplicativo, chamado Infantia Online, está disponível para download gratuito neste link.
A iniciativa emprega grandes modelos de linguagem (Large Language Models – LLMs) para compreender padrões linguísticos e contextos relacionados ao comportamento on-line de crianças e adolescentes. O projeto é coordenado pelo professor Luís Gustavo Nonato, professor do ICMC e pesquisador reconhecido internacionalmente por sua atuação em ciência de dados, visualização de informações e inteligência computacional.
“Neste projeto, o nosso foco foi incorporar técnicas avançadas de análise de dados e inteligência artificial no desenvolvimento de um aplicativo capaz de aprimorar a identificação de sinais e comportamentos relevantes na rotina digital de crianças e adolescentes, oferecendo aos responsáveis mais clareza e apoio na tomada de decisões sobre proteção, diálogo e acompanhamento digital”, afirma Nonato.
Segundo ele, a tecnologia desenvolvida consiste em um modelo de inteligência artificial especializado na análise de texto, produzido e consumido por crianças e adolescentes. O sistema consegue identificar temáticas sensíveis como bullying, assédio, violência, automutilação, drogas e outros conteúdos nocivos, além de detectar mudanças de padrão linguístico, sinais de isolamento, linguagem de alerta e pedidos indiretos de ajuda.
“Os dados analisados são coletados diretamente no dispositivo utilizado pela criança ou adolescente, como smartphones e tablets. Quando o sistema identifica situações potencialmente preocupantes, são gerados alertas direcionados aos pais ou responsáveis, permitindo ações preventivas e acompanhamento mais próximo”, explica o pesquisador.
Na prática, o aplicativo instalado no dispositivo da criança ou adolescente coleta sinais textuais do ambiente digital. Esses dados são anonimizados e processados em ambiente seguro, com apoio de modelos de inteligência artificial. A partir dessa análise, o aplicativo dos pais ou responsáveis recebe alertas quando uma temática sensível ou comportamento relevante é identificado.
“Diferente da maioria das soluções existentes no mercado, a metodologia proposta resulta em uma tecnologia capaz de analisar não somente o histórico de links acessados pelos jovens, mas também conteúdos produzidos e consumidos no ambiente virtual, como mensagens e postagens enviadas ou lidas em redes sociais ou aplicativos de comunicação.”
Orientações para o cotidiano das famílias
A proposta da startup Infantia surgiu justamente da necessidade de criar ferramentas mais humanas e eficazes para lidar com os desafios digitais enfrentados pelas famílias.
“A proteção digital infantil se tornou um dos maiores desafios das famílias atuais. Crianças e adolescentes crescem cercados por telas, aplicativos, jogos e redes sociais, muitas vezes expostos a riscos que ainda não têm maturidade para reconhecer. Do outro lado, estão mães, pais e responsáveis que se preocupam com a segurança dos filhos, mas nem sempre conseguem acompanhar tudo o que acontece no ambiente digital. Entre a rotina corrida, a sensação de não dedicar tempo suficiente e a dificuldade de compreender como essas experiências impactam a vida do filho, muitas famílias sentem falta de apoio para cuidar melhor. A Infantia nasceu justamente dessa inquietação: criar uma resposta humana para um desafio digital”, afirma Ricardo Busato, sócio da Infantia.
Segundo ele, a proposta da empresa é utilizar tecnologia e ciência de dados para transformar sinais complexos do ambiente digital em orientações práticas para o cotidiano das famílias. Com o apoio de psicólogos pesquisadores da Universidade Federal do Espírito Santo (Ufes), a solução combina inteligência artificial e sensibilidade humana para interpretar sinais de atenção no universo infantojuvenil.
“Nosso objetivo é ajudar famílias a proteger crianças e adolescentes sem invadir privacidade ou romper vínculos de confiança. A parceria com a Embrapii e com o ICMC-USP nos permite unir tecnologia, ciência e responsabilidade social para desenvolver soluções mais inteligentes, humanas e efetivas”, destaca Busato.
Além dos avanços tecnológicos, o projeto também evidencia os benefícios do modelo de inovação promovido pela Embrapii, que aproxima empresas e universidades para acelerar o desenvolvimento de soluções com alto potencial de impacto social e econômico. Entre as vantagens estão o acesso à infraestrutura científica de excelência, conexão com pesquisadores especializados, compartilhamento de riscos tecnológicos e maior agilidade no desenvolvimento de produtos inovadores.
O projeto reforça o papel da inovação aplicada como ferramenta estratégica para enfrentar desafios contemporâneos relacionados à infância e adolescência no ambiente digital, aproximando ciência, tecnologia e sociedade em torno de um tema cada vez mais urgente.
Para baixar o aplicativo Infantia Online clique aqui: https://infantia.online/app-infantia/#baixar-app.
Matéria: Raquel Vieira, da Assessoria de Imprensa do Escritório de Grandes Projetos e CEPIx do ICMC-USP | Jornal da USP.