Ferramentas de inteligência artificial alteram seu padrão de informações e respostas aos usuários para se adaptarem ao seu viés político. Esse efeito transforma as IAs em chamados “camaleões ideológicos”, remetendo à capacidade desses animais de modificarem sua aparência.
Todas os 21 modelos das ferramentas de linguagens analisados por pesquisadores da Universidade Estadual de Campinas (Unicamp), entre eles o Chat-GPT e o Gemini, apresentam a alteração de seus padrões para adequação aos usuários.
Essa configuração pode ocasionar a repetição de ideologias e o aumento da polarização. Quem explica é Paulo Pirozelli, professor do Departamento de Filosofia da Faculdade de Filosofia, Letras e Ciências Humanas da USP.
Camaleões ideológicos
Os modelos são programados para gerarem textos que sejam mais adequados e alinhados ao perfil do usuário que está conversando com eles. Esse alinhamento pode se dar em diferentes níveis, desde o pedido do usuário até as fontes da busca de informação.
A alteração também pode ocorrer de maneira implícita, a partir das conversas anteriores do usuário, em que o modelo vai entender o perfil, suas preferências, ideais e interesses. As ferramentas pressupõem alinhamentos políticos e crenças de quem o usa.
Para o professor, isso acontece porque esses modelos são treinados para produzirem respostas úteis para os usuários, que podem ter diferentes demandas e interesses. Eles também são adaptáveis aos contextos e respondem de acordo com as instruções e informações exigidas.
Câmaras de Eco
As ferramentas também tendem a evitar dar respostas agressivas ou confrontar diretamente os usuários. Uma consequência disso é que elas podem reforçar certas opiniões e crenças, ao invés de colocá-las em questionamento ou apresentar pontos de vista diferentes.
As posições políticas ou econômicas de uma pessoa podem ficar mais polarizadas e extremas na medida em que ela interage com o modelo. Esse comportamento pode gerar uma câmara de eco, em que as posições do usuário são reforçadas e fortalecidas por um modelo que tende a se alinhar ao seu posicionamento.
*Sob orientação de Marcia Avanza - Jornal da USP
