'Camaleão ideológico': bajulação da IA ao usuário reforça as bolhas políticas, avaliam analistas. Modelos de inteligência artificial adotam enquadramentos alinhados ao posicionamento político do usuário ao responderem perguntas sobre assuntos controversos, como segurança pública, bem-estar social, economia e meio ambiente.

Os pesquisadores descreveram esse comportamento como o de um "camaleão ideológico", traçado para bajular a pessoa, e destacaram que as respostas fornecidas foram verídicas, porém com conteúdo enviesado, ocultando informações que poderiam conflitar com a visão do usuário, reduzindo sua exposição a contrapontos que lhes permitam questionar sua visão de mundo.

Anderson Rocha, cofundador e coordenador do Laboratório de Inteligência Artificial, Recod.ai, do Instituto de Computação da Universidade Estadual de Campinas (Unicamp), explica que o comportamento adulatório dos modelos de IA é fruto do treinamento de programas de desenvolvimento de Large Language Models (LLMs), que são ferramentas de IA de "machine learning" (aprendizado de máquina, em tradução livre), projetadas para entender e gerar textos semelhantes à linguagem humana.

Claudio Miceli, professor do Programa de Engenharia de Sistemas e Computação (PESC), da Universidade Federal do Rio de Janeiro (UFRJ), aponta que na tendência de bajulação, denominada "sycophancy", o modelo de IA interpreta que concordar ou validar essa opinião é uma maneira de ser útil.

Guilherme Neves, professor do IBMEC, considera que os modelos de IA podem ser interpretados como "um estagiário muito dedicado", que foi avaliado por milhares de chefes durante o treinamento. No entanto, Rocha acredita que o comportamento camaleão dos modelos de IA pode criar bolhas políticas individualizadas ainda mais difíceis de romper que as já existentes criadas pelos algoritmos das redes sociais ao oferecerem conteúdos que apenas reforçam a visão do usuário.

Siga a @sputnikbrasil no Telegram