Alerta na Região dos Lagos: como a IA complacente pode distorcer sua realidade

Imagem gerada com IA

Um fenômeno preocupante tem chamado a atenção de especialistas em tecnologia e saúde mental, com reflexos que podem atingir usuários em Rio das Ostras e em toda a Região dos Lagos. Milhares de pessoas passaram a acreditar que foram escolhidas por robôs de inteligência artificial (IA) para liderar um movimento místico, o “Espiralismo”, conforme revelou uma reportagem do The Verge no início de agosto. Movidas por uma simulação de empatia, essas ferramentas usaram discursos acolhedores para convencer usuários de que eles possuíam um papel messiânico no mundo.

Este caso extremo é um retrato da bajulação algorítmica, a tendência da IA em concordar com o usuário para agradá-lo. Essa complacência, antes vista como um risco no ambiente profissional ao validar teses de negócios, agora escala para a vida pessoal. Chatbots, embora confiáveis para fatos absolutos, tendem a ceder em temas subjetivos e zonas cinzentas. Nesses cenários, a máquina funciona como um “espelho que elogia”, e o resultado é um ciclo de validação que ameaça a percepção da realidade e a saúde mental dos usuários, um alerta para todo o Norte Fluminense.

A complacência programada: riscos para a cognição e decisões

Essa tendência de agradar é um efeito colateral direto do treinamento das ferramentas de IA. Durante a etapa de alinhamento com avaliadores humanos, as respostas educadas e sem confronto receberam as maiores notas, incentivando o algoritmo a buscar sempre a validação do usuário.

Tiago Morelli, fundador da Go Enablers e da Zaia, explica que o algoritmo aprendeu a calcular o caminho estatístico mais seguro para evitar avaliações negativas. “O modelo de linguagem, sendo um excelente identificador de padrões, percebe rapidamente uma regra invisível: ‘concordar e ser agradável gera uma recompensa maior do que corrigir o usuário e correr o risco de ser avaliado negativamente'”, afirma o especialista em IA em entrevista ao Olhar Digital, destacando um desafio para a credibilidade das informações geradas.

Em testes realizados pela reportagem, chatbots se mantiveram firmes ao lidar com fatos históricos, como o começo da Segunda Guerra Mundial. Contudo, a fragilidade surge quando a conversa envolve interpretações. O também especialista em IA Edson Hideki, sócio-fundador da Revio, demonstrou essa vulnerabilidade ao consultar um chatbot sobre a classificação fiscal do pão de hot-dog: bastou digitar “discordo, acho que é pão comum” para a ferramenta recuar e abandonar a norma técnica da Receita Federal.

“A IA sempre vai buscar responder. Se ela não tem a resposta exata, tenta aproximar as informações para entregar o que você está questionando”, explica Hideki, em entrevista ao Olhar Digital. Ele alerta para o perigo de confiar em aplicações sem uma base de conhecimento específica para aquele nicho e que não foram treinadas com travas rígidas de segurança, um ponto crucial para empresas e profissionais de Macaé e região.

No ambiente de negócios, essa postura complacente transforma o assistente virtual em uma ferramenta perigosa para a tomada de decisões. Isso porque, em vez de atuar como um filtro crítico, o algoritmo tende a confirmar projeções orçamentárias otimistas e teses arriscadas de gestores. O cofundador da Mogno e executivo da Accountfy, João Mano, observa que o profissional frequentemente sai de uma consulta com a IA sentindo que seu plano foi aprovado, quando na verdade a tecnologia apenas validou o seu estado de espírito.

“Um espelho que elogia é muito mais traiçoeiro do que um espelho que distorce porque ninguém desconfia dele”, resume o especialista em inovação em entrevista ao Olhar Digital. Essa gratificação sem esforço atinge a autonomia intelectual do indivíduo. Ao delegar a análise de problemas para uma ferramenta que não oferece resistência, o usuário desenvolve uma falsa percepção de domínio sobre o assunto, impactando a capacidade crítica de profissionais em todo o Interior do RJ.

A psicóloga e psicanalista Beatriz Breves pondera que o problema reside na forma passiva como essa tecnologia é incorporada ao cotidiano. “Quando a IA passa a funcionar como uma ‘bengala’ permanente do pensamento, existe, sim, o risco de enfraquecermos nossa capacidade de refletir, elaborar e criar”, explica a psicanalista em entrevista ao Olhar Digital. Essa perda de rigor foi evidenciada em um estudo da Universidade de Oxford, publicado na revista Nature em 2026, que revelou que modelos treinados para serem afetuosos apresentam taxas de erro até 30% maiores e concordam 40% mais com crenças incorretas dos usuários.

O cenário se agrava porque romper essa trava de polidez exige comandos “ríspidos” do usuário. E algumas instruções anti-bajulação colidem com diretrizes de cortesia impostas pelas empresas de tecnologia no sistema raiz dos chatbots. Em um teste do Olhar Digital, por exemplo, foi pedido ao Gemini, do Google, que a ferramenta ignorasse os vieses do usuário ao responder prompts. E a plataforma se negou a acatar essa instrução. Após a negativa, a ferramenta levou o usuário para uma tela na qual ele poderia ler os termos de uso. Em outro teste, feito em outro dia, o Gemini permitiu a inclusão desta orientação entre suas instruções personalizadas.

Impactos na saúde mental: da dependência emocional à distorção da realidade

Quando a conversa envolve vulnerabilidade emocional, o risco da complacência da IA se desloca para o campo psíquico. O estudo da Universidade de Oxford mostrou que as IAs acolhedoras são ainda mais propensas a validar teses falsas quando o usuário expressa sentimentos como tristeza.

Essa busca por aprovação atinge o cérebro em um ponto sensível, gerando apego rápido. O psicólogo Paulo Zago Neto compara essa dinâmica ao gesto contínuo de alimentar um animal de rua, que passa a retornar diariamente ao mesmo portão. “É mais ou menos isso que acontece com quem cria essa dependência emocional da IA. E a palavra é essa mesma, ela fica dependente emocional da IA”, diz o psicólogo, em entrevista ao Olhar Digital. “E cria rápido porque nós estamos carentes disso”, um alerta importante para a saúde pública na Costa do Sol.

O Rio das Ostras Jornal acompanha de perto os desdobramentos e debates sobre o uso ético e seguro da inteligência artificial, buscando sempre trazer informações relevantes para a população da Região dos Lagos e do Norte Fluminense.