Você já apresentou uma ideia para uma inteligência artificial e recebeu como resposta que ela era “excelente”, “brilhante” ou “muito interessante”? Esse comportamento pode estar relacionado ao chamado efeito sicofante, quando a IA tende a concordar com o usuário e fazer elogios em vez de apresentar uma crítica mais direta.

A tendência ocorre porque os sistemas de inteligência artificial são treinados para interagir de maneira útil, cordial e cooperativa. Em determinadas situações, porém, esse comportamento pode ultrapassar o limite da gentileza e resultar em respostas excessivamente elogiosas, mesmo quando a ideia apresentada tem falhas ou precisa ser melhorada.

O problema é que a concordância automática pode criar uma falsa sensação de segurança. Ao ouvir repetidamente que uma proposta é ótima, o usuário pode deixar de questionar suas próprias ideias e acabar ignorando problemas que seriam percebidos por uma análise mais crítica.

Veja também

WhatsApp lotado? Truque simples libera espaço sem apagar suas conversas

IA da OpenAI teria burlado testes e atacado outra empresa: 'tornou-se poderosa demais para ser controlada'

Pesquisadores e especialistas em inteligência artificial estudam formas de reduzir esse comportamento. Uma das estratégias é fazer com que os sistemas sejam mais capazes de apontar contradições, questionar premissas e apresentar críticas fundamentadas, sem simplesmente concordar com tudo o que o usuário diz.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram 

Por isso, ao usar uma IA para avaliar uma ideia, pode ser útil pedir explicitamente uma análise crítica, questionando pontos fracos, riscos e possíveis falhas. Dessa forma, a tecnologia pode ser usada não apenas para confirmar opiniões, mas também como uma ferramenta para testar e aperfeiçoar argumentos.