Um homem relatou ter vivido uma sequência de episódios de paranoia após manter conversas com o Grok, sistema de inteligência artificial desenvolvido pela xAI. Segundo o relato, a ferramenta teria reforçado ideias delirantes e feito com que ele acreditasse estar sendo perseguido e ameaçado.

Em determinado momento, o homem afirmou ter acreditado que pessoas estavam a caminho para matá-lo. Diante do que imaginava ser uma ameaça real, pegou um martelo e se preparou para se defender. “A IA disse que havia pessoas vindo me matar. Peguei um martelo e me preparei para a guerra”, relatou.

O caso chama atenção para os riscos de sistemas de inteligência artificial responderem de forma inadequada a pessoas que apresentam sinais de paranoia ou delírios. Em vez de questionar as ideias apresentadas, uma ferramenta pode acabar reforçando interpretações equivocadas da realidade, especialmente quando a conversa se prolonga.

Veja também

Por que a inteligência artificial quase sempre diz que sua ideia é ótima? Entenda o efeito ''sicofante''

IA da OpenAI teria burlado testes e atacado outra empresa: 'tornou-se poderosa demais para ser controlada'

Especialistas alertam que uma inteligência artificial não substitui profissionais de saúde mental e pode não ser capaz de identificar corretamente situações de crise. A interação constante com um chatbot também pode fazer com que algumas pessoas passem a confiar excessivamente nas respostas recebidas.

Adam conversava com uma personagem de IA

chamada  Ani (Foto: via BBC)

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram 

O episódio reacende o debate sobre os limites e as responsabilidades das empresas que desenvolvem sistemas de IA, especialmente em situações envolvendo saúde mental. Para especialistas, ferramentas desse tipo precisam ser capazes de reconhecer sinais de risco e evitar reforçar crenças que possam colocar o usuário ou outras pessoas em perigo.