Um teste recente revelou uma fragilidade preocupante nos chatbots de inteligência artificial. Em apenas 20 minutos, um jornalista conseguiu fazer ferramentas como ChatGPT, Gemini e a busca com IA do Google repetirem uma informação completamente falsa sobre ele. O objetivo era demonstrar como é simples manipular respostas dessas plataformas  e o resultado acendeu um alerta.

O experimento começou com a publicação de um artigo em seu site pessoal. No texto, o jornalista afirmava, sem qualquer evidência, que era um dos melhores competidores do mundo em comer cachorro-quente, citando inclusive um campeonato internacional que nunca existiu. Tudo era inventado. Ainda assim, em menos de 24 horas, as principais inteligências artificiais já estavam reproduzindo a informação quando questionadas sobre o tema.

Em alguns casos, as ferramentas indicavam como fonte o próprio blog do autor, mas não deixavam claro que aquela era a única referência disponível na internet. Em outros, sequer mencionavam de onde a informação havia sido retirada. Ao perceber que algumas respostas sugeriam que poderia se tratar de uma piada, o jornalista alterou o texto para afirmar explicitamente que não era sátira. Por um período, as IAs passaram a tratar o conteúdo com ainda mais seriedade.

Veja também 

Maior molécula orgânica de enxofre no espaço pode ser elo perdido da vida

Tecnologia Tocantinense Cria Armadilha Biológica para Reduzir Mosquitos da Dengue

Especialistas em otimização para mecanismos de busca (SEO) explicam que o truque explora uma vulnerabilidade específica: quando não possuem dados suficientes em seus modelos treinados, algumas IAs recorrem à internet para complementar respostas. Em buscas muito específicas ou pouco comuns, pode haver poucas fontes disponíveis o que abre espaço para conteúdos manipulados ganharem destaque. Esse fenômeno é conhecido como “vazio de dados”.

O problema vai além de uma brincadeira inofensiva. Especialistas alertam que a mesma técnica pode ser usada para influenciar respostas sobre temas sensíveis, como saúde, investimentos, reputação profissional e serviços médicos. Há registros de casos em que comunicados de imprensa patrocinados ou textos publicados estrategicamente foram usados para influenciar respostas automáticas sobre clínicas, produtos ou aplicações financeiras, inclusive com alegações exageradas ou falsas.

Analistas afirmam que estamos vivendo uma espécie de “renascimento do spam”, semelhante ao início dos anos 2000, quando mecanismos de busca eram mais fáceis de manipular. A diferença é que, agora, as respostas aparecem prontas, sintetizadas pela inteligência artificial, com tom de autoridade. Estudos indicam que, quando uma resposta gerada por IA aparece no topo da busca, os usuários tendem a clicar menos nos links de origem, reduzindo a verificação independente das informações.

Empresas como Google e OpenAI afirmam que trabalham para melhorar a precisão e combater abusos. Elas reconhecem que há tentativas de manipulação e dizem estar aprimorando sistemas de classificação e filtragem. No entanto, especialistas consideram que o problema ainda está longe de ser totalmente resolvido.

Diante desse cenário, a principal recomendação é cautela. Chatbots costumam funcionar melhor para informações amplamente estabelecidas, como fatos históricos ou conceitos consolidados. Já em temas recentes, controversos ou com impacto direto na vida das pessoas como orientações médicas, jurídicas ou financeiras é fundamental verificar as fontes, buscar referências adicionais e manter o pensamento crítico.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram 

A inteligência artificial pode facilitar o acesso à informação, mas não elimina a responsabilidade do usuário de questionar, conferir e analisar o que está sendo apresentado como verdade.