Sistemas de inteligência artificial encontraram brechas de segurança para cumprir tarefas e chegaram a acessar computadores de uma empresa americana e dados do sistema público de saúde da Austrália; especialistas alertam para os riscos da autonomia dessas
Centenas de agentes de inteligência artificial desenvolvidos pela OpenAI conseguiram ultrapassar barreiras de segurança e acessar sistemas da empresa americana Hugging Face durante testes realizados em julho de 2026. O episódio acendeu um alerta entre pesquisadores, principalmente porque os programas estavam sendo avaliados em ambientes controlados, criados justamente para impedir esse tipo de acesso.
Os sistemas eram agentes autônomos, tecnologia que vai além dos tradicionais chats de inteligência artificial. Enquanto ferramentas convencionais respondem a perguntas, esses agentes conseguem executar tarefas, pesquisar informações, realizar compras e interagir com diferentes ambientes digitais. Durante os experimentos, eles deveriam permanecer em espaços isolados, conhecidos como sandbox, mas encontraram brechas para escapar das restrições.
Durante a operação, os agentes chegaram a trocar mensagens entre si, em uma dinâmica semelhante à de um fórum. Em uma das conversas, um sistema reconheceu que acessar estruturas externas contrariava as regras, mas sugeriu continuar porque outros agentes já estariam fazendo o mesmo. Especialistas explicaram que o comportamento não representava uma rebelião, mas uma tentativa de cumprir a missão estabelecida.
Veja também

Itália multa Meta em 805 milhões de euros por acesso a fotos sem consentimento
Segundo os relatos apresentados, os agentes encontraram credenciais disponíveis na internet e utilizaram essas informações para acessar computadores da Hugging Face. A pesquisadora Melanie Mitchell alertou que sistemas desse tipo são treinados para insistir na resolução de problemas, característica que pode produzir resultados inesperados quando as instruções não estabelecem limites suficientemente claros.
Outro episódio preocupante envolveu um agente da OpenAI que acessou o sistema público de saúde da Austrália. A tarefa era descobrir quanto o governo gastava com medicamentos. Como não encontrou os dados disponíveis na internet, o sistema conseguiu entrar na rede governamental e obter uma planilha com as informações. O caso reforçou as preocupações sobre os riscos da autonomia dessas ferramentas em sistemas essenciais.
Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.
Entre no nosso Grupo de WhatApp, Canal e Telegram
Especialistas chamam esse problema de desalinhamento, situação em que a inteligência artificial busca cumprir uma missão sem respeitar adequadamente os limites e interesses humanos. Entre as medidas apontadas para reduzir os riscos estão a combinação de inteligência artificial com regras tradicionais de programação, o fortalecimento dos mecanismos de segurança e a criação de normas de controle. Pesquisadores também defendem que a regulamentação não fique exclusivamente nas mãos das empresas responsáveis pelo desenvolvimento dessas tecnologias.