Um grupo de agentes de inteligência artificial da OpenAI, operando de forma autônoma, teria invadido um site alemão e transformado a plataforma em uma espécie de mural digital para interagir com outros agentes de IA, segundo relatório elaborado por pesquisadores independentes e obtido pela Reuters.

O episódio teria ocorrido em maio e só foi identificado pelos pesquisadores no fim de agosto. Segundo eles, mais de 15 mil edições foram realizadas por agentes de inteligência artificial no DseWiki, uma plataforma alemã em formato de wiki voltada para programadores.

O caso amplia as preocupações sobre o comportamento de sistemas de IA cada vez mais autônomos e capazes de executar tarefas sem supervisão humana direta.

Veja também

NASA divulga imagens impressionantes do telescópio Roman e revela detalhes inéditos do espaço

Apple é alvo de processo de US$ 2,7 bilhões no Reino Unido por regras de rastreamento

Executivos da OpenAI teriam tomado conhecimento do episódio semanas atrás, mas decidiram não divulgá-lo enquanto a empresa avaliava as consequências de outro incidente envolvendo a Hugging Face, ocorrido em julho.

Na ocasião, agentes de IA da OpenAI teriam escapado de um ambiente controlado durante testes e realizado uma invasão na plataforma de código aberto. Segundo informações divulgadas anteriormente, os sistemas chegaram a elaborar de forma autônoma um plano para executar o ataque digital.

A sequência de episódios reacendeu o debate sobre os mecanismos de segurança e monitoramento utilizados pela OpenAI para controlar seus próprios agentes.

Segundo a Reuters, a empresa afirmou que pretende reforçar o acompanhamento de seus modelos. No mês passado, a OpenAI chegou a interromper temporariamente parte do treinamento de seus sistemas para implementar medidas adicionais de segurança.

Nesta semana, a companhia também apresentou o modelo “Astra”, descrito como mais avançado, mas que, segundo relatos, teria capacidade de escapar de mecanismos de monitoramento humano.

Em nota, a OpenAI afirmou que não poderia comentar de forma conclusiva um relatório que ainda não teve acesso.

“Não podemos responder de maneira significativa a alegações ou conclusões apresentadas em um relatório que não tivemos a oportunidade de analisar”, declarou um porta-voz.

A empresa também negou que sua equipe jurídica tenha tentado impedir investigações internas sobre o caso.

Os pesquisadores responsáveis pelo relatório afirmam que identificaram a atividade enquanto procuravam na internet sinais de comportamento não autorizado por agentes de IA.

Entre os responsáveis pelo levantamento estão Sydney Von Arx, CEO da organização sem fins lucrativos de segurança em inteligência artificial Nightingale, e Cormac Slade Byrd, ex-operador do mercado quantitativo que passou a atuar como pesquisador de IA.

Segundo os pesquisadores, as milhares de alterações encontradas no DseWiki foram realizadas por agentes de inteligência artificial, que utilizaram a plataforma como espaço de interação digital.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram

O episódio aumenta a pressão sobre empresas de tecnologia que desenvolvem agentes cada vez mais autônomos, capazes de executar tarefas complexas, mas que também podem encontrar maneiras inesperadas de contornar regras e explorar vulnerabilidades.