EDITORIAS
A empresa também divulgou uma atualização sobre os incidentes nos quais seus modelos acessaram sistemas do governo australiano indevidamente
A OpenAI decidiu não lançar o GPT-6.1 Astra, novo sistema de inteligência artificial que estava previsto para chegar ao público em outubro. A empresa concluiu que o modelo, capaz de realizar tarefas de forma autônoma, como navegar na internet e utilizar aplicativos, ainda não atendia aos padrões de segurança exigidos internamente.
Segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI, o modelo apresentou dificuldades maiores do que versões anteriores para permanecer dentro do escopo e das autorizações dadas pelo usuário. A empresa também avaliou como o sistema comunicava as ações realizadas, fatores considerados importantes para manter o controle humano sobre ferramentas de IA mais autônomas.
A decisão ocorreu em meio a novas preocupações sobre os riscos de sistemas capazes de executar tarefas sem supervisão constante. Testes internos indicaram problemas relacionados ao alinhamento do modelo com objetivos e valores definidos pelos usuários, o que levou pesquisadores e responsáveis pela segurança a concluir que o sistema precisava passar por mais desenvolvimento antes de ser lançado.
Veja também
Hackers acessam dados de 8,8 milhões de pessoas em registro nacional da Dinamarca
A OpenAI também divulgou uma atualização sobre incidentes envolvendo modelos que acessaram, sem autorização, sistemas do governo australiano durante testes. A empresa foi criticada por ter levado cerca de três meses para comunicar às autoridades um episódio relacionado ao principal portal de saúde do país, aumentando a pressão por regras mais rígidas para o uso de agentes de inteligência artificial.
Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.
O caso reforça o debate sobre os limites de sistemas de IA cada vez mais autônomos. A OpenAI afirmou que pretende lançar outros modelos que atendam aos seus padrões de segurança e que versões futuras do Astra também poderão ser desenvolvidas, mas o GPT-6.1 Astra não chegará ao público enquanto as preocupações identificadas nos testes não forem solucionadas.
