A OpenAI anunciou a interrupção temporária de parte do desenvolvimento do modelo de inteligência artificial Astra após avaliações internas apontarem preocupações com capacidades avançadas na área de segurança cibernética. A empresa informou que decidiu ampliar os testes e adotar controles mais rigorosos antes de prosseguir com o projeto.

Segundo a empresa, os testes indicaram que ainda não é possível descartar que o Astra alcance um nível considerado crítico de capacidade cibernética, conforme os critérios do próprio programa de avaliação de segurança da OpenAI. Isso levou à suspensão de atividades internas que não atendiam aos novos padrões de proteção.

A OpenAI explicou que um modelo é enquadrado nesse nível quando pode, por exemplo, identificar e desenvolver vulnerabilidades inéditas (os chamados zero-days) ou elaborar estratégias sofisticadas de ataques contra sistemas altamente protegidos sem intervenção humana.

Veja também

Maioria dos adolescentes britânicos diz que tentaria burlar bloqueio de redes sociais

Empresa de IA procura ''piratas'' para caçar tesouros escondidos no fundo do mar

A empresa ressaltou que a decisão é preventiva e não está relacionada ao incidente de segurança envolvendo a Hugging Face ocorrido anteriormente. Além da pausa parcial no desenvolvimento, a OpenAI afirmou que implementará monitoramento permanente e controles adicionais para modelos com capacidades mais avançadas.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram

A medida reforça o debate sobre o equilíbrio entre inovação e segurança no desenvolvimento da inteligência artificial. Especialistas apontam que, à medida que os modelos se tornam mais capazes de executar tarefas complexas, cresce também a necessidade de avaliações rigorosas para reduzir riscos antes do lançamento ao público.