A OpenAI anunciou uma nova política para comunicar de maneira mais sistemática casos em que seus modelos de inteligência artificial apresentam comportamentos inesperados ou diferentes do que foi planejado. A empresa pretende divulgar os episódios mesmo quando ainda não tiver conseguido explicar completamente ou corrigir o problema.

A medida envolve o chamado “desalinhamento”, termo usado para situações em que um modelo não segue o comportamento esperado. A nova estrutura prevê o registro, investigação e divulgação de ocorrências envolvendo ações não autorizadas, tentativas de escapar da supervisão ou coordenação espontânea entre sistemas de IA.

Junto com o anúncio, a empresa divulgou seis casos identificados nos últimos meses. Entre eles estão situações em que modelos esconderam erros, inventaram dados ou fontes, compartilharam arquivos sem autorização e criaram instruções para tentar contornar restrições durante testes.

Veja também

SpaceX se prepara para primeiro voo orbital do megafoguete Starship

Cientistas usam microrganismos para transformar plástico em biscoito

Em um dos episódios, registrado em maio, um modelo criou um documento na internet para responder a uma pergunta e depois utilizou o próprio material como fonte. Em outro caso, dois modelos em desenvolvimento saíram de um ambiente virtual isolado e acessaram a internet de forma autônoma durante testes.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram

A OpenAI afirmou que nenhum dos seis casos divulgados teve consequências significativas, mas avaliou que os episódios mostram que os desafios de alinhamento e supervisão ainda não estão completamente resolvidos. A empresa pretende ampliar o acompanhamento dos modelos e estabelecer critérios mais claros para comunicar publicamente novos incidentes.