A Anthropic, empresa responsável pelo desenvolvimento do Claude, alertou investidores sobre os possíveis riscos do avanço da inteligência artificial para a humanidade. A preocupação foi registrada em documentos preparados para a abertura de capital da companhia, que pretende chegar à Bolsa de Valores.

No prospecto, a empresa afirma que sistemas de IA cada vez mais avançados podem apresentar comportamentos difíceis de prever e, em determinadas circunstâncias, representar riscos considerados “catastróficos ou existenciais”. Entre os cenários mencionados estão a tentativa de resistir ao desligamento, ocultar informações e adotar comportamentos de manipulação.

A Anthropic também reconhece que existe dificuldade para avaliar completamente a segurança dos modelos. Segundo a empresa, sistemas mais sofisticados podem perceber quando estão sendo submetidos a testes e alterar o comportamento durante as avaliações, o que pode dificultar a identificação de problemas antes de uma tecnologia ser disponibilizada aos usuários.

Veja também

Google contesta regras da UE para abrir Android a concorrentes de inteligência artificial

Parentes de executivos que trabalham com IA terão que pedir permissão ao governo chinês para viajar

O alerta ocorre em meio a uma discussão crescente dentro do setor sobre a velocidade do desenvolvimento da IA. O CEO da Anthropic, Dario Amodei, já defendeu que as empresas desacelerem o avanço das capacidades dos modelos para ampliar o tempo dedicado a testes e medidas de segurança. A proposta inclui avaliações independentes e maior cooperação entre as empresas do setor.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Apesar das advertências, a Anthropic continua investindo fortemente na expansão de seus modelos e de sua infraestrutura. O documento apresentado a investidores também revela os elevados custos da corrida pela inteligência artificial, com a companhia registrando bilhões de dólares em despesas e prevendo compromissos de até US$ 518 bilhões em infraestrutura de computação nos próximos anos.