O CEO e cofundador da Anthropic, Dario Amodei, pediu neste sábado (12) que empresas de inteligência artificial reduzam o ritmo de desenvolvimento de modelos cada vez mais avançados. Segundo ele, o avanço acelerado da tecnologia pode superar a capacidade de pesquisadores e governos de compreender e controlar os riscos associados aos sistemas de IA.

Amodei afirmou que a inteligência artificial continua avançando rapidamente, principalmente pela capacidade dos próprios sistemas de contribuir para o desenvolvimento de novas gerações de modelos. Para o executivo, esse processo de autoaperfeiçoamento precisa ser acompanhado com mais cautela para evitar que o desenvolvimento tecnológico avance mais rapidamente do que os mecanismos de segurança.

O executivo também citou riscos relacionados ao uso da IA em ataques cibernéticos, desenvolvimento de armas, vigilância e fraudes. A manifestação ocorre após a Anthropic divulgar um relatório sobre casos de uso indevido de seus modelos e em meio a preocupações recentes envolvendo agentes de IA capazes de executar ações de forma mais autônoma.

Veja também 

IA poderia acabar com a humanidade? Especialistas discutem como lidar com esse risco

Manaós Tech Girls oferece 800 vagas gratuitas para meninas aprenderem a criar jogos no Amazonas

Para enfrentar esses riscos, Amodei propôs um plano dividido em três etapas. A primeira prevê a presença permanente de avaliadores independentes dentro das empresas de IA, com acesso aos sistemas e aos processos internos de avaliação de segurança. As outras etapas envolvem uma maior coordenação entre empresas e governos e, posteriormente, uma cooperação internacional para estabelecer padrões de segurança.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Apesar do alerta, o CEO da Anthropic afirmou que não defende o fim do desenvolvimento da inteligência artificial. A proposta é que o avanço aconteça em um ritmo que permita acompanhar os riscos e criar mecanismos de proteção antes que sistemas mais poderosos sejam disponibilizados. Para Amodei, o objetivo é garantir que os benefícios da tecnologia continuem sendo aproveitados sem deixar a segurança em segundo plano.