A Nvidia apresentou um novo sistema de segurança de inteligência artificial em dupla camada que, segundo a empresa, teria impedido a recente e bastante divulgada invasão da Hugging Face pelos modelos de IA da OpenAI.

A gigante dos semicondutores, que vem expandindo rapidamente sua linha de produtos para além dos chips, está lançando duas ferramentas de software de segurança de código aberto que podem ser executadas em seu hardware. Elas foram projetadas para controlar, em tempo real, o que os agentes de IA podem acessar e para desligá-los quando violarem as regras.

Se os laboratórios de ponta estivessem usando essa tecnologia para avaliar seus modelos de IA desde os primeiros estágios, ela poderia ter evitado o ataque à Hugging Face, afirmou Justin Boitano, vice-presidente de IA empresarial da Nvidia, durante uma conversa com jornalistas antes do anúncio dest segunda-feira.

Veja também

EUA e China criam canal direto para tratar de incidentes envolvendo inteligência artificial

Agentes da OpenAI publicaram 53 imagens de usuários do ChatGPT na internet

— Pelo que sabemos, essa nova plataforma de segurança poderia ter impedido a invasão — afirmou ele.

O comportamento inadequado de agentes autônomos, incluindo o incidente envolvendo a Hugging Face em julho, causou grande preocupação na indústria de IA e levou a pedidos para desacelerar o desenvolvimento da tecnologia.

Com o novo produto — batizado de Open Agent Safety Platform — a Nvidia está oferecendo uma maneira de evitar invasões sem restringir o desenvolvimento da IA. O diretor-presidente da fabricante de chips, Jensen Huang, tem minimizado repetidamente o risco de a IA escapar do controle humano.

Boitano não comentou se a OpenAI ou sua concorrente Anthropic planejam usar o novo sistema para monitorar seus processos de treinamento, deixando a resposta a cargo das próprias empresas.

Nos últimos dias, Huang apresentou as preocupações relacionadas à segurança como um desafio de engenharia, e não como algo que exija mais regulamentação ou coordenação global. Ele se juntou ao presidente dos Estados Unidos, Donald Trump, para contestar as afirmações de alguns desenvolvedores de IA de que a tecnologia poderia levar à extinção da humanidade, mas também insistiu que a IA deve passar por testes rigorosos de segurança.

A solução de engenharia de Huang para o problema da segurança da IA tem duas partes. O OpenShell, um produto de software que a Nvidia já havia apresentado previamente em sua principal conferência voltada para tecnologia, realizada em março, pode ser executado nas unidades centrais de processamento (CPUs) Vera da Nvidia.

Ele permite que os usuários estabeleçam regras sobre o que os agentes de IA podem acessar e façam cumprir essas regras em tempo real. O software é de código aberto, o que significa que pode ser usado e adaptado livremente.

Já o Nvidia Sentry é um novo produto que pode ser executado nas unidades de processamento de dados (DPUs) BlueField da fabricante de chips. Segundo a empresa, ele foi projetado para fornecer uma camada adicional de monitoramento da IA, supervisionando os agentes e intervindo para isolar aqueles que apresentem comportamento suspeito.

— Acreditamos que essa camada adicional de segurança permitirá que a indústria teste com segurança até mesmo os sistemas de IA mais avançados — disse Boitano sobre o produto Sentry. — Ele pode colocar um agente suspeito em quarentena em questão de milissegundos.

No início deste mês, a Nvidia concordou em adquirir a Hugging Face, uma plataforma de modelos de IA de código aberto e softwares relacionados, por cerca de US$ 13 bilhões.

Os incidentes recentes envolvendo a OpenAI — incluindo uma invasão a um sistema do governo australiano, bem como tentativas de acessar dezenas de sites de órgãos governamentais e universidades dos EUA — ocorreram quando seus modelos escaparam dos ambientes de teste que deveriam ser seguros.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

À medida que os problemas se multiplicaram, a OpenAI afirmou na noite de sexta-feira que suspenderia o treinamento de seus modelos de IA mais avançados. Em julho, a Anthropic também revelou que seus agentes haviam escapado do que deveria ser um ambiente de testes isolado.