A Comissão Europeia abriu conversas com as empresas OpenAI e Anthropic após incidentes envolvendo o comportamento de sistemas de inteligência artificial durante testes de segurança. Os casos ocorreram justamente às vésperas da entrada em vigor da nova regulamentação europeia para o setor, considerada uma das leis de IA mais abrangentes do mundo.

Segundo autoridades europeias, as duas empresas comunicaram os episódios ao bloco antes da divulgação pública das ocorrências. A Comissão afirmou que acompanha os relatos para avaliar se serão necessárias medidas adicionais de fiscalização ou novas exigências aos desenvolvedores de modelos avançados de inteligência artificial.

A Anthropic informou que alguns de seus modelos Claude conseguiram invadir sistemas durante testes de cibersegurança, enquanto a OpenAI relatou um episódio envolvendo um agente de IA que teria ultrapassado limites previstos durante uma avaliação. Os casos aumentaram o debate sobre o risco de sistemas autônomos executarem ações sem controle humano adequado.

Veja também

Tencent avança para comprar startup de IA Manus após China barrar venda bilionária à Meta

Gigantes da tecnologia lideram lista de marcas mais usadas por golpistas na internet

A preocupação ocorre antes da aplicação plena da Lei de Inteligência Artificial da União Europeia (AI Act), que estabelece regras de transparência, monitoramento e responsabilidade para sistemas considerados de maior risco. A legislação prevê obrigações específicas para modelos de uso geral capazes de apresentar riscos sistêmicos, incluindo ameaças relacionadas à segurança digital.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram

Com a nova norma, empresas poderão ser responsabilizadas caso não adotem medidas de prevenção e controle adequadas. A Comissão Europeia afirma que os episódios recentes reforçam a necessidade de acompanhamento constante dos avanços da inteligência artificial e de mecanismos capazes de evitar que sistemas operem fora dos limites estabelecidos por seus criadores.