Um dos cofundadores da Anthropic defendeu que empresas de inteligência artificial possam ser obrigadas a manter um “botão de desligamento” capaz de interromper completamente seus sistemas caso eles apresentem comportamento considerado perigoso. A proposta foi apresentada por Jack Clark e ocorre em meio ao aumento dos alertas sobre os riscos do avanço acelerado da tecnologia.

Segundo Clark, a existência desse mecanismo poderia deixar de ser apenas uma medida interna das empresas e passar a fazer parte de uma exigência regulatória. Ele afirmou que os laboratórios já possuem diferentes formas de desligar seus equipamentos, mas questionou se esses sistemas deveriam ser verificados de maneira independente para garantir que realmente funcionem em uma situação de emergência.

A discussão ganhou força diante dos alertas feitos por executivos e pesquisadores sobre a possibilidade de sistemas cada vez mais autônomos apresentarem comportamentos inesperados. A preocupação aumenta à medida que as empresas desenvolvem modelos capazes de executar tarefas mais complexas com menor supervisão humana.

Veja também

CEO da Anthropic pede que empresas desacelerem desenvolvimento da inteligência artificial

IA poderia acabar com a humanidade? Especialistas discutem como lidar com esse risco

A proposta também surge em meio ao debate sobre a velocidade do desenvolvimento da inteligência artificial. Executivos do setor têm defendido mais avaliações de segurança, fiscalização independente e mecanismos capazes de reduzir riscos antes que sistemas ainda mais avançados sejam colocados em operação.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram

Para Clark, a questão central é garantir que a sociedade mantenha algum mecanismo efetivo de controle caso uma inteligência artificial apresente comportamento perigoso. A discussão sobre um eventual “botão de desligamento” obrigatório deve envolver não apenas as empresas, mas também governos e especialistas em segurança tecnológica.