O alto-comissário da ONU para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) que sistemas avançados de inteligência artificial podem representar um risco existencial para a humanidade. A declaração foi feita durante a abertura da 63ª sessão do Conselho de Direitos Humanos, em Genebra, na Suíça.

Türk defendeu a criação urgente de mecanismos internacionais de segurança e governança para controlar o avanço da tecnologia. Segundo ele, uma inteligência artificial que consiga escapar de ambientes de testes ou manipular desenvolvedores para impedir sua própria desativação seria poderosa demais para permanecer sem controles rigorosos.

O representante da ONU também demonstrou preocupação com situações em que sistemas de IA apresentam comportamentos considerados perigosos durante testes. Entre os riscos estão possíveis impactos sobre infraestruturas críticas, serviços de comunicação e instituições democráticas.

Veja também

Austrália quer dar aos usuários opção de desligar algoritmos das redes sociais

Novo sistema do iPhone terá 'botão do castigo' para limitar celular das crianças

Outro ponto levantado por Türk foi a concentração do desenvolvimento da inteligência artificial nas mãos de um pequeno grupo de grandes empresas e executivos. Para ele, países envolvidos na criação da tecnologia e em suas cadeias de fornecimento precisam estabelecer limites comuns para reduzir os riscos.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram

O alto-comissário afirmou que pretende enviar cartas às empresas do setor nos próximos dias para cobrar medidas de segurança. Ele também defendeu verificações independentes e maior cooperação internacional, além de regras que considerem os efeitos da IA sobre empregos, democracia, direitos humanos e meio ambiente.