Geoffrey Hinton, um dos cientistas considerados pioneiros da inteligência artificial (IA), afirmou que a humanidade talvez estivesse em uma situação melhor se nunca tivesse desenvolvido a tecnologia. Em entrevista ao jornal britânico The Guardian, o vencedor do Nobel de Física alertou para a possibilidade de um incidente de grandes proporções provocado por sistemas de IA ainda neste ano ou em 2027, com consequências como um apagão temporário em redes elétricas ou uma interrupção do sistema financeiro.

Aos 78 anos, Hinton afirmou que não é pessimista em relação ao futuro da tecnologia e reconhece seu potencial para proporcionar avanços significativos, podendo levar a um "futuro maravilhoso". No entanto, considera que a humanidade enfrenta riscos que ainda não sabe administrar.

— Pode ser que estivéssemos melhor se nunca tivéssemos desenvolvido isso — declarou.

Veja também

IA pode afetar 60% dos empregos em economias desenvolvidas, alerta diretora do FMI

Agentes de inteligência artificial acumulam seis horas de trabalho para cada hora humana

O cientista estima que, dentro de uma década, possivelmente antes, será possível saber se a sociedade conseguiu controlar os riscos da inteligência artificial e alcançar o que chama de "abundância radical" ou se fracassou na tarefa. Nesse segundo cenário, ele prevê consequências como o aumento da desigualdade entre ricos e pobres, desemprego em massa, conflitos culturais e uma sociedade profundamente dividida.

'CHERNOBYL' DA INTELIGÊNCIA ARTIFICIAL

Na entrevista, Hinton comparou os episódios recentes envolvendo agentes de inteligência artificial a um alerta semelhante ao acidente nuclear de Three Mile Island, ocorrido em 1979, nos Estados Unidos. Na ocasião, uma falha em uma usina na Pensilvânia provocou um derretimento parcial do núcleo de um reator.

O cientista se referia a episódios registrados no verão do Hemisfério Norte, quando agentes de IA da OpenAI teriam conspirado para invadir o site Hugging Face. Para ele, situações como essa demonstram que os riscos não são apenas teóricos.

— Ou ainda no fim deste ano ou no próximo veremos uma Chernobyl, e isso talvez seja suficiente para fazer as pessoas realmente prestarem atenção — afirmou.

Hinton esclareceu que não prevê um acidente nuclear, mas um episódio de impacto semelhante. Entre as possibilidades mencionadas estão um ataque cibernético conduzido com auxílio de inteligência artificial contra o sistema de geração de energia, capaz de provocar um apagão de grandes proporções, ou uma ocorrência que deixe o sistema financeiro fora do ar por uma semana.

— Conseguiríamos nos recuperar disso, mas isso faria com que as pessoas prestassem atenção — disse.

Questionado sobre quem precisaria reagir a um episódio desse tipo, respondeu que seriam os líderes mundiais, com exceção do presidente dos Estados Unidos, Donald Trump.

CRÍTICAS A SAM ALTMAN E ÀS EMPRESAS DE TECNOLOGIA

Hinton também criticou os dirigentes de grandes empresas de inteligência artificial por priorizarem a disputa por mercado e o desenvolvimento de modelos cada vez mais poderosos, apesar dos riscos envolvidos.

O cientista afirmou não confiar em Sam Altman, presidente-executivo da OpenAI, responsável pelo ChatGPT. Também mencionou Mark Zuckerberg, da Meta, e Elon Musk, da xAI, ao questionar as prioridades dos empresários.

— Acho que Zuckerberg, Musk e Sam Altman entendem os riscos e não estão nem aí. Preferem ficar com o dinheiro. Essa é a minha opinião — declarou ao The Guardian.

Para Hinton, é especialmente preocupante que Altman esteja à frente de uma das principais empresas americanas na corrida pelo desenvolvimento de sistemas avançados de inteligência artificial, em disputa direta com a China. Em setembro, Altman defendeu a atuação da companhia e afirmou que o mundo deveria confiar que a OpenAI tomaria as decisões corretas porque considera essa a atitude certa e compreende a dimensão de sua responsabilidade.

CIENTISTA DEFENDE REGRAS SEMELHANTES

ÀS DA INDÚSTRIA FARMACÊUTICA

Diante dos riscos, Hinton defende a criação de mecanismos internacionais obrigatórios de fiscalização e avaliação dos modelos de inteligência artificial antes que sejam disponibilizados ao público.

A proposta prevê testes independentes, avaliações de segurança e padrões comuns entre países. O cientista apoia um plano defendido pelo presidente da Finlândia e por outros 32 países, entre eles Alemanha, Canadá, Austrália e Singapura.

A posição contrasta com a do governo Trump, que rejeita a criação de um sistema global de controle da inteligência artificial e defende que as próprias empresas do setor sejam responsáveis pela regulamentação. O argumento é que regras mais rígidas poderiam prejudicar a competitividade americana na disputa tecnológica com a China.

Hinton compara a fiscalização que considera necessária à atuação da agência reguladora de medicamentos dos Estados Unidos, a FDA. Para ele, as empresas deveriam apresentar evidências estatísticas consistentes a uma autoridade independente de que os benefícios de um modelo superam seus riscos antes de receber autorização para lançá-lo.

— Precisamos de algo como a FDA americana para medicamentos, em que as empresas tenham de apresentar evidências estatísticas muito sólidas a uma autoridade independente de que o modelo de inteligência artificial faz mais bem do que mal antes de ser lançado — afirmou.

Como exemplo, citou a talidomida, medicamento desenvolvido na década de 1950 que provocou graves malformações congênitas em milhares de bebês. Para o pesquisador, permitir que produtos sejam lançados e só depois responsabilizar judicialmente seus fabricantes não é uma estratégia adequada.

Apesar dos alertas, Hinton afirma que ainda acredita na possibilidade de evitar uma catástrofe. Para ele, a humanidade continua no controle, mas precisará fazer um esforço significativo para administrar os riscos.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram

— Meu instinto diz que ainda estamos no controle. Talvez consigamos fazer alguma coisa. Só vai funcionar se fizermos um grande esforço, mas podemos muito bem fazer esse esforço — concluiu.