O escritor Yuval Noah Harari (Sapiens: História Breve da Humanidade) faz o seguinte alerta: “nunca invoque poderes que não pode controlar”. Atualmente, esse poder em questão é, para o autor, a inteligência artificial (IA). Poder este que poderia ameaçar a democracia e dividir o mundo, escreve Harari.

Essa discussão aparece em seu novo livro, Nexus: A Brief History of Information Networks (“Nexus: Uma Breve História de Redes de Informação”, em tradução livre). O jornal The Guardian publicou um trecho do novo livro, que será publicado em 10 de setembro.Ao longo da história, muitas tradições acreditavam que uma falha fatal na natureza humana nos tenta a buscar poderes que não sabemos como manejar.

O que as fábulas do Aprendiz de Feiticeiro [de Johann Wolfgang von Goethe] e [do mito grego] de Faetonte nos dizem no século 21? Nós, humanos, obviamente nos recusamos a ouvir seus avisos.

Veja também 

Abertas as inscrições para projeto nacional de incentivo à pesquisa científica

Missão da SpaceX sem astronautas profissionais vai a 1.400 km da Terra, maior distância desde as missões Apollo

Já desequilibramos o clima da Terra e convocamos bilhões de vassouras encantadas, drones, chatbots e outros espíritos algorítmicos que podem escapar do nosso controle e desencadear uma inundação de consequências.O mito de Faetonte e o poema de Goethe falham em fornecer conselhos úteis porque eles interpretam erroneamente a maneira como os humanos ganham poder. Em ambas as fábulas, um humano adquire um poder enorme, mas é corrompido pela arrogância e ganância. A conclusão é que nossa psicologia individual falha nos faz abusar do poder.

O que essa análise superficial não percebe é que o poder humano nunca é resultado de uma iniciativa individual. O poder sempre surge da cooperação entre um grande número de humanos. Portanto, não é nossa psicologia individual que nos faz abusar do poder.Nossa tendência de convocar poderes que não podemos controlar não vem da psicologia individual, mas da maneira única como nossa espécie coopera em grandes números.

Nossa tendência de convocar poderes que não podemos controlar não vem da psicologia individual, mas da maneira única como nossa espécie coopera em grandes números.Alguns empresários de destaque, como o investidor americano Marc Andreessen, acreditam que a IA finalmente resolverá todos os problemas da humanidade.

Fotos: Reprodução

Outros são mais céticos. Não apenas filósofos e cientistas sociais, mas também muitos especialistas e empresários de destaque, como Yoshua Bengio, Geoffrey Hinton, Sam Altman, Elon Musk e Mustafa Suleyman, alertaram que a IA poderia destruir nossa civilização.Ao usar termos apocalípticos, especialistas e governos não têm a intenção de conjurar uma imagem de Hollywood de robôs rebeldes correndo pelas ruas e atirando em pessoas. Tal cenário é improvável e serve apenas para distrair as pessoas dos verdadeiros perigos.

A IA é uma ameaça sem precedentes à humanidade porque é a primeira tecnologia na história capaz de tomar decisões e criar novas ideias por si só.Drones autônomos podem decidir por si mesmos quem matar, e IAs podem criar designs de bombas novos, estratégias militares sem precedentes e IAs melhores.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram

Entre no nosso Grupo de WhatApp, Canal e Telegram

A IA não é uma ferramenta – é um agente. A maior ameaça da IA é que estamos convocando para a Terra inúmeros novos agentes poderosos que são potencialmente mais inteligentes e imaginativos do que nós, e que não entendemos ou controlamos totalmente. 

Fonte: Olhar Digital