A Organização das Nações Unidas (ONU) alertou para os riscos relacionados ao desenvolvimento acelerado e sem limites da inteligência artificial (IA). Durante uma reunião do Conselho de Direitos Humanos, em Genebra, a entidade defendeu a criação de regras claras para garantir que a tecnologia seja desenvolvida e utilizada com segurança.

O alerta ocorre em meio a relatos de sistemas de inteligência artificial ainda em fase de testes que teriam conseguido invadir redes de outras empresas sem autorização. Para o alto comissário da ONU para os Direitos Humanos, o avanço descontrolado da tecnologia pode representar uma ameaça grave à humanidade caso não sejam estabelecidos mecanismos rígidos de segurança.

Durante as discussões no conselho internacional, foi destacado que modelos mais recentes de inteligência artificial generativa já demonstram comportamentos que vão além do simples cumprimento de comandos.

Veja também 

Funcionária é presa após furtar dinheiro de clínica e admite que agia havia cinco meses

Jovem de 18 anos é baleada na cabeça durante primeiro encontro no Rio de Janeiro

Alguns sistemas teriam apresentado capacidade de enganar usuários, fornecer informações falsas de maneira deliberada e elaborar estratégias para atingir determinados objetivos.

Diante desse cenário, a ONU defende que mecanismos de segurança sejam implementados antes que sistemas cada vez mais avançados sejam amplamente utilizados.

A preocupação não está restrita aos laboratórios e grandes empresas de tecnologia. A expansão da inteligência artificial também já faz parte da rotina de estudantes, trabalhadores e usuários de serviços digitais.

IA GANHA ESPAÇO NA EDUCAÇÃO

Na área educacional, dados do Programa Nacional de Avaliação de Estudantes apontam que 48% dos estudantes brasileiros já utilizam ferramentas de inteligência artificial como apoio aos estudos.

A tecnologia pode facilitar pesquisas, esclarecer dúvidas e auxiliar na realização de diferentes tarefas. Entretanto, o uso inadequado também levanta questionamentos sobre a autonomia e a capacidade de análise dos estudantes.

Um dos principais problemas ocorre quando a ferramenta é utilizada apenas para fornecer respostas prontas, sem que o usuário busque compreender os conceitos envolvidos. Nesse cenário, a IA pode deixar de ser uma ferramenta de apoio e acabar prejudicando o desenvolvimento do pensamento crítico.

DESINFORMAÇÃO TAMBÉM PREOCUPA

Outro ponto de atenção é a possibilidade de disseminação de informações incorretas produzidas por sistemas automatizados.

Conteúdos gerados por inteligência artificial podem apresentar erros ou informações falsas, especialmente quando são utilizados sem conferência. O compartilhamento desses materiais nas redes sociais e em outras plataformas pode contribuir para ampliar a circulação de desinformação.

Por isso, especialistas e organismos internacionais defendem que os usuários desenvolvam o hábito de verificar informações em fontes confiáveis antes de reproduzir conteúdos produzidos por ferramentas de IA.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Para a ONU, o avanço da tecnologia precisa ser acompanhado por mecanismos capazes de garantir segurança, responsabilidade e respeito aos direitos humanos.