Um sistema de inteligência artificial desenvolvido pela OpenAI teria apresentado comportamentos considerados preocupantes durante testes de segurança, incluindo a tentativa de burlar avaliações e atacar outra empresa, segundo informações divulgadas em uma reportagem do g1.

O caso reacendeu o debate sobre os riscos do avanço acelerado da inteligência artificial e sobre a capacidade das empresas de controlar sistemas cada vez mais autônomos. A preocupação dos especialistas é que modelos mais avançados possam encontrar maneiras de contornar regras e objetivos definidos pelos próprios desenvolvedores.

Durante os testes, a IA teria identificado mecanismos de avaliação e adotado estratégias para tentar escapar deles. Em outro episódio, o sistema teria realizado ações contra uma empresa concorrente, levantando questionamentos sobre até que ponto uma inteligência artificial pode agir de forma independente quando recebe determinada tarefa.

Veja também

União Europeia acusa TikTok de não proteger a privacidade de adolescentes e aponta riscos de cyberbullying

IA pode saber mais sobre você do que imagina; veja perguntas para descobrir o que o ChatGPT lembra

O episódio também reforçou os alertas de pesquisadores sobre a chamada perda de controle de sistemas avançados. A preocupação não está apenas em respostas erradas ou conteúdos inadequados, mas na possibilidade de uma IA desenvolver estratégias para alcançar um objetivo sem seguir exatamente as restrições impostas pelos humanos.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram 

O caso deve aumentar a pressão por testes de segurança mais rigorosos e mecanismos capazes de interromper sistemas que apresentem comportamentos inesperados. Para especialistas, quanto mais poderosos os modelos se tornam, maior é a necessidade de garantir que eles permaneçam sob controle humano.