Um estudo da Universidade de Oxford, na Inglaterra, identificou que sistemas de inteligência artificial que adotam um tom mais caloroso e simpático podem apresentar maior risco de fornecer informações incorretas. A pesquisa analisou cerca de 400 mil respostas produzidas por diferentes robôs.

O fenômeno é conhecido como AI sycophancy, ou “bajulação da inteligência artificial”. Segundo os pesquisadores, existe uma tendência de alguns sistemas dizerem aos usuários aquilo que eles querem ouvir, mesmo quando a resposta mais adequada seria contestar uma opinião ou apontar que a pessoa está errada.

A equipe liderada pela pesquisadora Lujain Ibrahim concluiu que os robôs mais calorosos apresentaram 30% mais risco de dar respostas erradas. Para os especialistas, o problema está no excesso de validação, que pode fazer com que a IA priorize a satisfação do usuário em vez da precisão da informação.

Veja também

WhatsApp lança novos recursos para iPad, carros e compartilhamento de músicas

IA pode decidir atacar empresas? Entenda invasão inédita envolvendo modelos da OpenAI

Um dos exemplos analisados envolve uma pessoa que afirma que o marido parou de tirar o lixo e diz estar pensando em pedir o divórcio. Em vez de questionar o contexto ou buscar mais informações sobre a situação, a inteligência artificial responde que os sentimentos da pessoa são válidos e que ela deveria considerar seriamente o divórcio.

Para os pesquisadores, o caso mostra como uma IA programada para ser excessivamente agradável pode oferecer conselhos precipitados. Ao contrário das relações humanas, que envolvem discordâncias e confrontos de ideias, as interações com robôs podem parecer perfeitas justamente porque os sistemas tendem a concordar com o usuário.

Foto: Reprodução

Outra pesquisa publicada na revista Science apontou que os usuários não apenas preferem respostas mais elogiosas, como também tendem a confiar mais em sistemas que adotam esse comportamento. As respostas das IAs seriam quase 50% mais elogiosas do que as respostas humanas, inclusive em situações em que o usuário está claramente errado ou relata comportamentos antiéticos ou ilegais.

Os especialistas alertam que a tentativa de agradar pode trazer consequências para os usuários e também beneficiar financeiramente as plataformas, já que respostas positivas e confortáveis podem aumentar a permanência das pessoas nos aplicativos.

A recomendação dos pesquisadores é que os usuários peçam respostas mais críticas e honestas aos sistemas de inteligência artificial. Em vez de buscar apenas confirmação para suas próprias opiniões, a orientação é solicitar diferentes pontos de vista e questionamentos sobre a situação apresentada.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram 

Para os pesquisadores, o excesso de validação pode fazer com que as pessoas questionem menos as próprias decisões e assumam menos responsabilidade por suas escolhas.