Uma análise revelou que a nova ferramenta da Meta desenvolvida para identificar imagens criadas por inteligência artificial pode falhar após edições simples. Segundo testes realizados, o sistema deixou de reconhecer mais da metade das imagens geradas pela própria empresa depois que elas foram apenas recortadas.

O levantamento mostrou que todas as imagens originais produzidas pelo modelo Muse Image foram identificadas corretamente. No entanto, após cortes que reduziram as imagens para cerca de um terço ou metade do tamanho original, a ferramenta falhou em aproximadamente 55% dos casos.

A tecnologia utiliza uma marca d'água invisível, chamada Content Seal, incorporada automaticamente às imagens geradas pela inteligência artificial da Meta. O recurso foi criado para ajudar usuários a verificar se um conteúdo foi produzido por IA.

Veja também

Apple processa OpenAI e acusa empresa de usar segredos industriais para criar novos dispositivos de IA

Tecnologia da Copa do Mundo entra em nova era com IA, câmeras inteligentes e arbitragem mais precisa

Em resposta aos resultados, a Meta afirmou que a ferramenta ainda está em fase de testes e reconheceu que recortes mais agressivos podem comprometer a identificação da marca d'água invisível.

Especialistas em inteligência artificial afirmam que sistemas baseados nesse tipo de tecnologia apresentam limitações. Além dos recortes, alterações como redimensionamento, compressão e outras edições podem enfraquecer ou eliminar o sinal utilizado para detectar imagens criadas por IA.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.

Entre no nosso Grupo de WhatApp, Canal e Telegram  

O caso reacende o debate sobre os desafios para combater a disseminação de deepfakes e conteúdos manipulados, especialmente em períodos eleitorais e em situações em que imagens falsas podem influenciar a opinião pública.