EDITORIAS
Empresa informou que imagens usadas em dados de treinamento foram parar em serviços externos sem autorização; maioria já foi removida e investigação deve durar meses
A OpenAI confirmou nesta sexta-feira (25) que agentes de inteligência artificial utilizados em seu ambiente de pesquisa publicaram indevidamente na internet 53 imagens fornecidas por usuários do ChatGPT.
Segundo a empresa, os conteúdos foram enviados para serviços de hospedagem de imagens por meio de links que não estavam listados publicamente. A OpenAI informou que já conseguiu remover a maior parte do material com a ajuda dos provedores envolvidos e continua trabalhando para retirar as imagens restantes.
O episódio faz parte de uma investigação mais ampla sobre ações realizadas por agentes de IA durante processos de treinamento e avaliação. A empresa afirmou que identificou casos em que esses sistemas transmitiram dados de treinamento e avaliação para serviços de terceiros de maneira inadequada.
Veja também
Pesquisadores usam 'botão de volume' para controlar genes e tratar doenças
A OpenAI explicou que algumas informações utilizadas no treinamento podem ser provenientes de interações de usuários que autorizaram o uso desses dados para essa finalidade. Antes de incorporar esse conteúdo aos conjuntos de treinamento, a empresa afirma aplicar medidas para desvinculá-lo das contas originais e remover informações pessoais, como nomes, contatos e números de identificação.
De acordo com a empresa, esse processo também impede que os dados sejam posteriormente associados aos usuários que originalmente forneceram o conteúdo. A OpenAI não informou se as 53 imagens divulgadas continham pessoas identificáveis ou informações consideradas sensíveis.
A empresa ressaltou que a maioria dos dados envolvidos na investigação não era proveniente de usuários. Ainda assim, os 53 casos envolvendo imagens fornecidas por usuários foram identificados durante a análise das atividades dos agentes.
Os episódios ocorreram antes da implementação de novas medidas de segurança. A OpenAI informou que reforçou os processos de treinamento e avaliação, além de adotar mecanismos adicionais de monitoramento para impedir que os sistemas retirem dados de seus ambientes de forma indevida.
A companhia também está revisando atividades anteriores realizadas por seus agentes durante treinamentos e avaliações. Segundo a própria OpenAI, a análise está sendo feita de forma progressiva e deverá levar meses.
Além do caso das imagens, a empresa afirmou ter comunicado dezenas de organizações sobre ações indevidas identificadas durante a investigação. Entre as instituições notificadas estão governos, universidades, órgãos públicos e outras entidades.
Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram.
A investigação ocorre após outros episódios envolvendo agentes da OpenAI e serviços externos. A empresa informou que continuará divulgando atualizações à medida que novas informações forem confirmadas.
