O ChatGPT deve custar mais que US$ 700 mil (R$ 3,5 milhões) diariamente para funcionar, apontou o analista-chefe da empresa de pesquisa de semicondutores SemiAnalysis, Dylan Patel.

O chatbot conversacional da OpenAI requer uma quantidade absurda de desempenho computacional para atender a demanda de usuários do mundo todo, e a Microsoft quer reduzir esse custo.

"A maior parte do custo é em torno do gasto com servidores que eles precisam", disse o analista. Agora com a disponibilidade do GPT-4, a manutenção deve ter ficado ainda mais cara, já que a avaliação dele considerava apenas o chatbot usando o GPT-3, modelo mais antigo da plataforma da OpenAI.

Veja também

ChatGPT supera a média dos estudantes no Enem, menos em matemática

ChatGPT fica fora do ar por algumas horas; OpenAI investiga 'bug'

O treinamento por si só custa dezenas de milhões de dólares, mas o gasto com a parte operacional e custos de inferência (processamento de dados) são muito maiores, afirmaram Patel e outro analista da SemiAnalysis, Afzal Ahmad, ao site Forbes. "Na verdade, os custos para inferir o ChatGPT excedem os custos de treinamento semanalmente", disseram.

MICROSOFT QUER BARATEAR OPERAÇÕES

Para tornar a atividade do modelo mais barata, a Microsoft aparentemente desenvolve hardware específico para processamento de dados com inteligência artificial. Essa seria função do Athena, um chip otimizado para IA supostamente em desenvolvimento desde 2019, ano em que a empresa fechou um acordo de US$ 1 bilhão com a OpenAI.

Curtiu? Siga o PORTAL DO ZACARIAS no Facebook, Twitter e no Instagram

Entre no nosso Grupo de WhatApp e Telegram

Há cerca de 300 funcionários da Microsoft focados no projeto, mas ele não seria lançado para o público geral: ele seria utilizado exclusivamente pela Microsoft e pela OpenAI para alimentar seus produtos com IA já em 2024, apontaram informantes do site The Information. 

Fonte:Terra