Escassez causou irritação entre os usuários avançados, forçou empresas a abandonar produtos e levou a problemas de confiabilidade
A corrida pelo ouro da inteligência artificial está rapidamente esgotando o suprimento do único recurso indispensável para os desenvolvedores de IA: poder computacional, aponta uma reportagem do The Wall Street Journal.
A grave escassez de capacidade causou irritação entre os usuários, forçou empresas a abandonar produtos e levou a problemas de confiabilidade. Esses problemas são um sinal de alerta para o boom da IA, pois podem limitar a utilidade de novas e poderosas ferramentas de IA justamente quando um grande número de usuários começou a depender delas para aumentar a produtividade.
Nos últimos meses, a demanda por agentes de IA, ferramentas autônomas que usam a tecnologia para realizar tarefas de forma independente, desde escrever código de software até agendar visitas a imóveis para corretores, explodiu. As empresas têm se esforçado para garantir a disponibilidade da capacidade computacional necessária para atender a uma base crescente de clientes que também estão aumentando significativamente o uso de IA.
“Todo mundo está falando de petróleo, mas acho que o que o mundo realmente precisa são tokens”, diz Ben Pouladian, engenheiro e investidor em tecnologia baseado em Los Angeles. Um token é uma unidade de medida em IA para rastrear a quantidade de texto que está sendo processado em uma tarefa. “A IA, neste momento, não é mais apenas um chatbot ao qual pedimos uma receita enquanto estamos em frente à geladeira. Ela está orquestrando tarefas, está ficando mais inteligente”, afirma Pouladian.
Tudo isso aponta para um problema clássico que surgiu em ciclos de expansão tecnológica ao longo da história, desde a expansão das ferrovias no século XIX até a explosão das telecomunicações e da internet no início dos anos 2000. A demanda está crescendo muito mais rápido do que as empresas conseguem acessar recursos e construir infraestrutura. Historicamente, o aumento de preços tem sido uma das únicas maneiras de lidar com a escassez de oferta, mas essa medida pode ser perigosa para empresas de IA de ponta, que enfrentam uma competição acirrada para conquistar usuários.
Racionamento na Anthropic
Os preços de aluguel por hora de GPUs, os microchips usados para treinar e executar modelos de IA, dispararam desde o outono. A Anthropic, criadora do popular chatbot Claude e do aplicativo de programação viral Claude Code, tem sofrido com frequentes interrupções de serviço recentemente. A empresa começou a limitar o fornecimento de recursos computacionais aos usuários durante os horários de pico, mas a implementação foi prejudicada por reclamações de clientes que afirmam estar atingindo o limite muito rapidamente.
A OpenAI descartou seu aplicativo de geração de vídeo Sora, em parte, para liberar recursos computacionais para alimentar a programação e produtos corporativos que funcionariam com um novo modelo de IA, codinome Spud, informou o The Wall Street Journal.
O uso de tokens na API da OpenAI — uma plataforma onde principalmente usuários corporativos acessam seu software — aumentou de seis bilhões por minuto em outubro para 15 bilhões por minuto no final de março.
“Passo muito tempo tentando encontrar qualquer capacidade computacional disponível de última hora”, diz Sarah Friar, diretora financeira da OpenAI, em uma recente entrevista pública em vídeo com um investidor. “Estamos tomando decisões muito difíceis no momento em relação a projetos que não estamos priorizando porque não temos capacidade computacional suficiente.”
No final do ano passado, a CoreWeave, uma das maiores empresas de nuvem de IA com ações negociadas em bolsa, aumentou seus preços em mais de 20% e começou a exigir que clientes menores assinassem contratos comprometendo-se a usar os serviços da empresa por pelo menos três anos, em vez de um ano. Analistas do Bank of America retomaram a cobertura da empresa com recomendação de “Compra” no final do mês passado, afirmando que a demanda por seus serviços provavelmente superará a oferta pelo menos até 2029.
Os preços no mercado à vista para acessar as GPUs (unidades de processamento gráfico) da Nvidia em data centers na nuvem subiram acentuadamente nos últimos meses em toda a linha de produtos da empresa, de acordo com a Ornn, provedora de dados com sede em Nova York que publica dados de mercado e estrutura produtos financeiros com base em preços de GPUs.
Alugar um dos chips da geração Blackwell, a mais avançada da Nvidia, por uma hora custa US$ 4,08, um aumento de 48% em relação aos US$ 2,75 cobrados há dois meses, segundo o Índice de Preços de Computação da Ornn.
“Há uma enorme escassez de capacidade, diferente de tudo que já vi nos mais de cinco anos em que administro este negócio”, disse J.J. Kardwell, CEO da Vultr, uma empresa de infraestrutura em nuvem.
Por: Lia Hama
