Companhias veem custo alto e pouco retorno na prática de maximizar o uso de tokens, e buscam modelos mais eficientes para IA.
A moda corporativa do “tokenmaxxing” — a prática de maximizar o uso de tokens em ferramentas de inteligência artificial — está perdendo força nas empresas. O custo crescente sem ganhos proporcionais de produtividade levou companhias de diferentes setores a repensar o quanto investem nessa estratégia.
A reviravolta é reportada pela AP News. Vincent Gusdorf, responsável pela área de análise de IA na Moody’s Ratings e autor de um relatório recente que defende uma abordagem mais disciplinada no uso de IA, resume o problema: “É muito fácil criar algo de que você não precisa com IA.”
Tokens são os blocos fundamentais da IA generativa: pequenos fragmentos de texto que o sistema lê ou escreve, equivalentes a cerca de três quartos de uma palavra cada. Planos mais caros de produtos de IA oferecem limites maiores de uso. “Conforme as contas foram chegando, as pessoas perceberam que essas ferramentas são bem caras e precisam ser usadas com sabedoria”, afirmou Gusdorf.
O auge da corrida por tokens
Meses atrás, o alto consumo de tokens era celebrado no Vale do Silício como sinal de desempenho elevado. O CEO da OpenAI, Sam Altman, afirmou em maio estar “animado para ver o que vai acontecer com as startups de tokenmaxxing, tanto pelo modo como trabalham internamente quanto pelos produtos que conseguem construir”. Jensen Huang, da Nvidia, chegou a dizer que “se o seu engenheiro de 500 mil dólares não está queimando 250 mil dólares em tokens, algo está errado”. A Meta, empresa controladora do Facebook, chegou a criar uma competição interna premiando o uso intenso de tokens.
O movimento elevou a receita de desenvolvedores de modelos de linguagem como Anthropic e OpenAI. No entanto, ficou claro que a estratégia não era a mais eficiente para a maioria das empresas.
Satya Nadella, CEO da Microsoft, admitiu que o tokenmaxxing pode ser viciante, mas alertou em um post recente que os clientes desses modelos pagam duas vezes pela IA; primeiro nos gastos com tokens e depois ao alimentar os sistemas com dados proprietários. Alex Karp, CEO da Palantir, foi mais enfático ao falar à CNBC no início do mês. “A visão geral entre as empresas neste país é; ‘Vou relaxar e desperdiçar meu tempo com tokens. Não vou obter nenhum valor e eles vão ficar com minha propriedade intelectual’”, declarou Karp, afirmando representar a voz de executivos americanos “furiosos” com o que pagam por tokens sem retorno.
Roteamento inteligente de modelos
A consultora da Bain & Company Jue Wang disse que grandes empresas estão examinando com mais cuidado o retorno dos investimentos em IA. “O custo com tokens para elas tem dobrado quase a cada dois meses”, afirmou. Ela exemplificou; US$ 200 por desenvolvedor por mês, multiplicados por 20 mil desenvolvedores, geram um valor que nenhum gerente havia planejado no orçamento.
A solução passa por usar o modelo certo para cada tarefa. “Nem tudo precisa de um Claude Opus 4.6”, afirmou Wang, referindo-se a um dos modelos mais potentes da Anthropic, voltado a engenharia de software e pesquisas aprofundadas. “E ainda assim você vê tantas empresas, tantos usuários, recorrendo ao Opus para tudo, incluindo gerar e-mails.”
Isso impulsionou a busca por ferramentas de “roteamento de modelos de IA”, nas quais consultas mais simples são direcionadas automaticamente a sistemas mais baratos e eficientes, enquanto tarefas complexas seguem para modelos mais robustos.
Modelos chineses de código aberto
Hassan El Mghari, responsável pela experiência de desenvolvedores na startup Together AI, afirmou que o “absurdo valor gasto” em assinaturas de produtos de IA das principais empresas americanas afastou muitas companhias do incentivo ao uso intenso. “É melhor capacitar os funcionários sobre como usar essas ferramentas e deixá-los usar a IA quando e na medida em que precisarem”, declarou.
Paralelamente, modelos de código aberto desenvolvidos por startups chinesas, como o Kimi, da Moonshot, e o GLM, da Zhipu, oferecem desempenho próximo ao dos principais modelos americanos por uma fração do custo, atraindo quem ainda deseja maximizar o uso de tokens.
Raffi Krikorian, diretor de tecnologia da Mozilla, reconheceu que esses modelos podem estimular o tokenmaxxing, mas foi categórico na avaliação geral; “Se olharmos para a indústria como um todo, acho que ela está percebendo que tokenmaxxing é uma ideia estúpida.” Krikorian comparou a tendência ao antigo hábito de medir a produtividade de programadores pelo número de linhas de código escritas, métrica que caiu em desuso. “Acho que o tokenmaxxing está seguindo exatamente o mesmo padrão”, afirmou. “Vai ser um desvio interessante que todos vamos olhar para trás e rir daqui a um ano.”
Fonte: Giz_br
