Microsoft trava a “tokenmaxxing” para cortar custos com IA

A Microsoft pediu aos seus engenheiros para acabarem com a “tokenmaxxing”, a prática de gastar tokens de IA em excesso, sem atenção ao custo ou aos resultados, enquanto a empresa introduz orçamentos por divisão e adota um modelo mais económico como opção predefinida para uso interno. 

- Advertisement -

De acordo com um email interno de Jay Parikh, vice-presidente executivo que lidera a organização CoreAI da Microsoft, a prioridade deixou de ser o consumo de tokens e passou a ser o impacto real. “A tokenmaxxing não é aquilo em que estamos a optimizar”, escreveu Parikh. “Quero que todos se foquem em maximizar resultados que façam a diferença para os nossos clientes e para o nosso negócio.” 

Além disso, a Microsoft vai passar a usar, por defeito, um modelo mais barato para os colaboradores. Até aqui, a configuração interna do GitHub Copilot encaminhava muitas solicitações para modelos da Anthropic, o que gerava custos elevados em tokens. As novas orientações internas, em vigor desde julho, estabelecem metas de orçamento de tokens para cada divisão e permitem que os engenheiros acompanhem os seus próprios gastos, que variam, segundo a reportagem, entre algumas centenas e alguns milhares de dólares por mês. 

Uma mudança maior do lado da Microsoft e não só

Importa, porém, notar que a Microsoft não está sozinha. Segundo a ABC News, o entusiasmo corporativo em torno da tokenmaxxing já estava a abrandar no final de julho, à medida que as empresas começaram a questionar se uma utilização intensiva de IA se traduzia, de facto, em ganhos proporcionais de produtividade. 

De forma semelhante, a Meta impôs recentemente limites de tokens e desativou uma tabela interna chamada “Claudeonomics”, onde os colaboradores competiam para gastar mais tokens. Também a Amazon, a Adobe, a Atlassian e a Citi terão adoptado medidas parecidas para controlar custos. 

Por outro lado, esta viragem expõe uma tensão mais profunda: a indústria de IA mede o sucesso pelo volume de utilização, mas começa agora a confrontar-se com uma pergunta mais difícil, o que é que todo esse poder computacional está realmente a produzir?

- Advertisement -

Fica ainda mais conectado:

Fonte

- Pub -
João Paulo
João Paulo
Aprendiz de código, com gosto por artes marciais e tecnologia. Encontro na tecnologia o espaço onde posso encontrar ferramentas que me ajudam no dia a dia e a ligar-me a quem preciso.