Microsoft apresenta o plugin TokenEconomizer para reduzir os custos dos agentes de codificação em até 30,9%

Os pesquisadores da Microsoft Research e da UC Berkeley apresentaram o TokenEconomizer, um plugin de código aberto projetado para reduzir os custos dos agentes de codificação em até 30,9%. A ferramenta funciona com várias assistências de codificação, incluindo Claude Code, Codex, GitHub Copilot CLI e Pi, sem alterar os pesos do modelo ou o código do agente. Testes em 277 tarefas do SWE-Bench mostraram uma redução na média de custo de 18,4% a 30,9% em cinco configurações de agente-modelo. O TokenEconomizer opera como um controlador externo, gerenciando o comportamento do agente por meio de políticas definidas por meio de prompts, configurações de ferramentas e fluxos de eventos. Também utiliza detectores de regex para identificar ineficiências sem exigir chamadas de modelo. A ferramenta reduz os custos ao longo do tempo, com a maioria dos repositórios se tornando mais baratos na sexta tarefa. Os resultados foram consistentes em diferentes benchmarks, incluindo Web-Bench e CredData, com economias variando de 16,0% a 21,2%.