TokenEconomizer:微软 × 伯克利的省 Token 插件,编程 Agent 成本直降 18%–31%

TokenEconomizer:用微技能、工具剪枝与防死循环三招降低编程助手成本

编程助手越用越贵,很大一部分钱花在了重复劳动上:同一个仓库的测试命令,每个会话都要重新发现一遍;几十个工具定义每轮都跟着发过去,大半从来没被调用过;一次失败能原地打转到上下文撑爆。TokenEconomizer 是微软研究院与 UC 伯克利刚开源的插件,专门治这三种浪费——不改模型、不改助手代码,只靠记住一个仓库里已经跑过的会话,让后面的会话越跑越便宜。

论文(arXiv 2610.22732)在 277 个 SWE-Bench 任务、6 个仓库、5 组 Agent 与模型组合上实测:平均成本降低 18.4%–30.9%,30 个仓库 × 组合全部更便宜,通过率(Pass@1)在 5 组里有 4 组还涨了。

钱都浪费在哪

研究团队先拿 Claude Code + Opus 4.8 跑了 60 个 SWE-Bench 任务做画像,找出了三处固定浪费:

  • 重复发现:前面跑过 5 个任务后,30% 的工具调用只是在重复之前做过的动作;
  • 用不上的工具:每轮加载 23 个工具定义,16 个从没被调用过,3 个就占了 98% 的调用;
  • 死循环:10 次失败运行只占任务数的 17%,却烧掉了 32% 的总花费。

三招怎么省

TokenEconomizer 框架:插件记住仓库经验,对不变的编程助手施加微技能、工具剪枝与防死循环干预

1. 微技能(Micro-skills):记住这个仓库怎么干活。一个提议模型每 3 个会话复盘一次,把“这个仓库测试要用 python -m pytest”“生成文件放哪”这类一句话事实写下来;一条事实要经过 3 个不重叠任务的确认才会进提示词,之后被 contradict 就快速退休。默认关闭,因为提议本身也要花模型调用。

2. 工具剪枝(Tool pruning):不用的工具别每轮都发。Shell、读、写、改这几个核心工具永远保留,其他工具连续 10 个提示没被用(横跨至少 2 个会话),或连续 5 个会话没被用,就从后续会话里拿掉,一条命令随时恢复。Django 上实测,第二个任务的首次请求提示 Token 从 43,351 降到 16,295。

3. 防死循环(Loop guard):卡住了就推一把。控制器按成功运行 90 分位长度的 1.25 倍定预算;便宜的规则先发现重复失败或密集报错,再由评判模型以 0.7 以上的置信度确认是不是真卡住——卡住了给一次换思路的提示,还卡住就告诉你怎么停下,它自己永远不替你停。

三招单拎出来也有数:只开工具剪枝省 13.2%–17.7%,只开微技能省 11.8%–14.3%,只开防死循环省 5.4%–7.1%。而且省得越来越多——多数仓库前几个任务反而更贵,到第 6 个任务时全部开始净省。

实测成绩单

组合 成本变化 通过率(默认 → 开启后)
Claude Code + Sonnet 5 -23.6% 74.7 → 76.0
Claude Code + Opus 4.8 -30.9% 74.0 → 73.0
Codex + GPT-5.6 Terra -24.7% 73.8 → 74.7
Codex + GPT-5.6 Sol -26.1% 80.1 → 81.7
Copilot CLI + Sonnet 5 -18.4% 75.0 → 77.6

费用口径里已经算进了插件自己的模型调用。SWE-Bench 之外也有验证:Web-Bench 省 16%–21%,CredData 省 16.5%–19.6%;不过 ReposVul 审计任务只省了 6.4%–9.3%,因为单次运行太短、没多少可剪的东西。实话实说,这组数字来自基准测试、不是日常开发,真正适合的是同一个仓库反复干活的场景——仓库换得越勤,省得越少。

安装:三行命令

需要 Python 3.10 以上,和 Claude Code、Codex、GitHub Copilot CLI、Pi 其中之一(opencode 为实验性支持)。插件自己不要 API Key,学到的东西只存在本机 ~/.tokeneconomizer 里。Claude Code 的装法:

git clone https://github.com/microsoft/TokenEconomizer.git
claude plugin marketplace add "$PWD/TokenEconomizer"
claude plugin install tokeneconomizer@tokeneconomizer

启动 claude,信任文件夹后跑 /tokeneconomizer:status 就能看到它在本仓库学到了什么、花了多少钱。工具剪枝和防死循环默认开启,微技能默认关闭,想开就跑 config set microskills=on。各家 Agent 的命令名字一样、写法略有不同,Codex 用 $tokeneconomizer: 前缀,Pi 用 /te。注意仓库对各 Agent 的版本有明确的支持范围,装之前先对一下。

如果你也在用 Claude Code 做日常开发,类似的省钱思路站内之前也介绍过:unslop 这个 Claude Skill 是反过来治 AI 味界面的,Cloudflare 的安全审计 Skill 是让编程助手先审代码再动手,而 40 万星的 REA 则是让 Agent 先看懂软件再下手——TokenEconomizer 补的是同一条工作流上“别为重复劳动付费”这一块。

转自 GitHub 作者 microsoft 的项目《TokenEconomizer》,原文链接:https://github.com/microsoft/TokenEconomizer

© 版权声明
THE END
喜欢就支持一下吧
点赞13 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容