billion-context:给编程智能体装个上下文压缩器,一个会话能跑一个月、号称省 5 倍 token

billion-context - 上下文压缩插件

billion-context 是一个给编程智能体用的上下文压缩插件,坐在智能体和模型 API 之间,把已经消耗的对话压成多层摘要,让一个会话能连续跑几天甚至一个月,而不是一到上下文上限就断掉。仓库目前 4,399 星,支持 Claude Code、Codex、Gemini CLI、Qwen Code 等 20 多个客户端,安装方式是 npm install -g billion-context。

它的办法是代理转发请求时给模型注入四个上下文管理工具:compress 把一段对话折叠成详细摘要、decompress 在需要精确细节时还原、search_context 按关键词搜已压缩的摘要、acp_status 看上下文用量。由模型自己决定何时压、压什么,压缩是增量、可逆的,而且尽量不破坏前缀缓存。

要提醒两点:一是「5 倍省 token」「月级会话」这类数字均为作者自报,仓库附有 1500 项第三方基准对比,但没独立复核过,实际效果因任务而异;二是不同客户端的接入方式不一样,有的走原生插件,有的要走本地代理甚至证书方式,先看清自己客户端对应的那一节再装。许可证是 MIT 附加一条署名要求。

相关阅读:claude-mem:10.6 万星的 Agent 记忆插件、Agent Autoloop:让命令行 Agent 在后台自己接活干到底。更多细节见 GitHub 仓库。

来源:GitHub @ranxianglei,原文:https://github.com/ranxianglei/billion-context

请登录后发表评论

    没有回复内容