AWS 开源 Infinity：8GB 内存跑 7.5 万个智能体，空闲等待几乎不花钱

AWS 发布了开源智能体运行时 Infinity，由 AWS 与加州大学伯克利分校合作推出。它的核心思路很直接：把工具调用当作挂起点——智能体调用工具时挂起、保存对话历史，等结果回来再恢复，类似编程里的无栈协程，而不是让整个进程一直占着算力干等。

官方给出的数据颇为激进：在 8GB 内存的树莓派 5 上能跑 7.5 万个并发智能体，空闲智能体每个约占 100KB；在 Lambda 搭配 SQS 与 Aurora DSQL 的无服务器部署里，智能体等待期间不产生算力消耗。它还用合成工具调用在模型 API 的限制内传递异步事件，内置 spawn_thread 与 report_to_parent 支持智能体之间的通信，事件默认在子线程处理，避免父智能体的上下文被子任务撑爆。

为什么值得关注：长程智能体常常要等构建、等工具、等人工审批，一等就是几小时，传统做法是让进程一直占着机器，成本随智能体数量直线上升。Infinity 是把“等”变便宜——这正是长程、多智能体协作能否规模化的关键一环。它与本站此前报道的 Google Cloud 的 Agent Compute Engine形成互补：一个解决隔离与安全，一个解决并发成本。

也要留个心眼：上述并发数字来自官方介绍，实际表现取决于模型调用与工具延迟；而且 Infinity 是运行时，不是模型本身——它不解决模型能力问题，开发者仍要自己接模型与工具。

来源：AWS，原文：https://aws-news.com/article/2026-10-23-introducing-infinity-a-runtime-for-extreme-agent-concurrency