Salesforce 在 11 月 6 日推出了 Koa Decisions，一个专门负责“做决定”的小模型。它是 Salesforce 在 Agentforce 里用了多年的路由模型 HyperClassifier 的下一代，由数据科学团队基于谷歌的开源模型 Gemma，用新的训练方法打造。与让大语言模型写长文不同，Koa Decisions 只干一件事：读一条请求和一份由用户自定义的类别清单，一步就给出答案——选哪个类别、是或否、或者一个分数，耗时以毫秒计；相比上一代，它还新增了图片和音频输入。
Salesforce 称，在 Agentforce 内部实测中，决策模型处理一次路由请求大约只需 26 毫秒，而通用大模型约需 1.4 秒。团队论文还报告，在内部意图路由基准上准确率约 85.5%、中位响应约 0.5 秒，比同条件测试的前沿模型快约 7.5 倍。以上均为 Salesforce 团队自报的数据，未经独立第三方复核。任何人注册一个免费 Trailhead 账号就能试用演示：加一个“退货”类别、改一句请求，模型不用重新训练就能立刻按新类别做判断。
值得关注的是，决策模型正在成为一条小赛道：9 月 TypeSafe 带着 Jev 出道，10 月 OpenAI 把 Decisions API 推向正式版，如今 Salesforce 也把自家用了多年的路由模型升级成产品。思路很直接：智能体的大量工作其实不是写文章，而是不断做选择——请求该分给哪个团队、该走哪条流程、该展示哪篇知识文章，这些活交给一个便宜又快的小模型，大模型只留给真正需要推理和写作的环节。Salesforce 计划把 Koa Decisions 从路由扩展到 Flows、Apex、提示词模板和开发者 API，不过这些都还只是计划，定价与打包方式也未公布。
与它同属 Koa 家族的还有 Salesforce 与英伟达合作打造的推理模型。决策模型与托管智能体、托管智能体运行环境的组合，正在让“智能体替人做决定”这件事变得更便宜、更快——但它做出的决定是否靠谱，最终还是要看实际业务里的准确率，而不是演示里的置信度分数。
来源：Salesforce，原文：https://www.salesforce.com/news/stories/koa-decisions-salesforce-decision-models/
没有回复内容