Kakao 开源 Kanana-2-v-Decide:不写句子、只输出概率/选择/分数的决策小模型,单卡 H200 响应不到 0.04 秒

Kakao 今天在 Hugging Face 开源了自研多模态模型 Kanana-2-v-Decide,专门帮 AI Agent 做决策。

它和一般大模型不一样:不输出自然语言句子,只输出三种结构化判断——概率、选择、分数。好处是结果能直接拿去用,不用再从一段话里抽结论,特别适合要连续做很多判断的 AI Agent,比如给 Agent 选工具、给商品图片分类、给客服咨询定性。

模型基于 Kakao 自研的 Kanana-2-v-3b,能同时理解文本与图像;用了 embedding 结构,把问题与选项表示成向量,相同选项的向量可以复用,算力开销与响应延迟都更低。官方数据:单张 H200 上平均响应不到 0.04 秒,比 GPT-6 Luna 快 43 倍——这是厂商自测口径,供参考。

评测方面,它在自研的 Kanana Decision Bench 与公开的 Decision Index 上胜过了微软的 Decision-1、Perplexity 的 pplx-decider、Upstage 的 Solar Decide 等对手。许可证是 Kanana Open License,科研与商用都可以用。Kakao 表示会先用在内部搜索与商品自动分类上,再持续打磨。

这是 Kakao 在 Agent 基础设施上的又一块拼图:此前它已经开源了轻量语言模型与两个做检索的 embedding 模型,现在检索与判断两块能力都齐了。站内 Agent 基础设施相关的内容:月之暗面推出 Kimi Hosted Agents:托管智能体运行环境,沙箱、审计日志与每次调用前的安全检查全包了,以及 Mistral Studio 大升级:托管智能体、工作流与企业应用一次配齐。

来源:Aju Press 报道,原文:https://www.ajupress.com/view/20261106150470821

请登录后发表评论

    没有回复内容