Nous 微调 Qwen3.8 推出 Arete-27B:官方口径答案从 22% 降到 0.9%,权重、数据、评测全公开

美国 AI 实验室 Nous Research 在 11 月 6 日发布了 Arete-27B:以阿里巴巴的开源模型 Qwen3.8-27B 为起点,做了一次监督式微调,目标是改变模型在政治敏感议题上的回答倾向。Nous 称,在自家设计的 803 道题评测里,采纳官方说法的答案比例从 22% 降到了 0.9%。模型权重、训练数据和整套评测已经全部公开,挂在 Hugging Face 上,Apache 2.0 授权,任何人都能下载、本地运行、自己复测。

这次后训练刻意做得很轻:只用监督微调,不用强化学习、不改模型结构,约 5280 万个 token、两轮、1202 步,64K 上下文。示范答案的教师模型选的是 Thinking Machines 的开源模型 Inkling——Nous 说它是自家评测里在这些议题上表现最好的开放模型,用开放教师也能避开“违规蒸馏”的授权麻烦。评测覆盖言论自由、国家意识形态、国家与自由市场、教育、数据隐私与监控、民主、环境七个类别,每道题都从带日期的来源文章里抽出 2 到 4 个必答事实,由 xAI 的 Grok 4.7 当裁判盲评,裁判不知道答案出自哪个模型。

按 Nous 公布的数字,Arete-27B 的事实得分从 2.32 升到 2.98(满分 5 分),变化最大的言论自由类别从 0.89 升到 2.44,官方口径答案从 60% 降到 1%。同一张对照表里,GLM-5.3 是 15%,DeepSeek V4.1 Flash 是 16%,而 Inkling、Mistral Large 4 这些西方模型都在 0.3% 到 0.6% 之间。通用能力基本没动:内部 Hermes Bench 从 65.77% 到 65.60%,Nous 自己说这点差距就是噪声;Terminal-Bench-2.1 从 67% 升到 70%,Nous 也明确表示不把这点提升算成自己的功劳。

值得注意的是全部数字都来自 Nous 自家评测、Grok 4.7 当裁判,目前还没有独立第三方复现;而且对照表里各模型的解码设置并不完全一致,Arete 和原版 Qwen 用的是温度 0 且关闭思考模式,其他模型多用 0.6。Nous 自己也在模型卡里留了口子:这只说明“可能找到了一个根因”,不是宣称修好了所有相关行为。它的论点其实更值得留意:开源模型的价值观“只差一次微调”,五千万 token 的监督训练就能大幅改动回答倾向,而不伤通用能力——第三方完全可以按自己的价值观重训别人的开源权重,这正是这次发布想证明的事。

实操层面,BF16 权重约 54GB,社区已经做了 GGUF 量化版,24GB 显存的消费级显卡就能跑;目前还没有托管推理服务,Nous 说“先本地用”。教师模型 Inkling 正是上周发布的 Thinking Machines Inkling 2 Small;同为近期开源的中国大模型底座,可对照站内 百度开源 ERNIE 5.5 Flash Base 一篇。

来源:Nous Research(Hugging Face 模型卡),原文:https://huggingface.co/NousResearch/Arete-27B

请登录后发表评论

    没有回复内容