Mistral Large 4 权重开放下载：万亿参数“Le Chonk”，1M 上下文、主打网络安全

Mistral Large 4 架构图

Mistral Large 4（绰号 Le Chonk）的权重在 10 月 29 日开放下载了。这是 Mistral 迄今最大的模型：约 1 万亿总参数、每 token 激活约 490 亿、100 万 token 上下文，文本加图像输入、文本输出。10 月 6 日它先以 API 预览亮相，Mistral 当时承诺月底放出权重，如今如约兑现。

模型发布在 Hugging Face（仓库 mistralai/Mistral-Large-4-1T-A52B），Transformers、vLLM 与 llama.cpp 首日就支持；微调有 TRL 首日支持。API 价格也砍了将近一半。

架构：两种稀疏

Large 4 是混合专家（MoE）模型：文本解码器 72 层，首层是稠密前馈，其余 71 层是 MoE，每 token 由路由从 128 个专家里挑 4 个，另有 1 个共享专家始终参与——每 token 实际激活 5 个专家。算上 embedding 与输出层，激活参数约 520 亿，这就是仓库名里 A52B 的来历。

注意力是第二种稀疏：多头潜在注意力（MLA）压缩历史 token 的 KV 表示，DeepSeek 稀疏注意力（DSA）索引器为每次查询挑最多 2,048 个历史位置。视觉部分是 16 亿参数的 Pixtral 编码器（30 层）。推理强度分低、中、高三档，默认高档，且无法关闭。

Mistral Large 4 专家混合结构图

成绩单：编程与网络安全是主打

以下数字来自 Hugging Face 的发布文章与 Mistral 的模型卡，尚未经第三方独立验证：

Artificial Analysis 智能指数 v5 得 26 分，在开源权重模型里排第五，是西方开源权重模型里最高的；
编程智能体指数 49.8%（模型卡写的是 48%，称与 GLM-5.3 基本打平），DeepSWE v1.1 61.7%、SWE-Atlas-QnA 59.4%、Terminal-Bench 4 28.3%；
网络安全是 Mistral 的主推方向：复现真实漏洞再打补丁的测试拿下 82%，Cybench 40 道安全竞赛题做对 93%，Lakera B3 提示注入抵抗 93.3%；
知识工作：AutomationBench 59.9%、AA-Briefcase 1,393 Elo。

Mistral 把它定位给网络防御者：恶意软件分析、漏洞优先级排序、检测规则编写。它的理由是，开源权重让团队在事件响应中自己掌控模型与使用策略，不依赖 API 提供商的过滤器；同时模型对有害请求的拒绝率，在 JailbreakBench、StrongREJECT 与 AgentHarm 的网络安全提示上高于其他开源权重模型。Mistral 也承认，预览期间观察到模型有“被用于实施真实攻击的潜在提升”，更激进的渗透测试版本只提供给经审核的合作伙伴。

许可：开源权重，不是开源软件

权重用 Mistral 生态开源权重许可（Mistral Ecosystem Open-Weight License），是 MIT 的衍生许可：可以免费使用、修改、微调与商业化，但有一条边界——拿它对外提供模型即服务（MaaS）需要先向 Mistral 另购商业许可。自己下载、自己部署、自己用没问题；把它包装成 API 拿去卖，需要授权。这也是 10 月 29 日前后讨论最多的地方。

跑起来要什么硬件

这首先是个数据中心模型。官方给了两个版本：FP8 主检查点（可微调，配 8 卡服务器方案）与 NVFP4（更小，需要 NVIDIA Blackwell 显卡，走 vLLM）；社区的 GGUF 量化由 Unsloth 与 llama.cpp 团队提供，有 IQ2_XXS、Q2_K、Q4_K_M、NVFP4、Q8_0 与 BF16。

8 张 NVIDIA H200 跑 FP8 + vLLM：可服务 131K 上下文、16 路并发，单请求约 65 token/秒；
单台 512GB 统一内存的 Apple Silicon Ultra（如 M3 Ultra）能跑 2-bit 量化：Q2_K 预填充约 90 token/秒、生成约 15 token/秒；
4 张 RTX 6000 Pro 跑 NVFP4：32K 上下文，生成约 10 token/秒。

不想自己搭硬件，可以直接走 Hugging Face 的 Inference Providers 或 Mistral 自己的 API 试用。API 价目也降了：输入每百万 token 0.70 美元（缓存输入 0.07 美元）、输出 2.10 美元，约为预览期 1.36/4.18 美元的一半。Microsoft Foundry 是首个上架的云，NVIDIA 提供了 NIM 容器。