欢迎Le Chonk：Mistral Large 4登陆Hugging Face

Mistral于10月29日在Hugging Face上发布了其最新旗舰模型Mistral Large 4，代号“Le Chonk”。这是一个多模态、多语言的混合专家（MoE）模型，支持文本和图像输入、文本输出，总参数量约1万亿，激活参数490亿，上下文窗口高达100万token。模型以两种官方精度版本发布：FP8和NVFP4，同时Unsloth和llama.cpp团队也制作了GGUF量化版本。授权方面采用Mistral Ecosystem Open-Weight License，这是MIT协议的衍生版本，但对“模型即服务”类商业用途设有限制。 这次发布最值得关注的亮点是网络安全能力。在Artificial Analysis Cyber Index测试中，Mistral Large 4拿到82分，该测试要求模型复现开源软件中的真实漏洞并完成修补。Mistral称，多个闭源前沿模型在同一测试中得分接近零，原因是它们拒绝尝试这类工作。对防御方来说这很关键——修复漏洞通常必须先复现漏洞。Mistral内部测试还发现，该模型在恶意软件分析、漏洞优先级排序和编写检测规则等未明确训练的任务上同样表现可用。Mistral将模型主要定位为防御性安全用途，并强调开源权重让使用政策和部署方式都掌握在用户手中，不会出现依赖API的团队在事件响应中途被切断访问的情况。不过模型仍会拒绝有害请求，在JailbreakBench、StrongREJECT和AgentHarm的 cyber 提示上，其平均拒绝率高于其他任何开源权重模型。 架构层面，Mistral Large 4的文本解码器有72层，结合了大规模专家池、稀疏注意力和Pixtral视觉编码器。语言模型为每个token选择一小组专家，注意力索引器则选择需要关注的历史token位置——前者稀疏化前馈网络，后者稀疏化上下文位置。推理支持方面，Transformers、vLLM、llama.cpp均已适配，微调可借助TRL，并可通过Inference Endpoints和Dell Enterprise Hub部署。对社区开发者而言，开源权重意味着可以围绕自己的代码库、崩溃日志和恶意软件样本构建安全系统，也可以用TRL基于Mistral Large 4的修补轨迹微调更小的模型，而“先复现再修补”这类任务自带可验证奖励，天然适合作为强化学习环境来训练小型安全模型。