Mistral Large 4在Hugging Face正式发布,万亿参数模型详解
機械翻訳 / Machine-translated

機械翻訳 / Machine-translated
@aifriends
AI Friends(https://aifriends.jp)のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
听说"万亿参数的AI,人人都能下载",是不是感到震惊?法国的Mistral AI发布了新模型。本文将依次梳理其核心内容、定价与注意事项。
Mistral Large 4(昵称"Le Chonk")是法国Mistral AI研发的大型AI模型。2026年10月6日,API预览版上线,10月29日,模型权重(即AI的"大脑"数据)在Hugging Face正式公开。
Hugging Face在官方博客中将该模型介绍为"支持文本与图像输入、输出文本的MoE(混合专家)模型"。MoE是一种机制,从众多专家AI中仅调用所需的若干个来协同工作。
预览版发布时,Mistral曾表示将于10月底公开权重,原因是需要对安全性进行额外验证。历时约三周,这一承诺得以兑现。
模型总参数量(衡量AI规模的指标)约为1万亿。但处理每个词时,实际激活的参数约为490亿。文档中另有说明,包含输入输出层在内为520亿。
Hugging Face的介绍显示,每一层有128位专家,每个词会选用其中4位,并额外加入1位共享专家。这种工作方式就像在一座巨大的图书馆中,只打开需要的那几个书架。
上下文长度(单次可读取的文本量)为100万token,可一次性输入相当于数本书的资料。不过,第三方评测数据约为52万token,各方数据存在差异。
图像由拥有1.6B(16亿)参数的Pixtral系列编码器处理。Mistral表示,支持160余种语言,涵盖所有欧盟官方语言。
推理深度可从"低、中、高"三档选择,默认为"高",且无法关闭推理功能。
Hugging Face说明显示,许可证为修改版MIT许可证。据VKTR的报道,将模型作为服务提供给第三方的企业,需获取Mistral的商业许可证。
上一代模型Large 3采用Apache 2.0许可证。相比之下,面向服务提供方的限制有所增加。若仅用于内部业务,影响相对有限。
据VKTR,API定价为每100万token输入0.70美元,输出2.10美元,较预览期的输入1.36美元、输出4.18美元近乎减半。
Hugging Face的发布公告显示,该模型尤其擅长网络安全、代码智能体和多模态(同时处理图像与文本)任务。
需要注意的是,上述数据大多来自Mistral及其合作伙伴。
事实上,Pasquale Pillitteri的文章指出,该模型在第三方Vals v2.1测试中得分48.05%,在44个模型中排名第32位。Terminal-Bench 4方面,Mistral公布的数据为28.3%,而独立评测结果为22.73%。
若数据属实,该模型确实表现出色。即便如此,建议先用自身业务数据进行验证,再做最终判断。
以下是VKTR整理的Mistral官方比较定位:
Mistral宣称在Artificial Analysis综合指数中,是"西方开放权重模型中的最佳"。不过也有报道指出,中国主要模型的得分更高。
因此,该模型的定位并非全面领先,而是作为欧美发布的开放模型,主打网络安全领域的优势。
目前尚无公开的日语基准测试数据。尽管支持160余种语言,日语方面的实际表现仍需自行测试。
以无法将机密数据传至外部的制造业信息系统部门为例,将模型部署在内部服务器上运行,正是开放权重的一大优势。
但即便是压缩版,也需要512GB内存或多块GPU。有报道估算,需要4至8块英伟达B200或B300。对于个人或小型企业来说,自行部署并不现实。
此时,可选择通过API调用,或租用云端推理服务。Hugging Face表示,使用8块NVIDIA H200的配置,每个请求的推理速度约为每秒65个token。
对于安全公司的从业者而言,能够在内部环境中自行排查代码漏洞是一大亮点。Mistral也强调,该模型更易于用于大型AI通常会拒绝的安全验证场景。
模型权重可免费下载,但运行所需的计算资源需要自行承担费用。若将其作为服务提供给第三方,还需获取商业许可证。
难度较大。即便是压缩版,也需要512GB内存或多块GPU。官方NVFP4版本以英伟达Blackwell世代GPU为前提。
官方表示支持160余种语言,但尚无针对中文性能的官方数据。建议在用于实际业务前,先用自己的文本进行测试。
大多数数据来自Mistral及其合作伙伴。独立评测结果显示,部分指标低于Mistral官方发布数据。随着权重公开,预计今后第三方验证将逐步增多。
不可以。可从低、中、高三档选择,默认为"高"。
建议先通过API,用自己的数据小规模试用,再逐步推进。
本文转载自 AI Friends。