← 新闻

摩尔线程携手众智FlagOS社区完成对MiniCPM系列新模型的极速适配,精度对齐国际主流GPU

摩尔线程携手众智FlagOS社区完成对MiniCPM系列新模型的极速适配,精度对齐国际主流GPU

近日,依托众智FlagOS社区,摩尔线程旗舰级AI训推一体智算卡MTT S5000完成对面壁智能MiniCPM系列新模型的极速适配,覆盖MiniCPM-V4.7(35B-A3B与1B)、MiniCPM-OCR 1.0(1.3B)及MiniCPM-OCR Jev(2B)。经FlagOS社区统一测试,摩尔线程平台上的MiniCPM-V4.7模型精度与国际主流GPU对齐。开发者可通过魔搭社区与Hugging Face的FlagRelease仓库获取模型镜像,实现开箱即用。

MiniCPM-V4.7 是面壁智能联合OpenBMB社区共同发布并开源的端侧多模态系列最新模型。支持文本、图像、视频等多模态输入处理,可用于智能问答、图像理解、视频分析等多模态应用场景。该模型包含35B-A3B(MoE)与1B两个版本:35B-A3B采用混合专家(MoE)结构,总参数量为35B,激活参数约3B,是全球首个可在端侧无损、流畅运行的开源MoE多模态大模型;1B版本实际参数规模约1.3B,以极小体量达到同尺寸性能第一梯队。

MiniCPM-OCR 是MiniCPM家族首个专用OCR系列模型,包含两个模型:MiniCPM-OCR 1.0(1.3B)面向扫描、拍照、弯曲、倾斜和翻拍等真实文档场景,支持文字、公式、复杂表格解析与关键信息抽取,输出结构化Markdown;MiniCPM-OCR Jev(2B)是业内首创的解析结果判别模型,根据原始图像和解析结果对文本、公式和表格逐块给出可信度评分,帮助开发者自动筛选需要人工复核的内容,将文档质检从"地毯式排查"变为"按风险定点清除"。两个模型合计约3.3B参数,可在金融、财税、法务、医疗等文档场景中高效运行。

得益于摩尔线程MUSA统一系统架构与FlagOS多芯片推理软件栈的深度协同,MiniCPM系列新模型能够在MTT S5000上高效运行。SGLang-plugin-FL作为SGLang的树外(OOT)插件,基于统一推理软件栈FlagOS构建,一端衔接SGLang推理框架,一端衔接摩尔线程平台后端。开发者无需修改原始接口与调用方式,即可完成部署,大幅降低跨平台工程成本。

FlagOS社区在统一测试条件下,以国际主流GPU原生版本为基线,对MiniCPM-V4.7进行了Math_500、GPQA_Diamond与ERQA三项精度评测。结果显示,摩尔线程平台上的模型在评测中与基线对齐,验证了MUSA平台与FlagOS软件栈对开源多模态模型的支撑成熟度。

模型镜像下载

MiniCPM-V-4.7-35B-A3B

▼ 魔搭社区

https://modelscope.cn/models/FlagRelease/MiniCPM-V-4.7-35B-A3B-BF16-mthreads-FlagOS

▼ Hugging Face

https://huggingface.co/FlagRelease/MiniCPM-V-4.7-35B-A3B-BF16-mthreads-FlagOS


MiniCPM-V-4.7-1B

▼ 魔搭社区

https://modelscope.cn/models/FlagRelease/MiniCPM-V-4.7-1B-BF16-mthreads-FlagOS

▼ Hugging Face

https://huggingface.co/FlagRelease/MiniCPM-V-4.7-1B-BF16-mthreads-FlagOS


MiniCPM-OCR-1.0

▼ 魔搭社区

https://modelscope.cn/models/FlagRelease/MiniCPM-OCR-1.0-BF16-mthreads-FlagOS

▼ Hugging Face

https://huggingface.co/FlagRelease/MiniCPM-OCR-1.0-BF16-mthreads-FlagOS


MiniCPM-OCR-Jev

▼ 魔搭社区

https://modelscope.cn/models/FlagRelease/MiniCPM-OCR-Jev-BF16-mthreads-FlagOS

▼ Hugging Face

https://huggingface.co/FlagRelease/MiniCPM-OCR-Jev-BF16-mthreads-FlagOS