
MiniCPM-V 是一系列面向端侧设备的多模态大语言模型平台,采用 Apache 2.0 许可,当前版本 4.6.0。它以 13 亿参数实现高效图像与视频理解,可部署在手机等移动端,兼顾性能与部署效率。
一、项目简介
MiniCPM-V 由 OpenBMB 团队维护,聚焦视觉语言理解,支持图像、视频与文本输入。MiniCPM-o 系列进一步扩展到实时多模态交互。仓库地址 https://github.com/OpenBMB/MiniCPM-V 。
二、项目功能
1. 高效图像理解
以 13 亿参数在图像任务上超越更大模型,视觉编码计算成本降低一半以上。
2. 视频与音频理解
支持视频理解,MiniCPM-o 4.5 支持实时端到端多模态交互,可边看边听边说。
3. 多端部署
可部署在 iOS、Android、HarmonyOS 等移动平台,已接入 Ollama 官方模型库。
三、项目亮点
MiniCPM-V 在端侧做到高效多模态,以轻量参数换取高性价比。对想在手机上跑多模态应用的开发者较合适。
对比大参数模型
对比 MiniCPM-V 和 Gemma4-E2B 等更大模型,差异在效率。前者以 13 亿参数达到接近性能但吞吐更高、资源占用更低。
| 对比项 | MiniCPM-V 4.6 | Gemma4-E2B |
|---|---|---|
| 参数 | 1.3B | 更大 |
| 端侧部署 | 支持 | 受限 |
| 吞吐 | 约1.5x | 基准 |
四、项目结构
项目含模型权重、推理示例、微调脚本与多平台部署代码,提供 vLLM、llama.cpp 等推理方式说明,并附 Cookbook 教程。
五、技术栈
- 核心 PyTorch 模型
- 支持 vLLM、llama.cpp、Ollama
- 端侧适配 iOS、Android、HarmonyOS
- 许可 Apache 2.0
项目由 OpenBMB 团队维护,最后更新 2026 年,版本持续迭代到 4.6.0,更新记录见 GitHub News 与提交历史。仓库地址 https://github.com/OpenBMB/MiniCPM-V 。
六、本地快速部署启动
方式一 用 Ollama
在本地 Ollama 中拉取 minicpm-v4.6 模型即可使用,适合快速体验。
方式二 用 vLLM 推理
通过 vLLM 加载模型权重进行服务化推理,适合批量处理与集成。
方式三 端侧部署
参照 MiniCPM-V-Apps 的端上 Demo,在 iOS、Android 或 HarmonyOS 运行。
适用场景与建议
适用场景方面,它适合在手机或边缘设备做多模态理解,也适合需要低成本处理图像视频的应用。建议先用 Ollama 体验再决定部署方式。端侧部署需注意内存占用,模型量化版本可进一步降低资源。
国内加速与备份
国内访问较慢时可用 ghfast.top 等镜像加速前缀,更详细的部署说明可扫码获取本站备份(sha256 13281a05d6e2ca891f1f0ac7cd6540ecc1b0647593b7733d7e7428d79d58b11e)。备份包版本 v4.6。
七、项目代码地址
项目代码地址 https://github.com/OpenBMB/MiniCPM-V 。
常见问题
问. MiniCPM-V 是做什么的
它是一系列面向手机端的多模态模型,支持图像与视频理解。
问. 怎么快速使用
用 Ollama 拉取模型,或通过 vLLM 做服务端推理。
问. 和更大模型有什么区别
对比大参数模型,MiniCPM-V 以更轻量达到类似性能,端侧部署更友好。
问. 是否开源免费
项目以 Apache 2.0 协议开源,模型与代码可免费使用。