面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,仅 3GB 内存可实现 13+ token/s 解码速度

SEO咨询

面壁智能于10月13日对外发布新一代端侧多模态大模型MiniCPM-V 4.7,该模型提供35B-A3B和1B两种规格,其中35B-A3B是MiniCPM-V系列中首个采用MoE架构的模型。

官方资料显示,该模型依托最新的LES(前瞻专家调度)推理加速技术,其35B-A3B版本成为首个能够在端侧无损流畅运行的开源MoE模型,在iPhone 17 Pro Max上仅需3GB内存即可实现13+ token/s的解码速度。

据了解,MiniCPM-V 4.7兼容iOS、安卓和鸿蒙系统,并适配Intel、AMD、Arm、瑞芯微、后摩等多个芯片平台,从而覆盖更广泛的移动设备与本地计算场景。同时,该模型开源了Self-Replay Fine-Tuning (SRFT)微调方案,帮助开发者以较低成本扩展模型能力并减少遗忘,便于进行二次开发。

此外,在Instruct模式下,该模型的35B-A3B版本以更短的推理时间获得了比Qwen3.6 35B-A3B更高的综合得分;1B版本相较于MiniCPM-V 4.6持续提升基础能力,并在综合得分和推理效率上均显著领先Qwen3.5 0.8B。若想了解更多细节,可访问爱游戏 (中国)官方网站-官方平台登录入口-AIYOUXI查阅相关参考信息。

参考:

  • MiniCPM-V/README_zh.md at main · OpenBMB/MiniCPM-V · GitHub
  • 客户 瑞贝卡
  • 作者 迈克尔·费德雷申,威廉·理查德森
  • 演示 www.company.com
  • 标签 设计 室内 艺术
  • 分享

相关案例