MiniCPM 4.1是什么

MiniCPM 4.1 是面壁智能推出的混合思考模型。采用 InfLLM v2 稀疏注意力架构，每个词元仅需计算与少于 5% 词元的相关性，显著降低长文本处理开销。在 128K 长文本场景下，相比传统模型大幅减少缓存存储空间。MiniCPM 4.1 支持高效双频换挡机制，根据任务类型自动切换注意力模式，平衡计算效率与输出精度。在多个评测基准上取得同尺寸模型第一的成绩，综合能力达到同级最优水平。MiniCPM 4.1 提供了多种部署格式，如 GPTQ、AutoAWQ 等，方便在不同端侧设备上高效部署。

MiniCPM 4.1的主要功能

• 高效稀疏架构：采用 InfLLM v2 稀疏注意力架构，每个词元仅需计算与少于 5% 词元的相关性，在 128K 长文本场景下，相比传统模型大幅减少缓存存储空间，显著降低长文本处理开销。
• 双频换挡机制：根据任务类型自动切换注意力模式，长文本用稀疏，短文本用稠密，平衡计算效率与输出精度。
• 卓越综合性能：在多个评测基准上取得同尺寸模型第一的成绩，综合能力达到同级最优水平，在知识、推理、编程、指令遵循等方面表现出色。
• 端侧友好：在 LiveCodeBench、AIME 等测试中，推理速度比同尺寸开源模型快 3 倍以上。在 128K 长文本场景下，仅需 25% 的缓存存储空间，让端侧算力不再有压力。
• 多种部署格式：提供多种部署格式，如 GPTQ、AutoAWQ 等，方便在不同端侧设备上高效部署。

MiniCPM 4.1的技术原理

• 稀疏注意力机制：MiniCPM 4.1 采用 InfLLM v2 稀疏注意力架构，每个词元仅需计算与少于 5% 词元的相关性，大幅降低长文本处理的计算复杂度和内存开销。
• 双频换挡机制：根据任务特征自动切换注意力模式，长文本任务启用稀疏注意力以降低计算复杂度，短文本任务切换至稠密注意力以确保精度与速度。
• 高效推理框架：自研 CPM.cu 推理框架，集成稀疏注意力、模型量化和投机采样等技术，实现高效的预填充和解码，提升端侧推理效率。
• 长文本处理优化：通过分块分区域处理文本，智能化选择重点区域进行注意力计算，大幅减少长文本处理的计算量，支持 128K 甚至更长的文本处理。
• 数据与训练优化：采用高质量的预训练数据集和监督微调数据集，结合高效的训练算法，如 BitCPM 极致三元量化技术，实现模型参数的极致压缩，提升训练效率和模型性能。

MiniCPM 4.1的项目地址

• Github仓库：https://github.com/openbmb/minicpm
• HuggingFace模型库：https://huggingface.co/openbmb/MiniCPM4.1-8B

MiniCPM 4.1的应用场景

• 端侧设备应用：MiniCPM 4.1 专为端侧设备设计，适用于智能手机、平板电脑、智能音箱等设备，能在设备本地高效运行，保护用户隐私，减少对云端计算的依赖。
• 长文本处理：稀疏注意力机制和长文本优化能高效处理长文本任务，如长篇文档生成、故事创作、技术文档编写等，适用于需要处理大量上下文信息的场景。
• 知识问答与教育：凭借强大的知识理解和推理能力，可用于知识问答系统、智能辅导工具等教育领域应用，帮助用户快速获取准确信息，辅助学习和研究。
• 编程辅助：在代码生成、代码补全、编程问题解答等方面表现出色，可作为开发人员的编程助手，提高编程效率和质量。
• 内容创作：能协助用户进行创意写作、文案撰写、新闻报道等各类内容创作任务，提供灵感和写作支持。