下周苹果即将召开发布会了！端侧
但最令笔者期待的清华前不是 iphone16，而是模型苹果今年提出的 apple intelligence 的进展，这是公司赶o果苹果今年进军端侧 ai 的一大杀手锏。
其实早在今年年初，端侧国内就有一家当时还名不见经传的清华前大模型公司率先喊出 “端侧ai是未来大趋势”的口号，当时还没有太多玩家意识到端侧ai的模型关键性。仅仅半年后，公司赶o果谷歌、端侧苹果等巨头就纷纷掉头转向，清华前开始大模型反卷小型化，模型就连 openai 也一反“大力出奇迹”的公司赶o果常态，不得不顺应端侧ai大趋势，端侧推出的清华前更小、更便宜、模型更高效的 gpt-4o mini。
可以说，端侧ai 已然成为了大模型必争之地！
然而就在苹果发布会一周前这个时间点，同样是这家国内大模型公司，率先把「 chatgpt 」跑在了端侧！宣告了端侧 chatgpt 时刻的到来！而且还在赶在openai、谷歌、苹果等巨头之前。
没错，这家公司就是面壁智能，今天刚刚发布了新一代基座模型面壁小钢炮 minicpm 3.0 ，再次以小博大，以 4b 参数，带来超越 gpt-3.5 的性能，强得不像端侧模型。
这还是一款瑞士军刀般全面开挂的基座模型，一口气带来：
无限长文本，榜单性能超越 kimi，超长文本也不崩；
性能比肩 gpt-4o 的端侧最强 function calling；
超强 rag 外挂三件套，中文检索第一、生成超 llama3-8b。
➤ minicpm 3.0 开源地址：
github：https://github.com/openbmb/minicpm
huggingface：https://huggingface.co/openbmb/minicpm3-4b
1.让 「gpt-3.5 」在端侧跑起来，面壁提前兑现承诺
今年年初，面壁在初代面壁小钢炮发布时立下 flag：今年内让 gpt-3.5 水平的模型在端侧跑起来！
没想到，面壁智能总是能给人惊喜，他们提前兑现了承诺，提前近 4 个月将其实现！
minicpm 3.0 再次挖掘端侧模型的极致性能，仅 4b 参数，在包括自然语言理解、知识、代码、数学等多项能力上对 gpt-3.5 实现赶超，在 qwen2-7b、 phi-3.5、glm4-9b、llama3-8b 等一众中外知名模型脱颖而出。
2.大模型科学化方法论指导，面壁定律再落一子
为何每一代面壁小钢炮基座模型的发布，都以小博大，拥有超预期的高效与强悍？
背后原因，ai科技评论早在半年前就曾深入挖掘并报道：被低估的面壁：打造出不输 openai 的 scaling law 曲线
面壁紧紧围绕 scaling law 的核心，高效构建了大模型的科学化方法论，将提升知识密度视为高效大模型的第一性原理（知识密度 =模型能力/参与计算的模型参数），并且提出了大模型时代的「摩尔定律」：模型知识密度不断提升，平均每 8 个月提升一倍，称之为「面壁定律」。
这一年来，面壁在自家的大模型科学化方法论指导下，历经数次调整，构建了全新工艺架构，于面壁定律的趋势曲线再落一子。
不止是基座模型，面壁的多模态模型同样优秀的不像是款端侧模型！
他们一个月前发布的 minicpm-v 2.6，首次在端侧实现单图、多图、影片理解等多模态核心能力全面超越gpt-4v，三项能力均取得 20b 以下 sota 成绩，单图理解越级比肩 gemini 1.5 pro 和 gpt-4o mini。
总结来说：
基座模型方面：面壁率先让 「gpt-3.5 」在端侧跑起来；
多模态模型方面：面壁同样率先让「gpt-4v」跑在手机上！
下面详细介绍一下面壁新一代性能超越 gpt-3.5的 面壁小钢炮 minicpm 3.0。
3.顶尖实力大集结，大模型中的“瑞士军刀”
新一代小钢炮集长文本、function call 与 rag 等大模型关键能力于一身，小而强，小而全。仅4b体量，在这些呼声极高的模型功能上，minicpm 3.0 集结各家所长，并且对业界颇有口碑的模型实现超越，堪称是大模型中的“瑞士军刀”。
面壁「无限」长文本，性能超 kimi：长长长文本不崩！
上下文长度是衡量大模型基础能力的一项关键指标，更长的上下文长度意味大模型拥有更大的“内存”和更长的“记忆”，不仅能提高大模型处理信息的能力上限，还能拓宽大模型应用的广度和深度。
面壁提出 llmxmapreduce长本文分帧处理工艺 ，一举实现「无限」长文本！32, 128, 256, 512k…minicpm 3.0 打破大模型记忆限制，可以将上下文长度无限稳定拓展，想多长就多长！
除了超越 gpt-4、kimichat 等标杆模型的优异表现（ infinitebench 榜单成绩）；更神奇的是，文本越长，这个4b小钢炮凭借愈加稳定的表现，展现出的性能优势越强。
infinitebench大模型长文本能力的权威评测集 检索、数学、代码、问答和摘要等多维度能力评估
① minicpm 3.0 表现超越 gpt-4、kimichat、qwen2-70b；
② 千亿模型 qwen2-70b、llama3-70b 结合llmxmapreduce也取得更佳表现。
infinitebench zh.qa 评测结果显示，4b参数的面壁小钢炮整体性能优于kimi，在更长的文本上表现出相较更强的稳定性。
llmxmapreduce 工艺框架图
拥有无限上下文， 可以让模型一次性读取不限字数的书籍或不限量的学术论文、简历等材料，成为你身边更加强大的终端个人助手。模型还可以读取你的大众点评美食、酒店评价、微博互动内容，并牢牢记住你和ai 跨越多年的聊天记录，成为最懂你的ai陪伴者。
gpt-4o 级 function calling ，终端agent应用蓄势待发
智能体应用是端侧ai 必争之地，其中一项至关关键的工艺是 function calling（函数调用），它能够将客户模糊化的输入语义转换为机器可以精确理解执行的结构化指令，并让大模型连接外部工具和系统，例如通过语音在手机上调用日历、天气、邮件、浏览器等 app 或相册、文件等本地信息库，从而打开终端设备 agent 应用的无限可能，也让人机交互更加自然和方便。
minicpm 3.0 拥有端侧最强 function calling 性能 ，在权威评测榜单 berkeley function-calling leaderboard 上，其性能接近 gpt-4o，并超越 llama 3.1-8b、qwen-2-7b、glm-4-9b 等众多模型。
rag 外挂三件套，中文检索第一，生成超 llama3-8b
端侧模型也能开外挂，rag（检索增强生成工艺）让模型引用外部知识库，检索到最新、最可靠的专业知识，确保生成内容更加可信，大大减少大模型的幻觉问题。大模型 rag 在行业中极其实用，尤其是对法律、医疗等依赖专业知识库、对大模型幻觉容忍度极低的垂直行业。
我们一口气带来超强 rag 外挂三件套：minicpm-embedding（检索模型）、minicpm-reranker（重排序模型）和面向 rag 场景的 lora 插件（生成模型），款款优秀：
minicpm-embedding（检索模型）中英跨语言检索取得 sota 性能，在评估模型文本嵌入能力的权威评测集 mteb 的检索榜单上中文第一、英文第十三 ；
minicpm-reranker（重排序模型）在中文、英文、中英跨语言测试上取得 sota 性能 ；
经过针对 rag 场景的 lora 训练后，minicpm 3.0-rag-lora 在开放域问答（nq、tqa、marco）、多跳问答（hotpotqa）、对话（wow）、事实核查（fever）和信息填充（t-rex）等多项任务上的性能表现，超越 llama3-8b 和 baichuan2-13b 等业内优秀模型。
4.保障，可靠，皮实，端侧大模型就看面壁小钢炮
轻、快、高效低成本，更友好的端侧体验，是面壁小钢炮系列一以贯之的优点。minicpm 3.0 量化后仅 2.2 g 内存，端侧应用十分友好。
相比云端模型，面壁小钢炮 minicpm 系列模型有一颗陪你行走世界的大心脏，天然具有弱网、断网可用、超低时延、信息隐私保障等本地优势。无论是陪你闯荡精彩远方、勇敢探索，还是将眼前的琐碎默默打理与守护，minicpm都是值得信任的大模型好朋友。
最后，笔者还想聊一下观察到的面壁智能端侧ai的下一步。
5.面壁小钢炮 机器人，开启具身智能无限可能
大模型与机器人融合的 “具身智能”，是未来十年最令人期待的科技突破之一！
最近，面壁小钢炮 minicpm 端侧模型在这方面迈出了关键一步。
一是联手加速进化机器人，打造出完整“具身智能”的先驱方案，业界首个高效端侧模型运行在人形机器人的演示，理解、推理、并与物理世界互动的智能系统，这激动人心的未来场景，已拉开帷幕！
二是联手大象机器人。前些天 minicpm 端侧模型将植入大象机器人旗下仿真陪伴宠物机器人 metacat 米塔猫，高效端侧模型能够显著提升仿真机器宠物“类生命体”的智能交互体验：不依赖网络，不需要复杂的硬件改造，以更自由更自然的交互，让机器萌宠触发声、光、电、动作响应，仿真感更强，情感陪伴更加逼真。
面壁小钢炮 minicpm 端侧模型之前在 pc、平板、手机已有实际运行，最近面壁智能与加速进化机器人和大象机器人的合作，让笔者看到了面壁智能从端侧ai 机器人方向切入具身智能的无限可能。触角也伸入智能座舱，面壁联合mtk，为梧桐科技提供了minicpm车载多模态大模型，实现舱驾协控相关的功能控制，包括知识查询和人-车-环境感知融合的多模态增强理解模块，成为梧桐科技a i座舱芯算一体的端侧大模型关键757399.com澳门的合作伙伴！
未来大模型 机器人演化出终极形态，端侧智能无处不在，面壁智能天地广阔。
雷峰网(公众号：雷峰网)
雷峰网757399.com澳门的版权文章，未经授权禁止转载。详情见转载须知。
