苹果之前 端侧ChatGPT时刻！这家清华系大模型公司赶在OpenAI (苹果的前端)
下周苹果即将召开发布会了！
但最令笔者期待的不是 iphone16，而是苹果今年提出的 Apple Intelligence 的进展，这是苹果今年进军端侧 AI 的一大杀手锏。
其实早在今年年初，国内就有一家当时还名不见经传的大模型公司率先喊出 “端侧AI是未来大趋势”的口号，当时还没有太多玩家意识到端侧AI的重要性。仅仅半年后，谷歌、苹果等巨头就纷纷掉头转向，开始大模型反卷小型化，就连 OpenAI 也一反“大力出奇迹”的常态，不得不顺应端侧AI大趋势，推出的更小、更便宜、更高效的 GPT-4o mini。
可以说，端侧AI 已然成为了大模型必争之地！
然而就在苹果发布会一周前这个时间点，同样是这家国内大模型公司，率先把「 ChatGPT 」跑在了端侧！宣告了端侧 ChatGPT 时刻的到来！而且还在赶在OpenAI、谷歌、苹果等巨头之前。
没错，这家公司就是面壁智能，今天刚刚发布了新一代基座模型面壁小钢炮 MiniCPM 3.0 ，再次以小博大，以 4B 参数，带来超越 GPT-3.5 的性能，强得不像端侧模型。
这还是一款瑞士军刀般全面开挂的基座模型，一口气带来：
无限长文本，榜单性能超越 Kimi，超长文本也不崩；
性能比肩 GPT-4o 的端侧最强 Function Calling；
超强 RAG 外挂三件套，中文检索第一、生成超 Llama3-8B。
➤ MiniCPM 3.0 开源地址：
GitHub：
HuggingFace：
1.让 「GPT-3.5 」在端侧跑起来，面壁提前兑现承诺
今年年初，面壁在初代面壁小钢炮发布时立下 Flag：今年内让 GPT-3.5 水平的模型在端侧跑起来！
没想到，面壁智能总是能给人惊喜，他们提前兑现了承诺，提前近 4 个月将其实现！
MiniCPM 3.0 再次挖掘端侧模型的极致性能，仅 4B 参数，在包括自然语言理解、知识、代码、数学等多项能力上对 GPT-3.5 实现赶超，在 Qwen2-7B、 Phi-3.5、GLM4-9B、LLaMa3-8B 等一众中外知名模型脱颖而出。
2.大模型科学化方法论指导，面壁定律再落一子
为何每一代面壁小钢炮基座模型的发布，都以小博大，拥有超预期的高效与强悍？
背后原因，AI科技评论早在半年前就曾深入挖掘并报道：被低估的面壁：打造出不输 OpenAI 的 Scaling Law 曲线
面壁紧紧围绕 Scaling Law 的核心，高效构建了大模型的科学化方法论，将提升知识密度视为高效大模型的第一性原理（知识密度 =模型能力/参与计算的模型参数），并且提出了大模型时代的「摩尔定律」：模型知识密度不断提升，平均每 8 个月提升一倍，称之为「面壁定律」。
这一年来，面壁在自家的大模型科学化方法论指导下，历经数次调整，构建了全新技术架构，于面壁定律的趋势曲线再落一子。
不止是基座模型，面壁的多模态模型同样优秀的不像是款端侧模型！
他们一个月前发布的 MiniCPM-V 2.6，首次在端侧实现单图、多图、视频理解等多模态核心能力全面超越GPT-4V，三项能力均取得 20B 以下 SOTA 成绩，单图理解越级比肩 Gemini 1.5 Pro 和 GPT-4o mini。
总结来说：
基座模型方面：面壁率先让 「GPT-3.5 」在端侧跑起来；
多模态模型方面：面壁同样率先让「GPT-4V」跑在手机上！
下面详细介绍一下面壁新一代性能超越 GPT-3.5的 面壁小钢炮 MiniCPM 3.0。
3.顶尖实力大集结，大模型中的“瑞士军刀”
新一代小钢炮集长文本、Function Call 与 RAG 等大模型重要能力于一身，小而强，小而全。仅4B体量，在这些呼声极高的模型功能上，MiniCPM 3.0 集结各家所长，并且对业界颇有口碑的模型实现超越，堪称是大模型中的“瑞士军刀”。
面壁「无限」长文本，性能超 Kimi：长长长文本不崩！
上下文长度是衡量大模型基础能力的一项重要指标，更长的上下文长度意味大模型拥有更大的“内存”和更长的“记忆”，不仅能提高大模型处理数据的能力上限，还能拓宽大模型应用的广度和深度。
面壁提出 LLMxMapReduce长本文分帧处理技术 ，一举实现「无限」长文本！32, 128, 256, 512K…MiniCPM 3.0 打破大模型记忆限制，可以将上下文长度无限稳定拓展，想多长就多长！
除了超越 GPT-4、KimiChat 等标杆模型的优异表现（ InfiniteBench 榜单成绩）；更神奇的是，文本越长，这个4B小钢炮凭借愈加稳定的表现，展现出的性能优势越强。
InfiniteBench大模型长文本能力的权威评测集检索、数学、代码、问答和摘要等多维度能力评估
① MiniCPM 3.0 表现超越 GPT-4、KimiChat、Qwen2-70B；
② 千亿模型 Qwen2-70B、Llama3-70b 结合LLMxMapReduce也取得更佳表现。
InfiniteBench Zh.QA 评测结果显示，4B参数的面壁小钢炮整体性能优于Kimi，在更长的文本上表现出相较更强的稳定性。
LLMxMapReduce 技术框架图
拥有无限上下文， 可以让模型一次性读取不限字数的书籍或不限量的学术论文、简历等材料，成为你身边更加强大的终端个人助手。模型还可以读取你的大众点评美食、酒店评价、微博互动内容，并牢牢记住你和AI 跨越多年的聊天记录，成为最懂你的AI陪伴者。
GPT-4o 级 Function calling ，终端Agent应用蓄势待发
智能体应用是端侧AI 必争之地，其中一项至关重要的技术是 Function Calling（函数调用），它能够将用户模糊化的输入语义转换为机器可以精确理解执行的结构化指令，并让大模型连接外部工具和系统，例如通过语音在手机上调用日历、天气、邮件、浏览器等 APP 或相册、文件等本地数据库，从而打开终端设备 Agent 应用的无限可能，也让人机交互更加自然和方便。
MiniCPM 3.0 拥有端侧最强 Function calling 性能 ，在权威评测榜单 Berkeley Function-Calling Leaderboard 上，其性能接近 GPT-4o，并超越 Llama 3.1-8B、Qwen-2-7B、GLM-4-9B 等众多模型。
RAG 外挂三件套，中文检索第一，生成超 Llama3-8B
端侧模型也能开外挂，RAG（检索增强生成技术）让模型引用外部知识库，检索到最新、最可靠的专业知识，确保生成内容更加可信，大大减少大模型的幻觉问题。大模型+RAG 在行业中极其实用，尤其是对法律、医疗等依赖专业知识库、对大模型幻觉容忍度极低的垂直行业。
我们一口气带来超强 RAG 外挂三件套：MiniCPM-Embedding（检索模型）、MiniCPM-Reranker（重排序模型）和面向 RAG 场景的 LoRA 插件（生成模型），款款优秀：
MiniCPM-Embedding（检索模型）中英跨语言检索取得 SOTA 性能，在评估模型文本嵌入能力的权威评测集 MTEB 的检索榜单上中文第一、英文第十三 ；
MiniCPM-Reranker（重排序模型）在中文、英文、中英跨语言测试上取得 SOTA 性能 ；
经过针对 RAG 场景的 LoRA 训练后，MiniCPM 3.0-RAG-LoRA 在开放域问答（NQ、TQA、MARCO）、多跳问答（HotpotQA）、对话（WoW）、事实核查（FEVER）和信息填充（T-REx）等多项任务上的性能表现，超越 Llama3-8B 和 Baichuan2-13B 等业内优秀模型。
4.安全，可靠，皮实，端侧大模型就看面壁小钢炮
轻、快、高效低成本，更友好的端侧体验，是面壁小钢炮系列一以贯之的优点。MiniCPM 3.0 量化后仅 2.2 G 内存，端侧应用十分友好。
相比云端模型，面壁小钢炮 MiniCPM 系列模型有一颗陪你行走世界的大心脏，天然具有弱网、断网可用、超低时延、数据隐私安全等本地优势。无论是陪你闯荡精彩远方、勇敢探索，还是将眼前的琐碎默默打理与守护，MiniCPM都是值得信任的大模型好朋友。
最后，笔者还想聊一下观察到的面壁智能端侧AI的下一步。
5.面壁小钢炮+机器人，开启具身智能无限可能
大模型与机器人融合的 “具身智能”，是未来十年最令人期待的科技突破之一！
最近，面壁小钢炮 MiniCPM 端侧模型在这方面迈出了关键一步。
一是联手加速进化机器人，打造出完整“具身智能”的先驱方案，业界首个高效端侧模型运行在人形机器人的展示，理解、推理、并与物理世界互动的智能系统，这激动人心的未来场景，已拉开帷幕！
二是联手大象机器人。前些天 MiniCPM 端侧模型将植入大象机器人旗下仿真陪伴宠物机器人 metaCat 米塔猫，高效端侧模型能够显著提升仿真机器宠物“类生命体”的智能交互体验：不依赖网络，不需要复杂的硬件改造，以更自由更自然的交互，让机器萌宠触发声、光、电、动作响应，仿真感更强，情感陪伴更加逼真。
面壁小钢炮 MiniCPM 端侧模型之前在 PC、平板、手机已有实际运行，最近面壁智能与加速进化机器人和大象机器人的合作，让笔者看到了面壁智能从端侧AI+机器人方向切入具身智能的无限可能。触角也伸入智能座舱，面壁联合MTK，为梧桐科技提供了MiniCPM车载多模态大模型，实现舱驾协控相关的功能控制，包括知识查询和人-车-环境感知融合的多模态增强理解模块，成为梧桐科技A I座舱芯算一体的端侧大模型重要合作伙伴！
未来大模型+机器人演化出终极形态，端侧智能无处不在，面壁智能天地广阔。
版权文章，未经授权禁止转载。详情见 转载须知 。
本文地址： /article/58e006034d573bc65133.html
国内知名品牌知音漫客官网，飒漫画杂志授权网络阅读平台，创办十余年，凝聚大批漫画家和粉丝，拥有斗破苍穹漫画、风起苍岚、寻找前世之旅、血族禁域、哑舍漫画、龙族漫画等海量优秀漫画。免费、快速、正版、高清、无广告！看国漫请认准知音漫客网
DBF留学求职咨询公司提供全方位的大学申请和求职规划服务，为马来西亚学生申请理想大学，规划完美职业道路。我们的资深顾问来自世界名校和顶尖企业，为你提供个性化的专业指导。
合肥震岳工业设备科技有限公司专业生产自动化生产线及工作台、仓储设备400-0551-023
苏州穿山甲机器人股份有限公司成立于2006年，是一家专注于AI服务机器人研发、生产与销售的高新技术企业，拥有200多项自主专利知识产权，掌握机器人底盘、算法、深度学习等核心技术，是《送餐服务机器人国家标准》（GBT37395-2019)主要制定者之一，是国家级专精特新小巨人企业。公司主要产品有：迎宾机器人、末端配送机器人两大系列。
易加油是专注油站+互联网能源消费领域的科技公司，是营运车及高频私家车的首选加油服务平台供应商，是中国移动互联网能源消费领域拥有最强影响力的品牌。
湖南跨线桥航天科技有限公司是一家集设计、研发、生产、销售为一体的高新技术企业，经过多年积累，在卫星导航信号模拟、高动态高精度卫星导航产品测试、阵列抗干扰产品测试、高动态定位等方面具备核心技术优势。
德州网站建设选择诺来网络专注德州网站建设公司，专业从事网站建设、网站制作及网站维护,网站运营,网站外包,网站托管,网站推广,PC+手机+APP+微信建站推广一步到位,实现企业品牌/产品多终端展示,7年专业经验,上1000客户案例,欢迎咨询18654757623！
中豫强夯基础工程公司咨询热线：15039025678，公司全国承接，1000KNm—25000KNM强夯施工，强夯置换施工，sddc施工，灰土挤密桩施工，灌注桩施工，CFG施工。
淀粉设备生产厂家金瑞公司提供大中小型全自动红薯,木薯,土豆淀粉生产线设备,淀粉生产单机配套设备,淀粉厂加工工艺设计,全自动淀粉加工设备出厂价格直销13526615783
山东金诚新能源有限公司创建于2018年，是一家集暖通空调、冷库、热水、烘干、新风、净水、净化系统及余热利用系统设计、销售、安装、维修服务为一体综合服务商
今日人民币对美元汇率,欧元汇率,日元汇率等最新外汇汇率查询_汇率网,阿玮网络科技有限公司汇率网提供最新、最准确的实时汇率查询服务，支持多种货币之间的外汇兑换计算。您可以轻松获取美元、欧元、人民币等主要货币的即时汇率信息，并查看详细的汇率走势图和外汇牌价。
大娱网是演艺娱乐资讯的第一门户网，娱乐潮流的聚集地。专注于演艺娱乐，集娱乐潮流资讯、互动社区和娱乐产品为一体的大型娱乐综合门户网站！生活需要娱乐，娱乐源于生活，贴近生活，服务大众！
相信很多人对于迷宫的态度和小编一样，是那种又爱又恨的游戏，一方面想通过游戏来锻炼自己的思维，另一方面被游戏中复杂的道路和挑战难住，今天一起看充满趣味的儿童迷宫游戏，这些游戏不但孩子可以玩，大人也可以通过这些游戏找到成就感，因为游戏非常的简单，玩家在游戏中只要动脑思考就一定能找到通往成功的道路，家长可以和孩子一起玩儿这些游戏，进行趣味的...。
No.2技术，规模化提升每一个环节的效能，我们的品牌叫巨量引擎，巨量是技术驱动的规模化，规模化的用户、规模化地提升每一个环节的效能、规模化地创造价值，引擎则是增长的发动机，我也希望引擎大会是这个发动机的涡轮增加器，为明年，为以后的每一年，开足火力，刘思齐在开场的演讲中，点明了2020年巨量引擎核心驱动力——技术，他围绕，技术，创...。
蛋糕是一种古老的西点，一般是由烤箱制作的，蛋糕是用鸡蛋、白糖、小麦粉为主要原料，以牛奶、果汁、奶粉、香粉、色拉油、水，起酥油、泡打粉为辅料，经过搅拌、调制、烘烤后制成一种像海绵的点心，蛋糕是一种面食，通常是甜的，典型的蛋糕是以烤的方式制作出来，蛋糕的材料主要包括了面粉、甜味剂，通常是蔗糖，、黏合剂，一般是鸡蛋，素食主义者可用面筋和淀粉...。
有人问谷歌的约翰·穆勒，JohnMueller，，为什么他们的网站成功运营了7年，却失去了关键字排名，Mueller回答了网站失去排名的四个原因，假设这是网站排名下降的全面清单，那将是一个错误，最好是在即席问答中在给出信息的上下文中理解它们，他的解释只是一般性概述，不一定是原因的完整清单，就是说，答案提供了有关网站为何可能失去排名的真...。
文字链接认证代码普通联盟标志认证代码企业广告联盟标志认证代码广告联盟评测代码说明，本页面的认证代码为华夏广告联盟专用评测代码，站长需懂简单html知识，直接复制代码粘贴到联盟网站相应页面即可使用，本代码不适用于其他广告联盟网站请勿获取！文字认证，文字链接代码认证适用所有类型的广告联盟，复制代码后放在华夏广告联盟网站首页底部或友情链接位...。
据央视资讯客户端信息，第十五届中国国际航空航天博览会当天在广东珠海揭幕，将继续到17日，从当天起，航展每天布置约4个小时的航行扮演，航展首日，空军，八一，航行扮演队率先出场，六架歼，10C飞机冲入地际，经常使用红、黄、蓝三色启动拉烟，扮演队一系列编队举措划一划一，演出六机横滚、双机对飞、大半径横滚等特技举措，了解，八一，航行扮演队这是...。
宝马5系li是一款奢侈汽车，其中的，L，指的是延长型号，即长轴距为3130mm左右，而，i，则代表宝马的发起机技术，即电喷技术，这是宝马在80年代就领有的先进技术，宝马不时因循了这个传统，就像宝马的双肾型型栅栏，宝马是享誉环球的奢侈汽车品牌，领有多个系列，包含1、2、3、4、5、6、7、i、X、Z等，还有在各系基础上启动改良的M系，宝...。
电脑装置和下载FlashPlayer的详细步骤如下，1.关上你的互联网阅读器，例如谷歌阅读器、火狐阅读器或许微软边缘阅读器等，2.在搜查栏中输入，AdobeFlashPlayer下载，或许间接访问Adobe官网网站，3.在Adobe官网网站上，你会看到一个下载页面，确保你正在访问官网网站，以确保你下载到的是最新版本的FlashPl...。
姓名与人生五格数理篇一，姓名五格数理，81数吉凶表数理的灵动性关于所有有称号、称呼的万事万物均有其诱导、暗示力，［］1，81数理之运势实用于五格中的任一格，但重要检查人格、地格、外格和总格，公司称号剖析，重要看公司简称和全称总格，即公司称号各字笔画数加在一同，假设超越81，则减去80看余数；看81数详细含意第18数暗表示义为，铁镜重...。
射手座的男人是什么性情星座区间11月23日，12月1日你待人宽厚，思维和执行相对的独立，你的所有对他人有很大影响，你有翻新精气，但执行yǒu时过激和不太适宜，你总是容易做出激动的选择，这一日期出世的人，或许有两种开展趋势，一是成为成功的探险家或旅行家，你会用自己的英勇和对自在的热爱去打败险阻，同时始终经过游览来拓展自己的视线，另外一种...。
属蛇女做什么行业更好属蛇女做什么生意更好一属蛇人做哪种生意最旺古装店只管如今古装行业竞争强烈，服装店亘古未有，然而利润还是比拟高的假构想要经常有人光临，那么对服装的，生肖属蛇的人是比拟独立的一类人，他们是有很强的判别才干的人，然而在选用守业生意这块，还是缺了那么点见地，所以在守业方向上是会觉失掉迷茫的，毕竟守业也是一件，89年属蛇适宜...。
09款奥迪a6l中控关键性能有哪些，09款奥迪a6l中控关键性能包含驾驶形式选用、ESP、风险警报灯、音量调理按键、驻车雷达，影像、驾驶辅佐系统和智能驻车，驾驶形式选用，共有经济、温馨、智能、灵活四种预设形式选用，车主还可以依据须要启动共性化驾驶形式设定，车身电子稳固系统，ESP，默以为关上形态，普通状况下不倡导车主手动封锁，在极限...。
同花顺mac股票软件是市场上行情交易最快、数据最全、性能最优、最受股民欢迎的免费mac股票软件，是同花顺特意为mac系统用户打造的一款新型mac股票行情软件;您可以免费下载。
独家视频丨习近平：以高质量发展为全球提供更多更好的中国服务,习近平,密集型
重庆分类目录网站收录程序编程相关的优秀网站大全分类检索，为上网用户提供程序编程网站排行榜与您分享、收藏！
前面几篇文章介绍了特征归一化和张量，接下来开始写两篇PyTorch简明教程，主要介绍PyTorch简单实践。1、四则运算importtorcha=torch.tensor([2,3,4])b=torch.tensor([3,4,5])print(
EaseUSFixo是一款多合一文件修复工具，一款一站式解决方案，可帮助您修复受损的视频、照片和文件，无论损坏程度如何，都能有效修复。
