阿里云通义开源最强过程奖励PRM模型 7B尺寸比GPT (阿里云通义开源推理模型QVQ)

文章编号:52209 最新资讯 2025-02-01 阿里云 奖励模型 通义大模型

1月16日,阿里云通义开源全新的数学推理过程奖励模型Qwen2.5-Math-PRM,72B及7B尺寸模型性能均大幅超越同类开源过程奖励模型;在识别推理错误步骤能力上,Qwen2.5-Math-PRM以7B的小尺寸就超越了GPT-4o。同时,通义团队还开源首个步骤级的评估标准ProcessBench,填补了大模型推理过程错误评估的空白。

云通义开源最强过程奖励PRM模型,7B尺寸比GPT-4o更能发现推理错误

在当前大模型推理过程中,不时存在逻辑错误或编造看似合理的推理步骤,如何准确识破过程谬误并减少它,对增强大模型推理能力、提升推理可信度尤为关键。过程奖励模型(Process Reward Model, PRM)为解决这一问题提供了一种极有前景的新方法:PRM对推理过程中的每一步行为都进行评估及反馈,帮助模型更好学习和优化推理策略,最终提升大模型推理能力。

基于PRM的理念,通义团队提出了一种简单有效的过程奖励数据构造方法,将PRM模型常用的蒙特卡洛估计方法(MC estimation)与大模型判断(LLM-as-a-judge)创新融合,提供更可靠的推理过程反馈。通义团队基于Qwen2.5-Math-Instruct模型进行微调,从而得到72B及7B的Qwen2.5-Math-PRM模型,模型的数据利用率和评测性能表现均显著提高。

云通义开源最强过程奖励PRM模型,7B尺寸比GPT-4o更能发现推理错误

在包含GSM8K、MATH、Minerva Math等7个数学基准测试的Best-of-N评测中,Qwen2.5-Math-PRM-7B性能表现超越了同尺寸的开源PRMs;Qwen2.5-Math-PRM-72B的整体性能在评测中拔得头筹,优于同尺寸ORM(Outcome Reward Model)结果奖励模型Qwen2.5-Math-RM-72B。

同时,为更好衡量模型识别数学推理中错误步骤的能力,通义团队提出了全新的评估标准ProcessBench。该基准由3400个数学问题测试案例组成,其中还包含奥赛难度的题目,每个案例都有人类专家标注的逐步推理过程,可综合全面评估模型识别错误步骤能力。这一评估标准也已开源。

云通义开源最强过程奖励PRM模型,7B尺寸比GPT-4o更能发现推理错误

在ProcessBench上对错误步骤的识别能力的评估中,72B及7B尺寸的Qwen2.5-Math-PRM均显示出显著的优势,7B版本的PRM模型不但超越同尺寸开源PRM模型,甚至超越了闭源GPT-4o-0806。这印证了过程奖励模型PRM可有效提升推理可靠性,对未来推理过程监督技术的研发提供新思路。

版权文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/d23eb520361510651e80.html
全局中部横幅
全局中部横幅
中国知网

中国知网知识发现网络平台—面向海内外读者提供中国学术文献、外文文献、学位论文、报纸、会议、年鉴、工具书等各类资源统一检索、统一导航、在线阅读和下载服务。涵盖基础科学、文史哲、工程科技、社会科学、农业、经济与管理科学、医药卫生、信息科技等十大领域。

广发信用卡中心 - 广发银行

广发银行信用卡中心,提供在线免费办理申请广发信用卡业务,包括广发银行标准信用卡、联名信用卡、特色卡等多款信用卡供您选择,提供在线查询信用卡积分、额度、奖励等多项业务功能。想了解更多广发银行信用卡快速申请,办理信用卡活动、优惠等信息,首选广发银行信用卡中心官网。

济南超级计算技术研究院

济南超级计算技术研究院(以下简称“研究院”)是参照科技部《关于促进新型研发机构发展的指导意见》、《山东省新型研发机构管理暂行办法》等文件精神,在济南市人民政府的指导下,由山东省科学院和济南市历城区人民政府共同举办的“四不像”新型研发机构,是一家无主管部门,无行政级别,实行企业化管理、市场化运营的独立法人事业单位。

雪花机_小型刨冰机_五谷杂粮磨粉机品牌_制冰机_果蔬榨汁机_永康市天歌电器有限公司

永康市天歌电器有限公司创办于1998年,公司餐饮设备品种齐全、生产制造年产量高。公司主要生产制冰机、雪花机、冷饮机、榨汁机、刨冰机、碎冰机、咖啡机、烘熔机等十几种商用设备。联系电话:0086-579-87253303

政通企服-企业服务,就用政通企服

企业管家_站式综合服务平台,子贡资本_企业管家

苏州防爆电气检测-广告牌检测-探测器检测-无损检测-埋地管道检测-苏州恒安检测技术服务有限公司

苏州恒安主要从事防爆电气检测,无损检测,广告牌检测,探测器检测,埋地管道检测是一家专业的电气安全、电气防爆、气体报警器及广告牌检测的第三方机构,能够独立对外开展电气安全、电气防爆、气体报警器及广告牌检测,为社会提供公正的第三方检测服务。

南京云艺达工业设计公司 工业设计|产品设计|结构设计|健康医疗

南京工业设计公司,南京产品设计公司,擅长医疗产品设计,工业设备产品设计,外观设计和结构设计经验丰富,尤其在医疗设备设计方面具有独到的见解和大量成功经验,专注创新设计20年,多次荣获国内外设计大奖,对产品从设计到落地能做好完美的衔接

研大医学,医学考研辅导,医学考研集训营第一营,医学考研辅导班

国内第一家专注于医学考研辅导的全日制、封闭式集训营,十多年来一直专注于医学考研集训营。研大拥有隋准、刘不言、王强等业内最强的医学教学西综讲师团队。校长袁因达是北京大学毕业研究生,自己主抓教学和教研工作。

X宇宙web3.0联盟丨维度世界丨元宇宙开发应用平台

X宇宙web3.0联盟,由十一维度基于自主研发的、基于Web3.0技术体系和运作机制支撑下的可信数字化价值交互网络。提供元宇宙空间和元宇宙名片快速制作编辑器,具有在社交系统、生产系统、经济系统和任务系统、3D网站等功能,每个用户均可进行世界编辑、内容生产和数字资产自有,X宇宙为推动各个产业的赋能创新提供解决性方案。

新点电子交易平台

新点e交易(原名新点电子交易平台)是由新点软件基于SaaS模式独立研发建设实施,并持续运营更新迭代的市场化电子交易平台。新点软件按照市场化、专业化、集约化的方向,融合“互联网+”、“大数据”、“人工智能”、“区块链”等先进技术理念研发设计,建设了功能完善、设计合理的电子交易平台

互联网营销推广,全网营销,保定代理记账-蠡县星宸文化传媒有限公司

本公司专注于互联网营销推广,为企业做全网营销服务以及保定代理记账服务,如果您需要互联网营销推广、全网营销、代理记账等服务,欢迎您联系我们。

全局底部横幅