中国引领全球AI理论突破!百度2014年就已发现Scaling Law (中国引领全球治理这句话对吗)

文章编号:52236 资讯动态 2025-02-01 Law 百度 Scaling AI大模型

近日,一项关于大模型核心理论“Scaling Law”的起源讨论正在外网热烈展开。最新观点和证据表明,中国科技巨头百度比openAI更早实现了这一突破。

知名媒体《南华早报》在其报道《百度在OpenAI之前就发现了Scaling Law?AI领域的辩论重新燃起》中指出,尽管美国在AI模型创新方面一直被视为领先者,但最新的讨论显示,中国在探索这些概念上可能更为超前。

中国引领全球AI理论突破!百度2014年就已发现Scaling Law

大模型发展的核心是“Scaling Law”——这一原则认为,训练数据和模型参数越大,模型的智能能力就越强。这一思想广泛归功于OpenAI在2020年发表的论文《Scaling Laws for Neural Language Models》,自那以后,这个概念已成为AI研究的基石。

然而,OpenAI论文的合著者、前OpenAI研究副总裁、Anthropic创始人Dario Amodei,在11月的一期播客中透露,他在2014年与吴恩达在百度研究AI时,就已经发现了模型发展的规律Scaling Law这一现象。Dario Amodei表示,随着提供给模型的数据量增加、模型规模的扩大以及训练时间的延长,模型的性能开始显著提升。这一非正式的观察后来在OpenAI的GPT-1语言模型中得到了验证,并被认为是大模型发展的“金科玉律”。

中国引领全球AI理论突破!百度2014年就已发现Scaling Law

此外,行业人士也发文称,关于Scaling Law的原始研究实际上来自2017年的百度,而不是2020年的OpenAI。Meta研究员、康奈尔大学博士候选人Jack Morris在X(前Twitter)上引用了一篇标题为《Deep Learning Scaling is Predictable, Empirically》论文,论文于2017年由百度硅谷人工智能实验室发布,详细讨论了机器翻译、语言建模等领域的Scaling现象。

中国引领全球AI理论突破!百度2014年就已发现Scaling Law

有研究者表示,正是百度的早期研究为AI大模型的发展奠定了理论基础,并在2019年发布了第一代文心大模型,几乎与OpenAI处于同一时期。“中国在大型模型方面的进步也获得国际认可。”据《南华早报》,在上海举行的百度世界大会2024上,百度宣布了新技术,用以减轻图像生成中的幻觉问题——即生成误导性或事实不一致的图像。百度还透露,截至11月初,百度文心大模型的日均调用量已经达到了15亿,相较一年前首次披露的5000万次,增长约30倍。

随着AI技术的不断进步和应用的深入,中国在全球AI领域的影响力和领导地位将更加凸显。

版权文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/696a228d16466564dcd9.html
全局中部横幅
全局中部横幅
福步外贸论坛(FOB

福步外贸论坛(FOBBusinessForum)福步外贸论坛是中国最大的专业外贸论坛,致力于打造全球最具人气、最实用的外贸社区。

新黎明LED防爆灯

浙江新黎明照明股份有限公司专注研发、生产与销售LED系列防爆灯具、矿用LED防爆灯、固定专注照明、移动照明、固定防爆照明及防爆电器等系列产品,咨询热线:15167777309详情点击官网查询www.zhjxlm.com。

广州公司注册

正穗广州公司注册网是广州专业的公司注册、企业注册办理的一站式服务公司,专业为您提供广州公司注册、企业注册、外资公司注册代理等公司注册代办服务。

适新科技

适新科技(苏州)有限公司成立于1996年12月31日,注册资本7704.38万美元,隶属于苏州安洁科技股份有限公司。集团在新加坡、马来西亚、泰国和中国设有工厂,主要从事高精密金属零部件研发和生产。

手信宝

手信宝、家校通、微信公众号家校通、幼儿园接送系统、安全接送、校车接送、校车管理、校信通、中小学进出管理、中小学安全

广东省物业管理行业协会

广东省物业管理行业协会(以下简称:本协会)是按照《广东省行业协会条例》的规定,于2000年8月28日,经广东省民政厅正式批准注册成立的具有独立法人资格的非营业性社会团体。

TC4钛管厂家

宝鸡隆辰荣金属材料有限公司主要生产销售:钛系列:TC4钛管厂家\钛加工件\钛锻件\钛锻件厂家\钛棒、钛板、钛管等。钽系列:钽棒\钽棒厂家\钽板、钽颗粒、钽加工件等。锆系列:锆棒、锆板、锆加工件等。铌系列:铌棒、铌板\铌板厂家\铌颗粒、铌加工件等。

巨有科技一机旅游

广州巨有科技有限公司专注提供全域旅游智慧化服务运营解决方案,通过全域旅游赋能多产业端融合,提供整合运营体系,形成智慧化服务闭环,为旅游目的地实现全域资源协同化、数字化、智慧化运营服务,未来依托全域旅游商业数据,运用算法实现旅游要素智慧化整体解决方案。

传奇私服

传奇私服变态版本(www.szyqjz.cn),推出一个为散人而开的三职业变态新开热血传奇私服游戏版本,还有最新复古传奇私服网站登入器下载,每日发布独家新版变态传奇私服。

电动堆高车

沃帕工业设备(上海)有限公司采用欧洲标准作为电动堆高车,电动搬运车,高空作业平台等产品的生产标准,致力于为客户提供完整的设备解决方案。全国免费电话:400-8866-790

全局底部横幅