清华大学尹首一 AI芯片计算架构创新是实现AIoT的必然途径 (清华大学尹首一人怎样)

12月20日,雷锋网主办的AIoT+智慧城市峰会在深圳举行,峰会上清华大学微纳电子系副主任、微电子学研究所副所长尹首一教授分享了他对AI算法如何在物联网设备上实现AI功能的看法以及超高能效AI芯片的最新进展。尹教授认为,未来计算架构的创新将是实现无处不在的AIoT的必然途径。

IoT AI芯片需要解决的核心问题

今天讲到的AI,其核心技术是深度学习,深度学习背后核心技术基础是神经网络。如今已被我们广泛的AI应用,如语音助手、以图搜图,其核心计算大部分都在云上完成。随着物联网场景的拓展,在很多场景中考虑到通讯延时、设备供电以及个人隐私的问题,需要在IoT终端以及传感器上实现ai计算

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

清华大学微纳电子系副主任、微电子学研究所副所长尹首一教授

国际产业巨头,如谷歌、ARM等,均一致认为,未来的AI计算一定是分布式、分层次、分等级的综合系统,这将催生巨大的深度学习芯片市场。据美国Tractica咨询公司的统计和预测,2016到2025年这十年间深度学习芯片市场将飞速增长,到2025年市场规模将达到近700亿美金,其中会有近400亿美金的芯片应用在各种移动设备、机器人、无人机、消费电子、可穿戴设备等IoT领域。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

不过,尹教授指出,要满足IoT设备对AI的需求,需要解决的最核心的问题就是AI算力需求和IoT场景供电能力之间的巨大反差。

尹教授进一步表示,许多IoT的应用对芯片功耗有非常严格的约束,比如我们每天使用的智能手机,用户希望随时随地能够语音唤醒手机、通过语言做自然交互,这就需要手机在具备智能语音识别能力的同时还不影响手机续航。这样的AI计算所能容忍的功耗上限大概是1-2毫瓦,否则手机待机时间就会受到影响。此外,在智能家电、智能眼镜、无人机等场景下,AI计算也面临非常严苛的功耗约束。这就是实现未来AI+IoT愿景所必须解决的问题,如何在这些苛刻的功耗约束下实现超高能效的AI计算。

AIoT的AI芯片必须满足的3个条件

尹教授指出,从应用以及用户体验的角度出发,要实现满足AIoT需求的AI芯片必须满足三个条件:

第一, 可编程性,只有具备可编程性才能满足不同IoT场景下的不同AI算法的需求;

第二, 对计算密集型和访存密集型算法都非常友好,因为今天的AI算法就具备这样的特点;

第三,超高能效,某些场景下我们希望芯片能耗是毫瓦量级,有些场景甚至需要微瓦量级才能满足长时间的IoT计算需求。

超高能效AI计算芯片的进展

目前从AIoT芯片发展来看,大家正在从两个不同的维度(算法和架构)努力实现超高能效的AI计算。算法层面努力的方向是让深度神经网络模型更加紧凑。尹教授介绍,2016年开始看到学术界有很大的进展,目前已经能够把神经网络的权重位宽压缩到1bit,使网络模型实现十倍甚至几十倍的缩小。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

更值得注意的是,从统计看,在极低位网络中,即便把网络压缩到1-2bit,精度仍然接近于全精度神经网络。最新成果显示,用压缩后的神经网络做检测和识别时与全精度神经网络误差只有1个百分点左右,这个差距在绝大部分的应用场景已经可以忽略不计。

除了算法层面,许多科学家在探索如何从计算架构的角度实现更高能效的AI计算,从2014年开始到今天,学术界和工业界提出了很多AI计算架构方案。但是在未来IoT场景里,目前提出的计算架构仍然难以平衡可编程性、超低功耗和特殊网络模型的需求。

从2015年开始,一种新型计算架构,Coarse-grained Reconfigurable Architecture(CGRA),获得国际学术界和工业界的广泛关注。 2015年《国际半导体技术路线图》(ITRS报告)将其视为未来大有希望的可编程计算架构。2017年美国国防部高级研究计划局(DARPA),为了保证美国未来仍然能保持国际电子信息领域的领先地位,发起了“电子复兴计划”,该计划大力布局一项被称为“软件定义硬件”的研究计划。这项计划所研究的是“运行时快速重构”的硬件架构,也就是前面提到的CGRA架构。

就在前几天宣布“开源MIPS指令集”的Wave Computing公司,雷锋网在 《Wave Computing将于明年提供免费MIPS架构,MIPS能在AI时代崛起吗?》 一文中也进行了介绍,其AI芯片的技术来源就是CGRA。CGRA之所以受到广泛关注,正是因为可重构架构能够实现比CPU、GPU、FPGA更高的能量效率,同时还具有良好的可编程性,可以很好满足AIoT的需求。

尹教授介绍,清华大学可重构计算团队最早从2006年开始关注可重构架构。过去十多年时间在可重构架构的基础理论上做了很多探索性的工作。2015年开始,将可重构架构应用在AI计算、神经网络计算场景,并设计了Thinker系列AI芯片。

具体而言,Thinker系列AI芯片区别于传统处理器使用指令级可编程性的技术路线,在核心运算部件、基本处理单元和处理单元阵列等三个层次上实现了硬件可重构能力。比如在基本的乘法累加部件里实现不同位宽的自适应,很好地支持超低位宽的神经网络;在基本处理单元层面实现电路级重构,支持神经网络中的不同算子;在处理单元阵列实现架构级重构,支持不同类型的神经网络。

从2006年开始尹教授的团队已经设计了三款Thinker芯片,其最高能效可达每瓦十万亿次运算,最低功耗可达微瓦量级,可以嵌入到任何一个需要AI计算但电池有限的IoT设备中。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

回顾过去30年间处理器的发展历程,处理器的性能提升得益于半导体工艺进步和计算架构创新的双轮驱动。但随着摩尔定律放缓,半导体工艺的提升越来越有限。尹教授表示,去年图灵奖获得者是两位计算机体系结构的大师John Hennessy和David Patterson,他们在图灵奖的获奖感言里提到,今天是计算机体系结构的新的黄金时代。这句话很好地诠释了未来我们的技术创新和产业发展应该落脚在哪里。

AIoT+智慧城市峰会演讲视频全集稍后将在雷锋网会员【AI投研邦】里推出,并及时通知大家。大家可扫描二维码关注【AI投研邦】。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/81d363a8d5555b6e0262.html
全局中部横幅
全局中部横幅
寺库网

寺库奢侈品网站(secoo.com)作为全球最大的奢侈品购物服务平台,涉及了奢侈品网上销售、奢侈品实体休闲会所、奢侈品鉴定与养护服务等主营业务,100%正品保证,全球奢品,尽在寺库。寺库,我是奢侈品!

好课件

好课件为您提供精美小学、初中、高中所有语文、数学、英语、科学、化学、物理、生物、历史、地理、道德与法治等PPT课件,好课件将全力打造专业高品质的PPT课件资源下载网站。

电源老化设备,电源老化车,电源老化架,电源老化房,电源老化测试架,台州琪盛电子有限公司

台州琪盛电子有限公司专业主营:电源老化设备,电源老化车,电源老化架,电源老化房,电源老化测试架,服务热线:0576-88709900赵小姐13355869832林先生15967662738

密室逃脱,密室逃脱系列,罪案现场&密室逃脱小游戏大全,4399小游戏

4399密室逃脱游戏大全为您提供密室逃脱系列,密室逃脱4,密室逃脱系列中文版,实景密室逃脱攻略。好玩就拉朋友们一起来玩吧!

中科为集团官网

中科为集团成立于2009年,致力于为中国高新科技企业而为之,为企业提供成立到上市一站式的全方位、专业化的优质服务。秉持“让创业者活下去,让创新者活得好”的服务理念,将产业政策、科技咨询、知识产权、法律、财税、金融等双创服务全方位融入企业的当前经营和未来发展中,打造全新的中小企业创新创业服务平台。

常州ug培训

磁针教育专注设计类培训,常州机械设计培训课程有常州cad培训,常州SolidWorks培训,常州ug培训。还有常州平面设计培训,常州ps培训。常州学习机构电话:18796912595,资深设计师授课。

厦门新育信息科技有限公司

微友平台提供公众号变现渠道,帮助广告主更真实、精准、快速,保障广告效果。

中国美术馆

中国美术馆是以收藏、研究、展示中国近现代艺术作品为重点的国家造型艺术博物馆。1963年正式对外开放。主楼建筑面积18000多平方米,一至五层楼共有17个展览厅,1995年主楼后新建现代化藏品库,面积4100平方米。中国美术馆收藏各类美术作品10万余件,以新中国成立前后的作品为主,兼有明末、清代、民国初期的艺术杰作。近年来,中国美术馆陆续接受了艺术家或家属的捐赠,馆藏品与日俱增。建馆40多年来,中国美术馆已举办数千场具有影响的各类美术展览及国内外著名艺术家作品展览。中国美术馆新馆将建在国家体育馆(鸟巢)之北。

新胜公司上分电话

老街新胜公司开户网址:www.TL9272.com微Q:3834200新胜公司上分客服,开户电话,客服微信,注册网址,新胜集团公司是一家综合性文化娱乐公司,成立于2013年,由多家财团与湖南步步高集团合作成立,名为老街新胜娱乐文化投资有限公司。该公司致力于构建中国文化娱乐产业创新平台,旨在提升全体中国人的生活品质,主要业务涵盖电影产业、娱乐产业、动漫产业、影视制作产业、文化地产、文化产业园等。

化工包装网

化工包装网-化工包装行业门户网站,是权威的化工包装行业综合服务平台,化工包装专业市场,由生意宝打造。

金陵华软科技股份有限公司

华软科技旗下的精细化工板块,拥有国内领先的光气资源及光气衍生产品-造纸化学品AKD完整产业链,拥有多条先进的医药、农药中间体、农用化学品的生产线。在大健康领域,拥有国内领先的涵盖片剂、粉剂、口服液、膏滋膏方、胶囊等多条保健品的生产流水线。

消逝的光芒2

《消逝的光芒2》是Techland于2022年发售的动作角色扮演游戏。玩家扮演流浪漫游者艾登,在病毒肆虐的开放世界都市中,利用独特的跑酷技能战斗与求生。游戏强调玩家的选择将影响城市命运,并支持多人合作。

全局底部横幅