清华大学尹首一 AI芯片计算架构创新是实现AIoT的必然途径 (清华大学尹首一人怎样)

12月20日,雷锋网主办的AIoT+智慧城市峰会在深圳举行,峰会上清华大学微纳电子系副主任、微电子学研究所副所长尹首一教授分享了他对AI算法如何在物联网设备上实现AI功能的看法以及超高能效ai芯片的最新进展。尹教授认为,未来计算架构的创新将是实现无处不在的AIoT的必然途径。

IoT AI芯片需要解决的核心问题

今天讲到的AI,其核心技术是深度学习,深度学习背后核心技术基础是神经网络。如今已被我们广泛的AI应用,如语音助手、以图搜图,其核心计算大部分都在云上完成。随着物联网场景的拓展,在很多场景中考虑到通讯延时、设备供电以及个人隐私的问题,需要在IoT终端以及传感器上实现AI计算。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

清华大学微纳电子系副主任、微电子学研究所副所长尹首一教授

国际产业巨头,如谷歌、ARM等,均一致认为,未来的AI计算一定是分布式、分层次、分等级的综合系统,这将催生巨大的深度学习芯片市场。据美国Tractica咨询公司的统计和预测,2016到2025年这十年间深度学习芯片市场将飞速增长,到2025年市场规模将达到近700亿美金,其中会有近400亿美金的芯片应用在各种移动设备、机器人、无人机、消费电子、可穿戴设备等IoT领域。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

不过,尹教授指出,要满足IoT设备对AI的需求,需要解决的最核心的问题就是AI算力需求和IoT场景供电能力之间的巨大反差。

尹教授进一步表示,许多IoT的应用对芯片功耗有非常严格的约束,比如我们每天使用的智能手机,用户希望随时随地能够语音唤醒手机、通过语言做自然交互,这就需要手机在具备智能语音识别能力的同时还不影响手机续航。这样的AI计算所能容忍的功耗上限大概是1-2毫瓦,否则手机待机时间就会受到影响。此外,在智能家电、智能眼镜、无人机等场景下,AI计算也面临非常严苛的功耗约束。这就是实现未来AI+IoT愿景所必须解决的问题,如何在这些苛刻的功耗约束下实现超高能效的AI计算。

AIoT的AI芯片必须满足的3个条件

尹教授指出,从应用以及用户体验的角度出发,要实现满足AIoT需求的AI芯片必须满足三个条件:

第一, 可编程性,只有具备可编程性才能满足不同IoT场景下的不同AI算法的需求;

第二, 对计算密集型和访存密集型算法都非常友好,因为今天的AI算法就具备这样的特点;

第三,超高能效,某些场景下我们希望芯片能耗是毫瓦量级,有些场景甚至需要微瓦量级才能满足长时间的IoT计算需求。

超高能效AI计算芯片的进展

目前从AIoT芯片发展来看,大家正在从两个不同的维度(算法和架构)努力实现超高能效的AI计算。算法层面努力的方向是让深度神经网络模型更加紧凑。尹教授介绍,2016年开始看到学术界有很大的进展,目前已经能够把神经网络的权重位宽压缩到1bit,使网络模型实现十倍甚至几十倍的缩小。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

更值得注意的是,从统计看,在极低位网络中,即便把网络压缩到1-2bit,精度仍然接近于全精度神经网络。最新成果显示,用压缩后的神经网络做检测和识别时与全精度神经网络误差只有1个百分点左右,这个差距在绝大部分的应用场景已经可以忽略不计。

除了算法层面,许多科学家在探索如何从计算架构的角度实现更高能效的AI计算,从2014年开始到今天,学术界和工业界提出了很多AI计算架构方案。但是在未来IoT场景里,目前提出的计算架构仍然难以平衡可编程性、超低功耗和特殊网络模型的需求。

从2015年开始,一种新型计算架构,Coarse-grained Reconfigurable Architecture(CGRA),获得国际学术界和工业界的广泛关注。 2015年《国际半导体技术路线图》(ITRS报告)将其视为未来大有希望的可编程计算架构。2017年美国国防部高级研究计划局(DARPA),为了保证美国未来仍然能保持国际电子信息领域的领先地位,发起了“电子复兴计划”,该计划大力布局一项被称为“软件定义硬件”的研究计划。这项计划所研究的是“运行时快速重构”的硬件架构,也就是前面提到的CGRA架构。

就在前几天宣布“开源MIPS指令集”的Wave Computing公司,雷锋网在 《Wave Computing将于明年提供免费MIPS架构,MIPS能在AI时代崛起吗?》 一文中也进行了介绍,其AI芯片的技术来源就是CGRA。CGRA之所以受到广泛关注,正是因为可重构架构能够实现比CPU、GPU、FPGA更高的能量效率,同时还具有良好的可编程性,可以很好满足AIoT的需求。

尹教授介绍,清华大学可重构计算团队最早从2006年开始关注可重构架构。过去十多年时间在可重构架构的基础理论上做了很多探索性的工作。2015年开始,将可重构架构应用在AI计算、神经网络计算场景,并设计了Thinker系列AI芯片。

具体而言,Thinker系列AI芯片区别于传统处理器使用指令级可编程性的技术路线,在核心运算部件、基本处理单元和处理单元阵列等三个层次上实现了硬件可重构能力。比如在基本的乘法累加部件里实现不同位宽的自适应,很好地支持超低位宽的神经网络;在基本处理单元层面实现电路级重构,支持神经网络中的不同算子;在处理单元阵列实现架构级重构,支持不同类型的神经网络。

从2006年开始尹教授的团队已经设计了三款Thinker芯片,其最高能效可达每瓦十万亿次运算,最低功耗可达微瓦量级,可以嵌入到任何一个需要AI计算但电池有限的IoT设备中。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

回顾过去30年间处理器的发展历程,处理器的性能提升得益于半导体工艺进步和计算架构创新的双轮驱动。但随着摩尔定律放缓,半导体工艺的提升越来越有限。尹教授表示,去年图灵奖获得者是两位计算机体系结构的大师John Hennessy和David Patterson,他们在图灵奖的获奖感言里提到,今天是计算机体系结构的新的黄金时代。这句话很好地诠释了未来我们的技术创新和产业发展应该落脚在哪里。

AIoT+智慧城市峰会演讲视频全集稍后将在雷锋网会员【AI投研邦】里推出,并及时通知大家。大家可扫描二维码关注【AI投研邦】。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: https://www.gpxz.com/article/81d363a8d5555b6e0262.html
全局中部横幅
全局中部横幅
新浪云计算

新浪云是中国最早的公有云服务商、最大的PaaS服务厂商,也是国家工信部首批认证通过的“可信云”,提供网站、存储、数据库、缓存、队列、安全等服务,目前拥有近百万的开发者和上万家企业用户。支持PHP7、PHP5.6、PHP5.3、node.js、go、java、python等各种开发语言。

香港网站导航大全

LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.

最近上映电影

铜雀网免费提供最近上映电影、2023最新电影排行榜和热播电视剧全集手机在线播放,每天第一时间更新好看的电影、电视剧、动画片和综艺节目,欢迎欣赏2023年的影视剧!

粘弹体防腐材料,粘弹体防腐膏,粘弹体防腐带厂家

济宁迅大是粘弹体防腐材料厂家,主营粘弹体防腐带,粘弹体防腐胶带,粘弹体防腐膏等产品,粘弹体防腐胶带价格合理,可提供缠绕工具和底漆

办公室设计公司

上海办公室设计装修装潢优选领企办公室设计公司,领企上海办公室装修设计公司排名前列,集写字楼装修、办公楼装修、办公楼设计、厂房装修、办公室装饰设计施工于一体,真实上海办公室装修案例,上海办公室装修公司电话:400-992-1887

八分斋文化

八分斋文化(广东)有限公司致力于中华传统文化的传承与推广。我们提供普洱茶、紫砂壶、名家字画、缅茄雕刻、中式家具、玉器翡、工艺美术品等多样化收藏品,还提供礼品定制服务。我们团队经验丰富,为客户提供高质量的艺术收藏品和专业咨询。通过我们的服务,让更多人领略中华文化的魅力与智慧。欢迎与我们一同探寻中华传统文化的瑰宝!

北京刑事案件律师咨询

北京刑事案件律师在线咨询,承办全国刑事案件辩护及咨询服务的北京律师网。

热门街机手游大全

54街机网为用户提供海量经典街机、安卓游戏、安卓软件下载,为用户打造一站式的手机服务平台,更多精彩好玩的游戏应用,尽在54街机网。

安徽中联国信资产评估有限责任公司

安徽中联国信由安徽中联国信资产评估有限责任公司、立信中联会计师事务所(特殊普通合伙)安徽分所、安徽国信房地产评估有限公司、中联国际工程管理有限公司安徽分公司等专业机构组成

沥青贴缝带,灌缝胶,灌缝沥青,冷补料,密封胶等道路裂缝修补材料生产厂家

嘉格伟业筑路科技有限公司是一家集公路养护产品研发生产销售企业,养护主营:沥青贴缝带,灌缝胶,冷补料,网裂贴,单组份聚氨酯道路密封胶,路面贴缝带,抗裂贴等高品质沥青水泥混凝土路面裂缝修补材料,厂家价格直销,同时诚招全国经销商代理商,欢迎来电咨询。

云舍农夫(江苏)农业科技发展有限公司

云舍农夫(江苏)农业科技发展有限公司云舍农夫(江苏)农业科技发展有限公司,作为国家特色农业发展战略的先行执行企业。于江苏省镇江市丹阳屯甸村姚庄丹句路999号,建立规模达870,000平方米的特色农业庄园,水面积共200,000平米,养殖禽类约50,000只,养殖水产约50,000公斤。。项目

深圳发电机出租

康明斯电力(深圳)有限公司是拥有授权资质的中国区租赁业务的企业,同时也是为数不多启用以全新柴油发电机组为主体的新型租赁服务模式公司之一。康明斯公司现有超过10万千瓦的产品用于柴油发电机组租赁业务,并可根据客户的实际需求,再额外提供更多功率的调配能力,以满足设备租赁客户实际发电量。当深圳、东莞、惠州、广州不同地区的客户在电话中提出极端环境要求,可针对不同的行业的专门制定一站式出租解决方案。


全局底部横幅