清华大学尹首一 AI芯片计算架构创新是实现AIoT的必然途径 (清华大学尹首一人怎样)

12月20日,雷锋网主办的AIoT+智慧城市峰会在深圳举行,峰会上清华大学微纳电子系副主任、微电子学研究所副所长尹首一教授分享了他对AI算法如何在物联网设备上实现AI功能的看法以及超高能效AI芯片的最新进展。尹教授认为,未来计算架构的创新将是实现无处不在的AIoT的必然途径。

IoT AI芯片需要解决的核心问题

今天讲到的AI,其核心技术是深度学习,深度学习背后核心技术基础是神经网络。如今已被我们广泛的AI应用,如语音助手、以图搜图,其核心计算大部分都在云上完成。随着物联网场景的拓展,在很多场景中考虑到通讯延时、设备供电以及个人隐私的问题,需要在IoT终端以及传感器上实现ai计算。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

清华大学微纳电子系副主任、微电子学研究所副所长尹首一教授

国际产业巨头,如谷歌、ARM等,均一致认为,未来的AI计算一定是分布式、分层次、分等级的综合系统,这将催生巨大的深度学习芯片市场。据美国Tractica咨询公司的统计和预测,2016到2025年这十年间深度学习芯片市场将飞速增长,到2025年市场规模将达到近700亿美金,其中会有近400亿美金的芯片应用在各种移动设备、机器人、无人机、消费电子、可穿戴设备等IoT领域。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

不过,尹教授指出,要满足IoT设备对AI的需求,需要解决的最核心的问题就是AI算力需求和IoT场景供电能力之间的巨大反差。

尹教授进一步表示,许多IoT的应用对芯片功耗有非常严格的约束,比如我们每天使用的智能手机,用户希望随时随地能够语音唤醒手机、通过语言做自然交互,这就需要手机在具备智能语音识别能力的同时还不影响手机续航。这样的AI计算所能容忍的功耗上限大概是1-2毫瓦,否则手机待机时间就会受到影响。此外,在智能家电、智能眼镜、无人机等场景下,AI计算也面临非常严苛的功耗约束。这就是实现未来AI+IoT愿景所必须解决的问题,如何在这些苛刻的功耗约束下实现超高能效的AI计算。

AIoT的AI芯片必须满足的3个条件

尹教授指出,从应用以及用户体验的角度出发,要实现满足AIoT需求的AI芯片必须满足三个条件:

第一, 可编程性,只有具备可编程性才能满足不同IoT场景下的不同AI算法的需求;

第二, 对计算密集型和访存密集型算法都非常友好,因为今天的AI算法就具备这样的特点;

第三,超高能效,某些场景下我们希望芯片能耗是毫瓦量级,有些场景甚至需要微瓦量级才能满足长时间的IoT计算需求。

超高能效AI计算芯片的进展

目前从AIoT芯片发展来看,大家正在从两个不同的维度(算法和架构)努力实现超高能效的AI计算。算法层面努力的方向是让深度神经网络模型更加紧凑。尹教授介绍,2016年开始看到学术界有很大的进展,目前已经能够把神经网络的权重位宽压缩到1bit,使网络模型实现十倍甚至几十倍的缩小。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

更值得注意的是,从统计看,在极低位网络中,即便把网络压缩到1-2bit,精度仍然接近于全精度神经网络。最新成果显示,用压缩后的神经网络做检测和识别时与全精度神经网络误差只有1个百分点左右,这个差距在绝大部分的应用场景已经可以忽略不计。

除了算法层面,许多科学家在探索如何从计算架构的角度实现更高能效的AI计算,从2014年开始到今天,学术界和工业界提出了很多AI计算架构方案。但是在未来IoT场景里,目前提出的计算架构仍然难以平衡可编程性、超低功耗和特殊网络模型的需求。

从2015年开始,一种新型计算架构,Coarse-grained Reconfigurable Architecture(CGRA),获得国际学术界和工业界的广泛关注。 2015年《国际半导体技术路线图》(ITRS报告)将其视为未来大有希望的可编程计算架构。2017年美国国防部高级研究计划局(DARPA),为了保证美国未来仍然能保持国际电子信息领域的领先地位,发起了“电子复兴计划”,该计划大力布局一项被称为“软件定义硬件”的研究计划。这项计划所研究的是“运行时快速重构”的硬件架构,也就是前面提到的CGRA架构。

就在前几天宣布“开源MIPS指令集”的Wave Computing公司,雷锋网在 《Wave Computing将于明年提供免费MIPS架构,MIPS能在AI时代崛起吗?》 一文中也进行了介绍,其AI芯片的技术来源就是CGRA。CGRA之所以受到广泛关注,正是因为可重构架构能够实现比CPU、GPU、FPGA更高的能量效率,同时还具有良好的可编程性,可以很好满足AIoT的需求。

尹教授介绍,清华大学可重构计算团队最早从2006年开始关注可重构架构。过去十多年时间在可重构架构的基础理论上做了很多探索性的工作。2015年开始,将可重构架构应用在AI计算、神经网络计算场景,并设计了Thinker系列AI芯片。

具体而言,Thinker系列AI芯片区别于传统处理器使用指令级可编程性的技术路线,在核心运算部件、基本处理单元和处理单元阵列等三个层次上实现了硬件可重构能力。比如在基本的乘法累加部件里实现不同位宽的自适应,很好地支持超低位宽的神经网络;在基本处理单元层面实现电路级重构,支持神经网络中的不同算子;在处理单元阵列实现架构级重构,支持不同类型的神经网络。

从2006年开始尹教授的团队已经设计了三款Thinker芯片,其最高能效可达每瓦十万亿次运算,最低功耗可达微瓦量级,可以嵌入到任何一个需要AI计算但电池有限的IoT设备中。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

回顾过去30年间处理器的发展历程,处理器的性能提升得益于半导体工艺进步和计算架构创新的双轮驱动。但随着摩尔定律放缓,半导体工艺的提升越来越有限。尹教授表示,去年图灵奖获得者是两位计算机体系结构的大师John Hennessy和David Patterson,他们在图灵奖的获奖感言里提到,今天是计算机体系结构的新的黄金时代。这句话很好地诠释了未来我们的技术创新和产业发展应该落脚在哪里。

AIoT+智慧城市峰会演讲视频全集稍后将在雷锋网会员【AI投研邦】里推出,并及时通知大家。大家可扫描二维码关注【AI投研邦】。

清华大学尹首一:AI芯片计算架构创新是实现AIoT的必然途径 | AIoT+智慧城市峰会

原创文章,未经授权禁止转载。详情见 转载须知 。


本文地址: /article/81d363a8d5555b6e0262.html
全局中部横幅
全局中部横幅
66花田网 花草苗木网

花田网是一个专注分享苗木知识、花草养护、绿化养护等相关资讯内容与文章,整理分享关于花田养护日常生活的相关内容。

航空插头_电连接器_军用航空插座厂家_泰兴市航宇接插件有限公司

泰兴市航宇接插件是总参通信部军用通信电连接器和铁道部电力机车黑匣子电连接器的优选厂家,主要生产军用连接器、航空接插件、圆形电连接器、航空插头、航空插座等产品

上海高压风机供应商-防爆鼓风机生产-漩涡气泵厂家-FUJI富士鼓风机销售

上海高压风机供应商哪家好,上海梁瑾机电设备有限公司是您不错的选择.公司致力于高压风机,防爆鼓风机,漩涡气泵,FUJI富士鼓风机销售的生产,研发,设计,代理,销售,售后服务,技术服务支持为一体综合企业,24小时服务热线:13661695091欢迎您的来电!

上海仓库仓储_洋山港拼箱仓库_临港内装箱仓库_神州仓储

专注洋山港内装箱仓库及拼箱仓库,主营拼箱和工程货物内装箱。洋山仓库和临港仓库在所有上海仓库中地理位置优越,2小时快速集港,和外高桥仓库相比较,您有更充足的时间安排报关,必将成为您远洋出口货物的优选CFS装箱仓库!

SQUARE D代理,PIZZATO代理,OMAL代理,TELEMECANIQUE代理,ELTRA代理,MP FILTRI代理 意大利工业品-南通艾唐自动化设备有限公司

意大利工控品专家南通艾唐是意大利PIZZATO、OMAL、ELTRA、TELEMECANIQUE等知名品牌的核心代理商,主要产品有:telemecanique压力开关、pizzato限位开关、omal阀、eltra编码器、mpfiltri过滤器

甘肃钢瓶|兰州气瓶|甘肃氧气瓶|兰州氮气瓶|甘肃天然气瓶|青海气瓶|西宁二氧化碳气瓶-兰州气宇商贸有限公司

甘肃兰州气宇商贸有限公司是甘肃钢瓶是西北地区的供应商,电话:13609339339,主要有氧气瓶、氮气瓶、氩气瓶氢气瓶、丙烷瓶、杜瓦罐、液氨瓶、液氯瓶等,其产品在甘肃兰州、青海西宁、西藏拉萨、宁夏银川等地深受广大客户的好评,尤其是兰州气瓶产品质量有,并具有充足的产品库存,能够打造符合不同用户需求的钢瓶,提供面、及时、准确的体化服务。

国际婚姻▌跨国婚恋▌海外婚姻▌欧美婚姻▌国际婚介▌涉外征婚相亲▌国外婚恋▌跨境相亲▌结婚移民▌爱享天下公司跨境交友中介网站服务平台成功率极高

爱享天下是一家拥有多年办理各类国际婚姻,跨国婚姻,海外婚姻,国际婚恋,跨国婚恋,海外婚恋,涉外婚介,跨国交友,海外交友,跨国交友网,海外交友网,海外婚姻介绍网,海外婚恋平台哪个好,欧美婚姻,涉外婚恋,涉外婚恋网,涉外婚恋服务,涉外征婚,跨境相亲,结婚移民,涉外婚姻,婚姻移民。实名制全球猎婚平台.咨询热线:18302009898位于重庆市荣昌区昌龙大道瑞尔国际大厦518室

融金侠、口子部落、靠谱贷款口子、放水借钱口子、最新借钱贷款口子、贷款攻略集锦

本平台提供最新最靠谱的贷款借钱口子,无需查征询大数据也可以申请贷款。融金侠、口子部落,2024年网贷平台,靠谱贷款,最新贷款口子,网贷下款口子,借钱放款口子,不看大数据的口子,不查征信的口子,黑户贷款的口子。

MEMS 技术在煤矿、电力等领域的监测应用与城市安全生命线保障 - 江苏光微半导体

本网站提供基于MEMS技术的测温、震动、声音监测方案,广泛应用于煤矿、电力设备(如风电、皮带机、电机)等领域,助力城市安全生命线建设,江苏光微半导体为您服务。

青岛方大包装_方大包装-青岛方大包装股份有限公司

青岛方大包装股份有限公司,是塑料印刷、复合软包装产品的专业生产厂家,本公司秉承“绿色、安全、精美”的生产管理理念,靠品质产品、个性化服务不断拓展国内外市场。0532-85399088

浙江力达电器股份有限公司

浙江力达电器股份有限公司,创立于1987年,公司主营制造汽车及摩托车线束总成、连接器、端子、组合开关等,公司分三个基地,分别位于温州、上海、广州。

创天互娱—创造属于你的游戏世界

西安创天网络科技有限责任公司(简称:创天互娱),是一家集游戏研发、深度运营为一体的互联网公司。旗下主要运营的网络游戏有:神泣、魔界、生肖传说、特种部队、仙界传2、功夫小子、地城之光、降龙之剑、卓越之剑2、超级跑跑等。创天互娱以创新的精神、先进的技术以及贴心的服务,旨在打造健康快乐、绿色平衡的游戏平台。

全局底部横幅