datasheet

瑞萨电子展示三进制存储器的存算一体化AI加速器

2019-06-26来源: EEWORLD关键字:瑞萨电子  存算一体化  AI

目前,有许多用于各种机器学习模型的硬件加速器,日前瑞萨电子已经提出了一种基于SRAM的三进制系统来加速卷积神经网络(CNN)计算,也就是通常所说的存算一体化。采用该加速器的瑞萨测试芯片实现了8.8 TOPS/W的功率效率,这是业界最高级别的功率效率。瑞萨加速器基于内存处理(PIM)架构,这是一种越来越流行的AI技术方法,其中当从该存储器读出数据时,在存储器电路中执行乘法和累加运算。

机器学习的挑战之一是围绕输入和输出的数据以及计算中涉及的权重进行优化。瑞萨此次采用的是三进制方式,通过使用两个单比特存储单元实现-1,0或1的数据结构。


图片.png

瑞萨的硬件可以利用存储值为-1,0或1的三进制存储单元。


基本的三进制存储可以组合成多位解决方案,从而可以实现不同的精度,允许用户优化精度和功耗之间的平衡。


图片.png
硬件可以将三进制计算结合到多位操作中


传统存储器使用模数转换器(ADC)读取内容。这是一种经典的方法,但它需要空间用于ADC和电源。瑞萨将1位读出放大器比较器与复制单元相结合,可以灵活地控制电流,从而开发出高精度的存储器数据读出电路。


图片.png

当检测到MAC结果等于零的状态时,“零检测器”可以停止比较器的操作


该策略意思是:通过神经网络操作激活的节点(神经元)的数量非常小,约为1%,可以通过停止未激活神经元的电路,从而实现低功耗操作,同时显著降低功耗。

由于制造过程中的工艺变化,导致SRAM结构中位线电流值产生误差,从而造成存储器读取数据时出现错误。为解决这个问题,瑞萨在芯片内部覆盖了多个SRAM计算电路模块,由制造工艺变化最小的模块执行计算任务。由于激活节点只是所有节点中的一小部分,因此激活节点被有选择地分配给制造过程变化最小的SRAM计算电路模块执行计算。从而将计算误差降至几乎可忽略的水平。


图片.png
通过多个SRAM计算块以解决由于工艺问题导致的计算误差。


在VLSI会议上,瑞萨展示了内存处理(PIM)架构的芯片,该芯片采用12nm技术,包含四个集群,每个集群均包含了PIM、逻辑以及传统的SRAM存储器。每个集群可以独立运行,因此,该系统一次可以管理多达四个CNN模型。该芯片最多可处理128个CNN层。PIM存储量为4.74 Mb,SRAM存储量为12.58 Mb。


图片.png

瑞萨展示的具有四个cluster的三进制PIM


瑞萨推出了以下三种技术。一是可执行大规模CNN计算的三进制(-1,0,1)SRAM结构PIM技术。二是与比较器配合使用的SRAM电路,可在低功耗下读取存储器数据。三是能够防止在制造过程中因工艺变化而导致的计算错误。将以上技术结合,既能缩短深度学习处理中的存储器访问时间,又可降低乘法和累加运算所需的功率。因此,当通过手写字符识别测试(MNIST)进行评估时,新加速器在保持99%以上准确率的同时,达到了业界最高能效等级。

尽管该芯片目前只是原型阶段,但它的确证实了通过新架构,可在降低功耗的同时显著提高产品性能。

关键字:瑞萨电子  存算一体化  AI

编辑:冀凯 引用地址:http://www.eeworld.com.cn/qrs/ic465872.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:恩智浦推出面向边缘计算的全安全平台EdgeVerse
下一篇:UltraSoC锁定500万英镑投资,扩大其在全球的运营规模

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

瑞萨电子旗下IDT与EDC合作,拓展6LoWPAN技术

瑞萨电子公司的全资子公司IDT今天(2019年7月10日)宣布与德国电子设计开发公司(Electronic Design Chemnitz GmbH,EDC)合作,将IDT的6LoWPAN无线模块和传感器产品集成到EDC的工业4.0平台中。IDT ZWIR45xx系列无线模块的“System On Module”方法,非常适合嵌入EDC SmartFIT Connect无线连接平台。“我们与IDT几个月前开始合作。”EDC联合创始人兼首席执行官Steffen Heinz博士说。“我们很快决定使用IDT的安全无线模块,因为我们看到了在6LoWPAN无线模块上运行完整传感器数据采集的巨大优势。”“全功能的无线更新(OTAU)功能
发表于 2019-07-11

柴田英利走马上任,瑞萨电子如何渡劫

2018年7月1日,瑞萨电子新任CEO Hidetoshi Shibata(柴田英利)正式上任,接替因营收下滑而辞任的前任CEO吴文精。瑞萨电子公司新任总裁兼CEO 柴田英利在上任之前的官方新闻稿中,柴田英利表示:“虽然我们面临着短期挑战,但我相信瑞萨在重点市场中仍处于有利地位,能够继续为我们的客户和整个社会创造创新及可持续的解决方案。我要感谢董事会的支持,很荣幸可以与勤劳的同事们一起领导瑞萨,继续为客户提供行业领先的解决方案,并积极完成IDT的整合流程,希望我们共同努力,重拾增长的信心,并且为公司创造更多价值。”针对新任CEO柴田英利上任以及瑞萨电子未来策略,EEWORLD专门采访了瑞萨电子,公司公关部就一些问题给予了官方答复
发表于 2019-07-05
柴田英利走马上任,瑞萨电子如何渡劫

瑞萨电子:现CFO将接任CEO一职,走出业绩困境指日可待?

因业绩不佳,日本半导体巨头瑞萨电子(Renesas)宣布,社长兼CEO吴文精将辞职,6月30日生效。 吴文精职务将由现任CFO柴田英利接任,瑞萨董事会寄希望他能带领公司走出困境。 瑞萨电子此前曾表示,因需求不振,考虑暂停生产。具体措施包括:前工序工厂暂时停产至多两个月,以及后工序工厂以周为单位、为期多次的停产措施。 早在3月份时,瑞萨电子决定停止日本国内外一共13家工厂的生产。日本国内6家生产车载半导体的工厂将进行最长2个月的停产,这么长的停产期间是史无前例的。日本海外的4家工厂预计也要停产数周。2019年度的生产预计比2018年减少10%以上,来自中国的汽车、工业机械的需求出乎意料的减少,只能通
发表于 2019-06-29
瑞萨电子:现CFO将接任CEO一职,走出业绩困境指日可待?

瑞萨电子宣布任命CFO Hidetoshi Shibata为新任CEO

根据瑞萨电子官方公告显示,半导体解决方案的主要供应商瑞萨电子(东京证券交易所股票代码:6723)日前宣布,现任CEO Bunsei Kure(吴文精)将于2019年6月30日辞去其代表董事、总裁兼CEO,Hidetoshi Shibata(柴田英利)将成为为其代表董事,总裁兼CEO,任命自2019年7月1日起生效。瑞萨电子公司新任总裁兼CEO 柴田英利新任总裁兼CEO 柴田英利于2013年加入瑞萨,当时该公司正在陷入财务危机中,柴田英利作为执行副总裁、董事会成员和首席财务官,领导了公司的结构化改革,包括人员成本削减和生产重组等方面。此外,他也在收购两家美国半导体公司Intersil和IDT的过程中,发挥了重要作用。瑞萨官方公布
发表于 2019-06-26
瑞萨电子宣布任命CFO Hidetoshi Shibata为新任CEO

瑞萨电子推感知快速启动软件 提升嵌入式汽车ADAS性能

(图片来源:瑞萨电子官网)据外媒报道,瑞萨电子公司(Renesas Electronics Corporation)一直在努力提升驾驶辅助系统(ADAS)并推出一个新的感知快速启动软件(Perception Quick Start Software),该软件基于其R-Car V3H片上系统(SoC)而打造。该解决方案提供了用于摄像头障碍物探测(COD)、激光雷达障碍物探测(LOD)和道路特征探测(RFD)的参考软件,上述三个识别领域是基于传感器的L2以上自动驾驶系统的关键识别领域。R-Car V3H片上系统可在低功率水平基础上结合高计算机视觉性能和人工智能处理,为L2以上自动驾驶汽车的前置摄像头提供一个优化的嵌入式解决方案。为实现
发表于 2019-06-25
瑞萨电子推感知快速启动软件 提升嵌入式汽车ADAS性能

存算一体化与人工智能的完美融合

工智能目前的技术水平,实现落地场景的效果还不是那么尽如人意。但随着人工智能技术的发展以及芯片算力的提升,未来人工智能将会出现一个更大的爆发点,也会有更多的应用场景。 会上,知存科技的创始人王绍迪介绍道:“深度学习采用很庞大的网络,存储很多参数,完成大量的计算,同时在这些计算过程中会生成大量的数据。为了完成这些计算,芯片设计中会增加很多运算单元,如几千到几万个运算单元,随着运算单元数目的增加,每个运算单元能够使用的存储器的带宽和大小都在减小,存储器成为了计算的瓶颈。现在工业界和学术界都一致认为存算一体化是存储器瓶颈最有效的解决方案。” 存算一体化是一个笼统的概念,拥有很多种实现方式。其中一种实现方式是在内存和固态硬盘芯片
发表于 2018-07-17

小广播

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD.com.cn, Inc. All rights reserved