datasheet

华为的达芬奇架构芯片能否和英伟达平起平坐

2018-10-12来源: 半导体行业观察 关键字:华为  英伟达

日前,华为公布了其最新的AI芯片战略,并正式推出了基于达芬奇架构设计的的云端和边缘端的AI芯片。作为国内ICT产业、集成电路领域的一个重要角色,华为的这次公布,让行业内的人沸腾了。甚至出现了华为将在云端AI芯片领域干掉英伟达、谷歌,在边缘端会对这个领域的AI芯片初创者或者老玩家带来灭顶之灾。但华为真的有那么强大的影响力吗?我们来看一下本文作者对华为战略和整个市场影响力的分析。


近日,华为在联接大会2018发布了其全栈全场景AI解决方案,涵盖了从终端到云端,从AI芯片到深度学习训练部署框架的多层解决方案,其在AI领域投入的决心可谓巨大。然而,如果仔细分析其具体落地,我们会发现华为的战略特别实用主义,并没有去刻意追求技术上的精致,而是快速做了一个能满足需求的框架,以求先占领市场再做迭代。本文将着重对华为的AI芯片战略做一分析,并加入一些华为AI芯片对整个产业影响的个人观点。

 

多战场全覆盖:华为的雄心壮志

 

华为在本次大会上公布了其AI战略,涉及的产品无论是深度还是广度都是非常惊人的。首先,从深度来说,其AI相关产品生态包含了从应用接口ModelArt(用于客户的应用直接接入AI功能),中层深度学习软件框架MindSpore,软硬件接口层CANN,直到专用硬件Ascend系列,最终可以为终端和云端的应用赋能。

 

华为的AI战线之深可谓是全球一流,仅有Google、百度等技术导向明显的互联网公司可以与之匹敌(Google拥有最流行的深度学习框架TensorFlow和芯片TPU,百度则拥有深度学习框架PaddlePaddle和芯片XPU),而诸如微软、亚马逊、腾讯等其他云服务领域厂商的战线深度,尤其是在硬件领域的投入决心,都远远不及华为。

 

 

华为的战线如此之深,究其原因无外乎是“有纵深才能有壁垒”。

 

对于华为这样的巨头公司而言,只有把握住了生态链上的每一个环节,把开发者和用户的整个使用循环全部保留在自己的生态圈内,才能形成真正的壁垒,否则只要在任何环节存在空白或者弱项,就有被竞争对手或者新兴公司单点突破的机会。而这样的壁垒一旦形成,不仅仅可以完成对于竞争对手的防御,更可以在整体生态上获得极高的利润——由于完整技术栈的不可替代性,从而可以收获大量利润。Nvidia就是把自己凡是能接触到的生态环节都打通并做到极致的公司,从而产生了极高的壁垒:硬件上有GPU,深度学习框架和软硬件接口层有CuDNN和TensorRT,因此在这几年深度学习人工智能高速发展中,Nvidia几乎占据了不可替代的地位。

 

然而,Nvidia人工智能生态中的底层硬件GPU却存在破绽,由于GPU对于人工智能算法的支持并非完美,因此造成了计算效率不高,也引得群雄逐鹿,众多公司纷纷进入人工智能芯片的战场。从这个角度来看华为正在做挑战Nvidia的事情,借着Nvidia GPU做人工智能效率低的弱点,希望构建自主的技术生态来取而代之。

 

出了纵向深度之外,华为的战线横向也铺得很开。一旦有了一个设计完善的纵向框架,那么把这个框架在不同算力需求尺度上推广上将是非常容易的,对于华为这样以执行力强著称的公司来说这样的平推战术更是得心应手。一旦战略的深度和广度上都得到良好的执行,其最终的收益将是乘数效应(即收益正比于深度x广度),从而带来惊人的回报。从华为的战略广度来看,既包含终端(低功耗,中低算力),也包含边缘(中等功耗,中等算力)和云(高功耗,高算力)。在之前,华为的业务领域早已包含了从端(华为/荣耀手机以及智能家电)到云(华为云),因此在之前的业务上再部署推广人工智能可谓是水到渠成。 

 

 

唯快不破:“达芬奇”架构

 

华为同时注重深度和广度的人工智能战略是以技术为基石的,而其技术栈中最具有挑战性,同时也是最具有区分度的就是底层芯片。为了满足华为战略上的需求,其芯片技术需要满足以下需求:

 

  • 性能好,否则难以撼动Nvidia的位置,这毫无疑问是战略深度中最重要的一个要素;

  • 设计可伸缩性好,同一架构可以通过修改设计规模快速部署到不同算力尺度的应用,从而实现战略广度快速铺开的需求;

  • 通用性好,能兼容尽可能多的操作;

  • 上市速度要快。

 

以上四点要同时满足是非常困难的,尤其是一些非常痴迷于技术的公司,往往会选择去探索新的芯片架构以把前三个需求做到极致,这也就意味着放弃了第四个能快速上市的需求,因为新架构往往意味着较长的研发周期和较大的风险,难以做到快速上市。而华为的选择则是在传统架构上做足够的工程优化,并不追求极致性能,但求能满足用户需求并快速落地。与之对应的是华为使用在Ascend系列芯片中的达芬奇架构。

 

 

从Ascend芯片的架构来看,其实就是传统的ARM核+AI加速器的模式,而其AI加速器就是达芬奇核心。达芬奇核心从架构上看起来也并没有使用炫技式的前沿技术,而是简单直接地把计算用的乘加器(MAC)按照不同的计算组织成不同的方式,并搭配标准的数据缓存。当要做人工智能相关的计算时,可以使用按cube(“三维立方”) 模式组织的MAC群,从而支持相关计算。当需要其他常规计算时,则可以使用矢量或标量计算MAC。对于不同规模的芯片,可以通过放置不同数量的达芬奇核心来满足需求,因此同一个达芬奇核心的设计可以灵活地满足华为战略横向上不同应用的需求。

 

这次的大会上,华为发布了Ascend 910和Ascend 310,其中Ascend 910针对云端应用,使用7nm工艺在350W的功耗上实现了256 TOPS半精度浮点数算力或512 TOPS 8位整数算力,并且集成了128通道全高清视频解码器;而Ascend 310针对边缘应用,使用12nm工艺在7W的功耗上实现了8 TOPS半精度浮点数算力或16 TOPS 8位整数算力,并且集成了单通道全高清视频解码器。从中,我们可以看到华为的战略横向野心很大,但是第一个落地的市场看来还是机器视觉市场。

 

从公布的芯片性能上来看,这次Ascend 910以及Ascend 310特意提到了视频解码器,显然是与视频应用有关;此外,达芬奇架构中的cube式MAC阵列估计也是为了同时兼顾云端训练应用和机器视觉推理应用而做的选择。从技术上看,cube式MAC阵列非常适合卷积神经网络。卷积神经网络是目前机器视觉应用最流行的模型,而机器视觉应用则可以说是这一波人工智能应用中落地幅度最大的。在卷积神经网络中,卷积计算的形式(如下图)可以被达芬奇的cube式MAC阵列高效支持,而决策树、贝叶斯等其他常见机器学习算法在cube式MAC阵列上运行却不见得有什么优势,因此可以猜测达芬奇的架构设计首要目的是为了支持卷积神经网络推理,而优化卷积神经网络推理就意味着主打机器视觉。

 

换句话说,达芬奇架构是在通用性上有意识地做了折衷以换取较合理的开发时间和成本。另一方面,做云端训练的时候由于数据往往是批量到来,因此使用cube式MAC阵列也能一次处理一个批次中的不同并行数据,从而也能较好地支持训练。然而,如果从从架构上做比较,cube式的MAC阵列的效率相比Nvidia GPU的SIMD架构未必会有本质上的提升,因此从训练的角度来看达芬奇架构可以说是Nvidia GPU的替代者,但很难说是超越者。

 

 

我们不妨将达芬奇架构与目前最热门的两种商用人工智能芯片架构做比较,即Nvidia的GPU和Google的TPU。Nvidia的GPU架构源自经典的GPU多核并行架构,为了优化人工智能计算,加入了对于矩阵运算的优化支持(Tensor Core)。但是GPU并非天生为人工智能而生,因此在卷积神经网络推理等主流应用上,GPU架构的效率并不高,因此华为达芬奇为卷积神经网络优化过的架构相比GPU的计算效率要强不少。与Google的TPU相比,达芬奇架构则显得更加简单直接。

 

TPU上使用了优美的脉动阵列(systolic array)架构,该架构虽然很久之前就被人们提出,但是迟迟没有找到合适的应用,因此TPU采用脉动阵列从某种意义上可以说是重新发明了脉动阵列,给了脉动阵列以新生。脉动阵列的优势是对于内存带宽的需求大大减少,但是问题在于难以做小,一旦做小了效率就会大大下降——在TPU等级的云端高算力应用脉动阵列是合适的,但是在终端低算力低功耗应用中脉动阵列的效率就不高。因此达芬奇架构相比TPU的脉动阵列来说更灵活,能满足不同算力需求,也即满足了华为AI战略中的横向部分。

 

 

最终比拼的还是生态

 

从之前的分析中,我们的结论是华为的达芬奇架构是一个出色的架构,与Nvidia的GPU和Google的TPU相比性能并不落下风,但是其可伸缩性却远好于GPU和TPU,能快速部署到多个不同算力等级的应用中。为了能充分发挥可伸缩性强的优势,华为的AI芯片必须能尽快进入多个不同的应用领域,因此最终比拼的还是综合生态而非一两个特定应用上的性能对比,正

[1] [2]

关键字:华为  英伟达

编辑:muyan 引用地址:http://www.eeworld.com.cn/qrs/2018/ic-news101251746.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:AI芯片未成垄断格局,华为阿里机会来了
下一篇:最后一页

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

一息尚存,AI芯片未成垄断格局,华为阿里机会来了

1956年,时任达特矛斯学院助理教授的约翰?麦卡锡组织召集了达特矛斯讨论,正是在这次会议上,第一次正式提出了“人工智能”的定义。在那以后的60年里虽然AI经历了两次发展的低谷,但这并不影响AI成为当下科技圈最受追捧的技术:仅去年与AI相关的兼并收购金额全球就达到240亿美元,VC投资则达到140亿美元。 全球范围内的AI初创公司不断涌出,互联网科技巨头时不时也发出“all in AI”的言论,就连一向强调业务“边界”的华为也于近日高调宣布进入AI芯片市场,期望以架构设计者以及生态主导者的双重身份带动自身和行业发展。 在上海举行的华为全联接大会第二天,华为公司董事、战略Marketing总裁徐文伟在演讲中提
发表于 2018-10-12
一息尚存,AI芯片未成垄断格局,华为阿里机会来了

华为无人驾驶技术开花,推出数据中心可处理16个摄像头22雷达

在10月11日的华为全连接大会上,华为联合奥迪发布了L4自动驾驶联合创新。同时,华为推出MDC600数据中心,这款数据中心可搭载在汽车上,实时完成一系列计算。据介绍,这款数据中心的计算性能可达到352TOPS,可支持L4级别的自动驾驶计算。具体来说,它可处理16个摄像头、6个毫米波雷达、16个超声波雷达和8个LiDAR的数据。此外,它的延时低于200ms,较同行下降60%,可满足自动驾驶的计算低延时要求。整个系统的能效则达到1TOPS/W,并达到汽车安全完整性等级ASIL的最高D等级。基于这款移动数据中心的能力,华为还和奥迪联合发布了L4自动驾驶联合创新计划。在现场,奥迪通过大屏幕演示了自动驾驶效果。
发表于 2018-10-11
华为无人驾驶技术开花,推出数据中心可处理16个摄像头22雷达

博世携手华为云推出物联网套件服务,加速IOT在中国发展

在2018华为全联接大会(HUAWEI CONNECT)上,全球领先的技术与服务供应商博世与全球领先的信息与通信技术基础设施和智能终端提供商华为正式宣布合作,博世物联网套件软件服务(Bosch IoT Suite)将搭载于华为云实现在华落地应用,加速物联网在中国的发展。 中国物联网平台的市场预计在未来几年将增长近70%。“中国对物联网解决方案的需求与日俱增,是亚洲发展最快的物联网市场之一。博世与华为云的合作标志着博世在中国的物联网市场迈出了坚实一步。”博世软件创新集团首席执行官Stefan Ferber博士表示:“我们很高兴能与华为云开展合作,为中国市场提供基于云的物联网服务,将设备、用户和企业互联。相信博世软件创新
发表于 2018-10-11
博世携手华为云推出物联网套件服务,加速IOT在中国发展

进军AI市场,华为开始部署“达芬奇”项目

“外界一直在传华为正在开发AI芯片,我要告诉大家,这是事实。”在10日举行的上海全联接大会上,华为轮值董事长徐直军正式对外公布了华为在AI领域的最新动作:推出全栈全场景AI解决方案,并且同时推出两款AI芯片,华为昇腾910(Ascend 910)和Ascend 310。在关于910的介绍中,徐直军强调,该款芯片是目前全球已发布的单芯片计算密度最大的AI芯片。在外界的印象中,华为更多的客户来自于全球运营商以及企业客户,手机层面虽然也有涉及芯片,但开发一套类似TensorFlow、Caffe、PaddlePaddle的深度学习开源框架,并推出跨终端、私有云、公有云等平台的AI算法模型,这怎么看都有些“跨界”,加上AI芯片领域的成熟玩家
发表于 2018-10-11

你会为联想感到惋惜吗?

联想,本应该能成为比华为更伟大的国产公司! 可是,从这几年联想的发展来看,处处掣肘、战略规划不清晰、业务问题百出,使得这家公司成为互联网时代最后的“牺牲品”,当然,现在的联想依然是国内屈指可数的硬件公司,可是联想的上限估计也就如此了?他没有能在移动互联网时代打出自己的牌,看着华为发展得越来越好,自己只能望洋兴叹! 早在二十年前,当时的倪光南还是联想的总工程师,当时英特尔在芯片领域实力很强,但并非没有机会。倪光南提出建立自己的芯片、系统,并在后来的几年里研发出了联想式汉卡,这与国际先进国家的差距基本没有太大,如果当时坚持做下去,国内不仅可以有自己的芯片,还可能有自己的系统,然而,就是因为当时大环境使得市场和高层
发表于 2018-10-10

华为新Mate系列Q4出货将达500万部,利好台积电、汇顶等业绩

   仅次于苹果,华为今年荣登全球手机行业第二的宝座。天风国际证券研究与策略部副总监郭明錤预测,新Mate系列本季出货量将达500万部,Mate 20 Pro、Mate 20将占据主要出货比重。在新机齐发的10月,华为供应链厂商将在第四季度迎来全年营运高峰。除了汇顶、舜宇、欧菲光等大陆厂商外,台积电、大立光和新钜科则是台湾地区的主要受惠者。华为主要供应链厂商列表据悉,屏下指纹 (光学方案)和后置三摄将成为华为高端机型的必备功能。华为首次采用屏下指纹 (光学方案),最高端旗舰机型Mate 20保时捷与Mate 20 Pro将支持屏下指纹。郭明錤预测,华为在2019年持续将屏下指纹当作高端机型关键卖点,汇顶仍是华为
发表于 2018-10-10
华为新Mate系列Q4出货将达500万部,利好台积电、汇顶等业绩

小广播

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved