datasheet

产业专家对AI芯片未来发展的预测

2018-09-30来源: 半导体行业观察 关键字:AI

在加州山景城举办了 AI Hardware Summit 会议,这是目前唯一专门致力于开发用于神经网络和计算机视觉硬件加速器生态系统的活动。

 

会上,来自 AI 芯片初创企业、半导体公司、系统供应商/ OEM、数据中心、企业、金融服务、投资者和基金经理等 250 多位先进技术领导者们,为新兴的 AI 芯片市场构建了一幅全面的架构路线图。

 

本文作者 Brett Simpson 等人是市场研究机构 Arete Research 的高级分析师。在参加完本次会议后,他们将一些新的观察和所感写下来,形成了这份简短的小报告「AI Silicon: New Dawn for Compute」。从题目可以看出,作者非常看好 AI 芯片的前景。

 

以下是报告的中文译文:

 

人工智能硬件峰会的五大要点:

 

  • 几乎所有使 AI 计算加速的都是 7nm 芯片,由台积电制造。另外,我们还看到了一系列新的高速接口芯片 (Serdes 56 / 112gbs)。


  • 英伟达依旧是训练领域之王,我们将会看到其新款计算卡 Tesla T4(使用了全新的 12nm 制程工艺 图灵架构)的广泛使用。我们认为,它将在 2019 年继续占据主导地位。长远来看,我们对 AI 较少依赖于 CUDA 和 GPU 的状况感到担忧。


  • 我们认为 Intel 的 7nm AI 芯片(由台积电代工)支持 112GBs Serdes 和高速 DRAM。明年,在 Cascade Lake 服务器中,DL Boost INT8 会协助提高深度学习推理性能。


  • 所有的云计算服务商都在开发内部的芯片,加速计划是不公开的。这种垂直推进是对芯片制造商的一个主要威胁。


  •  在五年的时间中,我们看到:新的模拟计算机(神经形态)的进步,纳米线对数字计算的部分挑战,硅光子代替了 SerDes(112GBs 以上),以及更高速的存储器对 AI 性能提升的助益。


未来十年,AI 芯片将不仅是半导体领域最有前途的增长领域之一,还可能扰乱传统的计算机市场。

 

专门针对 AI 开发的软件还有 99%没写出来。如今,只有不足1% 的云服务器为AI加速服务(今年的服务器总数为 5 百万台),企业服务器则是几乎零举动。训练和推理的工作量正以较低的基数倍增,但市场似乎一致认为,今天的加速硬件(GPUs,CPUs, FPGAs)已经远远满足不了市场的需求——在我们看来,我们需要实现吞吐量的巨大飞跃(100 倍),以扩大 AI 的规模,并让 AI 变得无处无在。

 

好消息是,即将迎来结构性的创新,但是其作用需要一段时间才能显现出来。

 

2019 年以后,我们将看到:新的流程技术(7nm),新的计算机功能结构(芯片上的神经网络),新的芯片连接(56/112GBs SerDes),新的内存方法(HBM3,SRAM on-chip 等)和新的包装技术,所有这些都能大规模提升性能。

 

芯片行业正在进行创新反思,因为芯片的发展不能过多依赖制造业的萎缩来取得进展。机会来了。我们会继续看到,对长期投资 AI 芯片的投资者而言,投资台积电和主要的 DRAM 制造商仍是最佳选择。

 

我们上周参加了人工智能硬件峰会,了解了很多 AI 芯片替代品的现状。

 

有一件事是清楚的:我们从未见过如此多的公司(无论大小)像今天这样、进军新的芯片市场,毫无疑问,未来几年将会是一个令人着迷的时期,我们一定能见证这个市场的整合过程。

 

继谷歌的 TPU 领先之后,每个云计算服务商都在做内部的 AI 芯片。问题在于,要想影响市场的情绪,这一切需要的时间有多长。

 

毕竟,谷歌的 TPU 芯片已经到了第三代(2016 年中期推出第一代 TPU),但仍然承载不了 Tensorflow(或其他框架)所有工作量。我们认为,其他云计算服务商将在 2020 年验证并量产他们的第一款 AI 芯片。

 

造新的 AI 芯片,有两种通用方法。

 

第一种方法是,在系统上进行创新,以更快的 I/O 和外部内存接口(英伟达、英特尔等)为重点来扩展性能。

 

第二种方法是,把所有的数据集中保留在芯片上(芯片上的神经网络)——包括大量的小核和芯片内存,以减少对外部 DRAM 的需求。第二种方法将在未来 6 个月内实现第一批 AI 芯片的商业化,但我们认为,7nm 工艺才是促使市场为其买单的优势(也就是 2020 年的增长)。

 

围绕人工智能的软件栈在快速发展,云计算服务商也推出了开源适配器,以支持在其框架中运行的各种芯片(例如 Tensorflow XLA、Facebook Glow)。随着新神经网络的成熟,每个人都会认同可编程性和灵活性的重要性。

 

这意味着,7nm 芯片潜在的目标是,16 位浮点运算的运算能力至少要达到 10TOPS。人们真正关注的是如何通过提高效率来提高性能,如通过支持稀疏数据结构、降低精度、使用 mini-batching、加快芯片互联速度(112GB Serdes)、使用更快的内存接口(远超 HBM2),以及新的多芯片先进封装。

 

英特尔:AI 领域的玩家

 


 

当人们普遍不再依赖通用 CPU 时,也不再十分信任英特尔计划在未来几年内为 AI 引入一些新的优化措施这件事。

 

英特尔去年 (2017 年) 的 AI 收入约为 10 亿美元,Xeon CPUs 也将继续在 AI 推理和 AI 训练方面发挥重要作用。

 

例如,英特尔在 Cascade Lake 的服务器架构中添加了大量新的指令,以提高其推理性能(声称在精度为 INT8 的情况下、性能提升了 11 倍)。我们预计,这些扩展将与 AMD EPYC2 规格区别开来。

 

我们还相信,英特尔的下一个 ASIC 芯片(将于 2019 年采样)将由台积电代工(7nm),将具有一些关键的专有接口,这将显著提高它的性能。虽然当下 GPU 以低速(PCIE-3)与 CPU 相连,但是我们预计,新的服务器将 PCIE-4(16GB),仍会是数据输入 GPU 的关键瓶颈。

 

相比之下,我们认为,英特尔将在其 Xeon CPU 和 7nm Nervana 芯片之间构建专有接口,速度可达 112GB。英特尔正计划推出一种新的高带宽内存接口(这对云服务提供商来说,是一个关键的关注点),并积极参与新的多芯片包装。AI 的加速会导致更多的 CPU 被停用,英特尔正寻求通过围绕 Xeon 构建外围解决方案来获取价值。

 

时间会证明这是否有效,但为了在 2020 年对抗英伟达,这个目标十分明确。

 

英伟达:标准制定者

 


 

英伟达的 GPU 目前仍然是 AI 计算领域的王者,他们有实际的收益(支持所有的框架,所有的云计算服务商,所有的 OEM),他们的新品将有显著的性能提升——我们认为,其 T4 将被广泛采用,其新的 DGX2 服务器将在今年售罄。目前没有什么引人注目的替代品可供选择,我们认为,英伟达将继续占据主导地位(至少到 2019 年),但有两个主要问题让我们怀疑,英伟达是否能长期维持其领导地位:

 

首先,我们认为,很明显的一点是,随着谷歌和 ONNX 等公司的努力,英伟达的软件护城河 (CUDA) 将变得不那么重要。

 

云计算服务商正积极提供开源插件,用于替代芯片解决方案,以支持 Tensorflow、Pytorch、CNTK、coff2 等框架,从而降低进入新的 AI 处理器的软件门槛。

 

其次,是英伟达训练和推理芯片的经济性——虽然它们可以为许多 AI 工作节省 CPU,但是销售卡的超高利润率与昂贵的内存捆绑在一起(V100 是每张卡 1 万美元,P4 可能是每张卡 2000 美元),这只会让云端玩家拥抱其他架构。

 

图 1: 微软关于计算选择强调了我们的观点,即需要快速发展 GPU。

 

 

来源:微软在人工智能硬件峰会上的 PPT

 

尽管如此,英伟达有巨大的资源来超越竞争对手 (尤其是初创企业),它致力于每年为 AI 推出一种新的架构,可能在 2019 年首次推出 7nm 解决方案。

 

V100 和 T4 在很大程度上都被视为英伟达在 AI 领域的第一颗转换芯片(不再只是通用 GPU),因为它们是第一个支持张量核心和较低推理精度的芯片(INT8)。

 

随着英伟达 7nm 芯片的推出,我们期待,其性能在 2019 年会有另一个大的飞跃——有很多大幅提升吞吐量和延迟以提升效率的方法,我们预期,其下一代芯片更像以 AI 为中心的 ASIC,而不是 GPU。

 

云端的消费者告诉我们,他们使用 V100 GPU 来进行训练的频率很低(低至 15%),因为他们用 GPU 只是为了训练单一的神经网络。他们希望英伟达能将 GPU 虚拟化——尽管对 AI 计算的需求永无止境的,但这可能会给英伟达的 GPU 增长带来压力。

 

此外,英伟达如今拥有芯片对芯片的快速接口(NVlink2),运行速度为 25Gbs(远远超过仅 8GB 的 PCIE-3 或 16GB 的 PCIE-4)。我们预计,到 2019 年底,英伟达将支持 56Gbs 甚至 112 GB 的服务器,因为有些替代方案可以提升这些规格。

 

我们认为,英伟达的下一代架构将在 2019 年的 7nm 芯片上出现(超过 Volta / Turing),这将大大决定它能够在多大程度上拉开市场差距。

 

AI 芯片的替代品——即将到来

 


 

随着谷歌 TPU 的推出,每个云计算服务商内部都有了做 AI 芯片的项目,我们认为,这将在未来 18 个月内得到验证。

 

有些人公开表达了自己的意图。微软甚至在峰会上设立了招聘平台,这就是它渴望建立团队的表现。但有关这些项目的状况,我们无从得知:云计算服务商没有公开他们造芯计划的任何细节,所以

[1] [2]

关键字:AI

编辑:muyan 引用地址:http://www.eeworld.com.cn/IoT/2018/ic-news09304403.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:研华发布首款基于“中国芯”ARM高性能处理器工业运算平台
下一篇:推动物联网商业化,Semtech发布设计合作伙伴计划

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

Helio P90押宝AI 联发科技

      上周,联发科技正式发了Helio P90芯片。这颗芯片和以往产品不同,它更加注重AI方面的设计和运算能力,而常规的CPU、GPU反而有点充当配角的意思。联发科技Helio P90芯片  如果你关注这颗芯片,会发现它没有最先进的工艺制程,也没有最前沿的CPU核心架构设计,却将AI运算提升到了旗舰芯片的水准。是的,联发科技Helio P90芯片其实算不上一颗旗舰处理器。  模糊了处理器定位的产品  事实上,Helio P系列芯片一直定位中端,X系列才是联发科技的旗舰产品,只不过受到市场、技术等诸多因素的影响,P系列芯片才成为联发科技主推的芯片产品。  在这个过程中,联发科技提出了“新高
发表于 2018-12-20
Helio P90押宝AI 联发科技

强大的AI性能也难抵行业疲软

集微网消息,近日,联发科Helio P90隆重亮相,在深圳的发布会上,更是以“AI不释手”的主题直奔卖点,强化AI性能。在众多突出的功能中,联发科强调,AI性能才是Helio P90的主打,升级APU 2.0运算单元之后,其AI算力进一步增强,相比上一代提升四倍,超过1.1TMACs(1.1万亿次乘积累加运算),功耗比上一代降低50%,带宽需求也降低50%。预计明年第1季相关终端产品将在全球上市。然而,最新行业报告指出,正面看待P90的AI空间升级,预估很难帮助联发科获得显著的市占率及抵消产业的疲软,并将评等调降至减码,目标价下修至200元新台币(下同),明年每股纯益预估值也下调至13.33元。业内最新出炉的报告对联发科看法保守
发表于 2018-12-20

图玛深维探路医学影像AI获得较大反响 AI正在给医疗带来一场变革

2018年12月15日-12月16日,首届中国医学影像AI大会在上海国家会议中心隆重举行。本次大会由中国医学影像AI产学研用创新联盟(CAIERA,以下简称联盟)主办,中国健康促进基金会、上海市医学会放射学分会、中国医学计算机成像杂志共同承办大会以“需求、引领、共赢、分享”为主题,吸引了超过2000多来自政、产、学、研、医等各相关领域代表、行业领袖、顶级专家参与本次大会。这是首次以医学影像AI为主题的全国性大会,议题涉及医疗影像AI最前沿的技术、落地实践案例、面临困境、挑战及解决方案,注重AI落地应用实践已经成为行业共识。AI正在给医疗带来一场变革医学是人工智能最早引入的领域之一。医学人工智能公司呈雨后春笋般出现,目前已经在
发表于 2018-12-18
图玛深维探路医学影像AI获得较大反响 AI正在给医疗带来一场变革

红米新机:后置4800万像素AI双摄

集微网消息,本月初小米联合创始人兼总裁林斌发了一条关于小米新机的微博,盛赞它用户体验不错,雷军也强调了该机搭载4800万像素的摄像头,让人误以为小米的新机会是一款旗舰机,然而从红米手机转发了该微博看,林斌试用的小米新机将隶属于红米系列。现在这款后置4800万像素的红米新机已经成功入网,它的入网型号为M1901F9T,发证日期为2018年12月13日,是一款支持TD-LTE/LTE FDD/TD-SCDMA/WCDMA/cdma2000/CDMA 1X/GSM制式的双卡双待Android智能手机。硬件配置方面,它用上了5.84英寸FHD+分辨率水滴屏,2900mAh额定电池容量,后置4800万像素AI双摄,后置指纹。其他方面,从国家
发表于 2018-12-18
红米新机:后置4800万像素AI双摄

智能音箱战火凶猛 各巨头落地AI抢占未来入口

的1%增加到2018年Q3度的8%,说是逆袭而来毫不为过。由此,百度、阿里与小米的智能音箱大战已然开打。  国内国外全球发力,智能音箱成风口  2018年被称作智能音箱元年并不过分,国内外巨头猛砸智能音箱,近两年智能音箱实现了跳跃式增长,从小众走向大众成为智能音箱行业发展的趋势。全球发力,一方面是因为其巨大的消费市场,另一方面作为未来的AI入口,互联网巨头们断然不会错过这一战略要地。  1、智能音箱众人爱,大小玩家扎堆干  2014年以来,亚马逊、谷歌和苹果等全球科技巨头纷纷入局智能音箱市场,比如亚马逊的Echo,谷歌Home、苹果HomePod,微软Invoke,Facebook的Portal,他们对市场进行了初步教育,掀开了智能音箱
发表于 2018-12-17
智能音箱战火凶猛 各巨头落地AI抢占未来入口

依未科技:多年的沉淀和技术探索破解AI眼科落地难题

我国传统中医开山著作《黄帝内经》中有一句箴言叫做:上工治未病,中工治已病,下工治末病。然而由于医疗资源的匮乏和不均衡,疾病预防和早期筛查往往被忽视,资源被更多的投入到救治环节,从而使得“医未病”成为一个尚未实现的“梦想”。人工智能的出现,让人类的智慧和机器的效率有机的结合,从而使得“医未病”梦想的实现成为可能。动脉网《2018医疗人工智能报告》数据显示,肺结节筛查和糖网筛查已成为目前医疗人工智能最热门的两大领域,除了腾讯、谷歌等巨头在不断投入外,各大创业公司,也在你挣我夺,助推行业的发展。经过2016,2017,2018年三年的发展,AI应用于眼科仍有一个迈不过去的门槛:即如何突破AI技术瓶颈,实现产品的商业化落地?并在市场和行业
发表于 2018-12-15

小广播

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
pt type="text/javascript" src="//v3.jiathis.com/code/jia.js?uid=2113614" charset="utf-8">