微软AI芯片Brainwave开放云端试用版 比TPU快5倍

2018-05-11 10:37:17编辑:冀凯 关键字:微软  Brainwave

智东西5月8日消息,昨天,微软在Build大会期间宣布,开发者现在可以接入微软Azure云,试用由Project Brainwave芯片计算平台提供的AI服务。同时还发布了可部署于边缘设备平台的Project Brainwave内测版。Project Brainwave计算平台是微软基于英特尔FPGA芯片打造的低延迟深度学习计算平台。

微软表示,与最流行的行业基准相比,Project Brainwave可以将实时AI计算的延迟时间降到最小,并且成本控制在可接受的范围。

(微软工程师道格·伯格举着Project Brainwave芯片)

一、Project Brainwave是什么?

Project Brainwave项目在去年8月23日于芯片行业论坛HotChips被微软提出。微软表示Project Brainwave计算平台的目标是:支持快速深度学习运算,并支持开发人员对芯片进行重构。

微软将Project Brainwave计算平台的架构分为三个层面:

1、高性能的分布式架构(架构层)

2、集成到FPGA中的硬件DNN引擎(硬件层)

3、针对训练好的模型,支持平滑部署的一套编译器及运行时环境(软件环境)

去年提出Project Brainwave时,微软表示,这个计算平台将支持微软Cognitive Toolkit和谷歌TensorFlow。。

今年3月,微软为了测试Project Brainwave计算平台的能力,让自家的Bing搜索引擎接入了这个平台,实验结果表明,Bing搜索引擎的能力提升了十倍。

昨天发布Project Brainwave试用版,是微软首次通过云端向外部用户提供FPGA AI专用芯片的能力。

二、Project Brainwave中FPGA芯片的意义是什么?

AI芯片对于AI的意义,可以看作发动机对于汽车意义。所以Project Brainwave计算平台的能力强弱,取决于这个平台所使用的芯片。

微软表示,Project Brainwave计算平台使用的FPGA芯片将使AI数据处理速度很快,相比谷歌使用的TPU芯片,FPGA芯片的处理速度快上了5倍。微软说道:“该芯片为实时AI而设计——这意味着,它能以极低的延迟在接收数据后立刻处理请求。由于云平台需要处理实时数据流,不管是搜索请求、视频、传感器数据流还是用户交互,实时AI正在变得越来越重要。”

这种芯片的另一个优势在于,客户企业将能够根据自己的需求重新对芯片系统进行设计,这是微软为客户提供更强灵活性服务策略的一部分。

三、FPGA芯片的优劣势

可见,在Project Brainwave项目中,微软大力研发FPGA AI专用芯片,其他巨头为了迎接即将到来的AI时代也进行着各自的努力,例如谷歌TPU、英伟达GPU等等。那么,他们各自都有何特点呢?

1.英伟达GPU

GPU并不是近期才出现的,其实它就是你电脑中显卡的核心部件,名字是图形处理器。

目前,GPU在AI领域的应用,都是采用“CPU+GPU”计算模型。

与CPU相比,CPU 由专为顺序串行处理而优化的几个核心组成,GPU 拥有一个由数以千计的更小、更高效的核心(专为同时处理多重任务而设计)组成的大规模并行计算架构。“CPU+GPU”计算模型能将应用程序计算密集部分的工作负载转移到 GPU,同时仍由 CPU 运行其余程序代码。从而提升运算速度。

(“CPU+GPU”运算示意图)

但这种计算模型其实就是利用现有的成熟技术提供了一种通用级的解决方法来满足AI深度学习的要求,而并不是一种针对性的专业解决方案。

2.谷歌TPU

TPU是谷歌专门为加速深层神经网络运算能力而研发的一款芯片,目前主要运用于模型建立以及定点推测。

TPU其实是一个ASIC(专用集成电路),ASIC是应特定要求和特定电子系统的需要而设计、制造的集成电路。

通常而言,ASIC的开发需要耗时数年。但谷歌TPU从设计到验证、构建和部署到数据中心里,只用了15个月。

除了开发部署时间短外,TPU在峰值性能上也较GPU有一定优势。GPU在单个时钟周期内,可以处理数百到数千次运算。而TPU可以在单个时钟周期内处理数十万次运算。

同时,确定性是TPU专用用途带来的另一个优势。CPU和GPU需要考虑各种任务上的性能优化,因此会有越来越复杂的机制,带来的副作用就是这些处理器的行为非常难以预测。而使用TPU能轻易预测运行一个神经网络并得出模型与推测结果需要多长时间,这样,就能让芯片以吞吐量接近峰值的状态运行,同时严格控制延迟。

不过,TPU的性能优势使得它的灵活性较弱,这也是ASIC芯片的常见属性。

3.灵活的FPGA

FPGA全称是Field Programmable Gate Array:现场可编程门阵列。FPGA内部集成大量的数字电路基本门电路和存储器,用户可以通过烧入配置文件来定义这些它们之间的连线,从而达到定制电路的目的。

通俗来说就是,对比TPU,TPU虽然也是基于特定需求设计的ASIC,但就好比是雕一尊雕像,雕好后不能再更改;而FPGA则是乐高积木,什么硬件电路都能模仿,而且能多次更改。

有了这个特点,FPGA的设计部署周期比TPU更短,只需要6个月左右,而且更加能灵活适应多种需求。

而且,FPGA不像GPU依赖于冯·诺依曼结构,一个计算得到的结果可以被直接馈送到下一个计算,无需在主存储器临时保存,因此不仅存储器带宽需求低,而且还具有流水处理的特点,大大减小了输入与输出的延时比。

FPGA的的架构固然带来了应用上的灵活性,但是从执行运算的效率上来说,它又远远比不上ASIC。FPGA的运算电路基于查找表,比如说,FPGA内部有1000万个自定义逻辑部件,一个4输入的查找表单元需要96个晶体管来支持,而在ASIC上来实现估计只需要10个左右。这些问题也导致了FPGA芯片的面积更大、功耗更多。

四、AI芯片热潮

看完以上各个巨头研发的AI芯片优劣势,我们可以感到,目前,尚未出现某种芯片“独步天下”的态势,各种芯片都有其优劣势。

AI是下一次科技革命的核心技术,全球企业都纷纷在AI芯片上发力,期待着自己成为这个行业的领头羊。外国企业热火朝天,中国企业也不甘人后,现在已经涌现地平线、寒武纪、深鉴科技、中天微等一批明星初创企业。数据显示,仅去年下半年,在芯片制造巨头台积电的生产线上,就有超过30家AI芯片排队等待流片。

众多企业投身这个行业,我们或许可以期待今后能有一款芯片,在GPU、ASIC、FPGA芯片的优缺点之间,找到高灵活性、强运算能力、低能耗、低成本之间的平衡。


关键字:微软  Brainwave

来源: 智东西 引用地址:http://www.eeworld.com.cn/qrs/article_2018051148141.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:Synopsys设计平台获得TSMC工艺认证,支持高性能7nm+工艺技术
下一篇:应用毫微功耗运算放大器帮助电流感应

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

逆时代产品?微软正在开发Surface双屏掌上电脑

最近有消息称微软在开发一款代号Andromeda的Surface双屏掌上电脑。有刊文称,微软过往反复几次做过PDA(掌上电脑),打造Andromeda是想要重新推出PDA,但它为什么要这么做呢?那样的现代掌上电脑有什么功能是智能手机无法做到的呢?以下是文章主要内容:微软想要重新推出PDA——一款以掌上电脑为形式的个人数字助理,而不是像Cortana或Siri那样由人工智能驱动的虚拟助手。具体来说,该公司据称正在研发一款代号Andromeda的双屏幕可折叠设备,该设备将成为其Surface系列的一部分。每个人都在问:为什么会有人想要将PDA重新推出市场?答案是:试过用iPhone完成工作吗?6月底,科技博客The Verge获得了
发表于 2018-07-19 20:53:11
逆时代产品?微软正在开发Surface双屏掌上电脑

微软发布最小笔记本Surface Go,性价比如何?

微软正式发布了Surface Go产品,号称这是有史以来最小最实惠的Surface,起价为399美元(约合人民币2638元)的建议零售价。 外形上,Surface Go的重量仅为1.15磅,厚度仅为8.3毫米,3:2宽高比显示屏、10英寸屏幕,1800 x 1200分辨率。 配置方面,Surface Go,内置第7代英特尔奔腾处理器4415Y,双核四线程,采用无风扇设计,可提供长达9小时的电池续航时间,同时配备4或8GB RAM和64或128GB存储空间。 Surface Go内置支架铰链可延伸至165度,带面部识别登录功能的前置摄像头,开箱运行Windows10S模式,并可免费升级至Win10
发表于 2018-07-19 20:47:23
微软发布最小笔记本Surface Go,性价比如何?

微软Surface Phone还活着 2019年仙女座系统爆发

此前ZDnet编辑Mary Jo Foley消息称,微软最近决定取消将仙女座系统整合到下一个Windows 10系统,今年很可能不会发布Surface Phone设备,原因是时间安排和质量上还存在问题。The Verge编辑Tom Warren也表示,短时间内不会见到Surface Andromeda设备,因为未形成应用生态。  而现在新的报告指出,微软Surface Andromeda还没死亡,至少是现在还活着。  爆料人士Brad Sams在Thurrott.com上解释说,微软仍在为Andromeda寻找正确的硬件和软件组合:多个消息源告诉我,微软计划在发布设备之前彻底检修软件和硬件。在这期间,软件和硬件并没有创造一个
发表于 2018-07-18 08:25:54
微软Surface Phone还活着 2019年仙女座系统爆发

播音主持的噩梦 微软小冰迎年度最大升级

   微软小冰官方微博今日宣布,将在7月26号迎来史上最大幅度的一次年度升级,正式进化为第六代小冰。第六代小冰简直是播音主持人员的噩梦,从提前解锁的“技能”来看,微软小冰已经主持了超过2000小时的电台电视节目,还口出狂言事儿太小,放不进发布会,只能提前发个通告,看样子有点真本事。微软小冰微软小冰  过去三天,微软小冰主持了《你早京津冀》、《早上听大超》、《看东方》、《一路领先》、《91.8早高峰》、《音乐点心》等电台电视节目,基本毫无违和感。可以预见的是,一些简单的播报工作,比如路况、天气、股市、新闻等工作,小冰基本都能胜任,播音主持们的心灵恐将受到重击。微软小冰微软小冰节目单  随着人工智能的飞速发展
发表于 2018-07-13 08:14:19
播音主持的噩梦 微软小冰迎年度最大升级

经历过最大规模的销售部门重组,微软又要裁员?

据国外媒体报道,知情人士透露,微软本周缩减了其国际销售人员的规模,裁掉了一小部分员工。 这位知情人士表示,裁员人数比一年前的一轮裁员要少,他也不清楚确切的裁员人数。 此举并不是任何改变策略的标志,而且基本上是微软的正常业务过程,微软于上周开始进入2019财年。 2017年,微软削减了数千个工作岗位,占到销售人员的10%。 去年,微软在进行了历史上最大规模的销售部门重组。 图示:微软首席执行官萨蒂亚·纳德拉(Satya Nadella)在公司的旗舰技术和商务会议上发表演讲
发表于 2018-07-11 19:29:55
经历过最大规模的销售部门重组,微软又要裁员?

微软双屏可折叠“Surface”项目已搁置?

   上周,随着一封微软内部邮件的曝光,代号Andromeda的Surface手机再次浮出水面,其工程机形态据说类似于民间渲染,采取双屏可折叠设计。  不过,常以爆料微软消息见长的ZDnet名记Mary Jo Foley从可靠渠道获悉,其配套的跨平台操作系统AndromedaOS在进度和质量未达标,不能与下一版Win10(RedStone 5)同时完工,甚至连明年的RedStone 6也不能保证。  同时,Mary提到,在面向市场推出一款小型的双屏手机这点上,微软似乎连自己都尚未说服。  目前的情况是,对于Andromeda项目,微软已经暂时搁置,重新回归到软件开发的蓝图上。  Mary自己也对微软在这样
发表于 2018-07-03 12:56:28
微软双屏可折叠“Surface”项目已搁置?

小广播

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved