datasheet

微软AI芯片Brainwave开放云端试用版 比TPU快5倍

2018-05-11来源: 智东西关键字:微软  Brainwave

智东西5月8日消息,昨天,微软在Build大会期间宣布,开发者现在可以接入微软Azure云,试用由Project Brainwave芯片计算平台提供的AI服务。同时还发布了可部署于边缘设备平台的Project Brainwave内测版。Project Brainwave计算平台是微软基于英特尔FPGA芯片打造的低延迟深度学习计算平台。

微软表示,与最流行的行业基准相比,Project Brainwave可以将实时AI计算的延迟时间降到最小,并且成本控制在可接受的范围。

(微软工程师道格·伯格举着Project Brainwave芯片)

一、Project Brainwave是什么?

Project Brainwave项目在去年8月23日于芯片行业论坛HotChips被微软提出。微软表示Project Brainwave计算平台的目标是:支持快速深度学习运算,并支持开发人员对芯片进行重构。

微软将Project Brainwave计算平台的架构分为三个层面:

1、高性能的分布式架构(架构层)

2、集成到FPGA中的硬件DNN引擎(硬件层)

3、针对训练好的模型,支持平滑部署的一套编译器及运行时环境(软件环境)

去年提出Project Brainwave时,微软表示,这个计算平台将支持微软Cognitive Toolkit和谷歌TensorFlow。。

今年3月,微软为了测试Project Brainwave计算平台的能力,让自家的Bing搜索引擎接入了这个平台,实验结果表明,Bing搜索引擎的能力提升了十倍。

昨天发布Project Brainwave试用版,是微软首次通过云端向外部用户提供FPGA AI专用芯片的能力。

二、Project Brainwave中FPGA芯片的意义是什么?

AI芯片对于AI的意义,可以看作发动机对于汽车意义。所以Project Brainwave计算平台的能力强弱,取决于这个平台所使用的芯片。

微软表示,Project Brainwave计算平台使用的FPGA芯片将使AI数据处理速度很快,相比谷歌使用的TPU芯片,FPGA芯片的处理速度快上了5倍。微软说道:“该芯片为实时AI而设计——这意味着,它能以极低的延迟在接收数据后立刻处理请求。由于云平台需要处理实时数据流,不管是搜索请求、视频、传感器数据流还是用户交互,实时AI正在变得越来越重要。”

这种芯片的另一个优势在于,客户企业将能够根据自己的需求重新对芯片系统进行设计,这是微软为客户提供更强灵活性服务策略的一部分。

三、FPGA芯片的优劣势

可见,在Project Brainwave项目中,微软大力研发FPGA AI专用芯片,其他巨头为了迎接即将到来的AI时代也进行着各自的努力,例如谷歌TPU、英伟达GPU等等。那么,他们各自都有何特点呢?

1.英伟达GPU

GPU并不是近期才出现的,其实它就是你电脑中显卡的核心部件,名字是图形处理器。

目前,GPU在AI领域的应用,都是采用“CPU+GPU”计算模型。

与CPU相比,CPU 由专为顺序串行处理而优化的几个核心组成,GPU 拥有一个由数以千计的更小、更高效的核心(专为同时处理多重任务而设计)组成的大规模并行计算架构。“CPU+GPU”计算模型能将应用程序计算密集部分的工作负载转移到 GPU,同时仍由 CPU 运行其余程序代码。从而提升运算速度。

(“CPU+GPU”运算示意图)

但这种计算模型其实就是利用现有的成熟技术提供了一种通用级的解决方法来满足AI深度学习的要求,而并不是一种针对性的专业解决方案。

2.谷歌TPU

TPU是谷歌专门为加速深层神经网络运算能力而研发的一款芯片,目前主要运用于模型建立以及定点推测。

TPU其实是一个ASIC(专用集成电路),ASIC是应特定要求和特定电子系统的需要而设计、制造的集成电路。

通常而言,ASIC的开发需要耗时数年。但谷歌TPU从设计到验证、构建和部署到数据中心里,只用了15个月。

除了开发部署时间短外,TPU在峰值性能上也较GPU有一定优势。GPU在单个时钟周期内,可以处理数百到数千次运算。而TPU可以在单个时钟周期内处理数十万次运算。

同时,确定性是TPU专用用途带来的另一个优势。CPU和GPU需要考虑各种任务上的性能优化,因此会有越来越复杂的机制,带来的副作用就是这些处理器的行为非常难以预测。而使用TPU能轻易预测运行一个神经网络并得出模型与推测结果需要多长时间,这样,就能让芯片以吞吐量接近峰值的状态运行,同时严格控制延迟。

不过,TPU的性能优势使得它的灵活性较弱,这也是ASIC芯片的常见属性。

3.灵活的FPGA

FPGA全称是Field Programmable Gate Array:现场可编程门阵列。FPGA内部集成大量的数字电路基本门电路和存储器,用户可以通过烧入配置文件来定义这些它们之间的连线,从而达到定制电路的目的。

通俗来说就是,对比TPU,TPU虽然也是基于特定需求设计的ASIC,但就好比是雕一尊雕像,雕好后不能再更改;而FPGA则是乐高积木,什么硬件电路都能模仿,而且能多次更改。

有了这个特点,FPGA的设计部署周期比TPU更短,只需要6个月左右,而且更加能灵活适应多种需求。

而且,FPGA不像GPU依赖于冯·诺依曼结构,一个计算得到的结果可以被直接馈送到下一个计算,无需在主存储器临时保存,因此不仅存储器带宽需求低,而且还具有流水处理的特点,大大减小了输入与输出的延时比。

FPGA的的架构固然带来了应用上的灵活性,但是从执行运算的效率上来说,它又远远比不上ASIC。FPGA的运算电路基于查找表,比如说,FPGA内部有1000万个自定义逻辑部件,一个4输入的查找表单元需要96个晶体管来支持,而在ASIC上来实现估计只需要10个左右。这些问题也导致了FPGA芯片的面积更大、功耗更多。

四、AI芯片热潮

看完以上各个巨头研发的AI芯片优劣势,我们可以感到,目前,尚未出现某种芯片“独步天下”的态势,各种芯片都有其优劣势。

AI是下一次科技革命的核心技术,全球企业都纷纷在AI芯片上发力,期待着自己成为这个行业的领头羊。外国企业热火朝天,中国企业也不甘人后,现在已经涌现地平线、寒武纪、深鉴科技、中天微等一批明星初创企业。数据显示,仅去年下半年,在芯片制造巨头台积电的生产线上,就有超过30家AI芯片排队等待流片。

众多企业投身这个行业,我们或许可以期待今后能有一款芯片,在GPU、ASIC、FPGA芯片的优缺点之间,找到高灵活性、强运算能力、低能耗、低成本之间的平衡。


关键字:微软  Brainwave

编辑:冀凯 引用地址:http://www.eeworld.com.cn/qrs/article_2018051148141.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:Synopsys设计平台获得TSMC工艺认证,支持高性能7nm+工艺技术
下一篇:应用毫微功耗运算放大器帮助电流感应

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

微软新专利:不同角度捕获2D图像来生成3D骨架

近日,美国专利商标局公布了微软一项名为“3d Skeletonization Using Truncated Epipolar Lines(利用截平极线的3D骨架化)”的专利。这份发明文件主要描述了利用从不同视点捕获的目标对象二维图像来生成三维骨架的技术。微软指出:“可以从不同的摄像头角度捕获对象的图像。可以在捕获的图像中识别对象的特征关键点。”      微软进一步解释说,可以接收和分析从不同视点描绘目标对象的图像,从而检测目标对象的可识别特征。然后,可以利用截平的极线来关联各个图像中的关键点。      具体来说,关键点的深度信息可用于截平利用关键点创建的极线。相关
发表于 2019-05-17
微软新专利:不同角度捕获2D图像来生成3D骨架

微软新专利:专为残疾人设计的输入设备?

今天美国专利商标局授予微软一项Xbox Adaptive Controller的设计专利,这是微软为Windows个人电脑和Xbox One视频游戏机设计的一款视频游戏控制器。该控制器是为残疾人设计的,以帮助用户更容易地输入视频游戏。下图是微软Xbox自适应控制器的设计图。      今天,微软被美国专利商标局授予专利D848423。微软最初是在2018年3月30日申请这项设计专利的。
发表于 2019-05-16
微软新专利:专为残疾人设计的输入设备?

探索新商业机遇,微软宣布和SKT合作

集微网消息,据韩国时报报道,韩国最大的移动运营商SK电讯(SK Telecom)周一表示,该公司与微软合作,将5G网络与云计算和人工智能技术结合起来,以探索新的商业机会。该公司最近与微软签署了一份谅解备忘录(MOU),以实施联合创新计划,即其全面战略伙伴关系计划,旨在与各领域的合作伙伴探索可持续和创新的商业机会。据谅解备忘录显示,两家公司计划共同推动物联网相关业务,如智能工厂。双方还将携手提高在人工智能技术及相关服务、媒体和娱乐服务等领域的竞争力。这家移动运营商表示,将结合其新的信息和通信技术,包括5G和人工智能,以及微软的先进云计算和人工智能技术,将产生协同效应。SK电讯首席执行官朴正镐表示:“为了在竞争激烈的5G市场占据
发表于 2019-05-15

联想与微软开展物联网合作,利用各类产品实施数字化转型

在Accelerate大会上,联想宣布和微软开展物联网合作,并展示了由微软Azure云平台提供支持的ThinkIoT产品。 联想方面介绍,这些产品将利用Azure SQL Database Edge和针对目标垂直行业打造的解决方案,帮助客户数字化转型。目前,以推动物联网、人工智能和数据管理工作为目的而配置微软Azure解决方案的客户,可利用联想的各类产品,例如ECP300边缘网关、IoT510C智能摄像头等,实施数字化转型。  “客户比以往任何时候都希望将现实世界与虚拟世界相连接,并通过物联网和人工智能解决方案推动业务转型。因此,选择与值得信赖的伙伴合作至关重要,他们要能够提供可以简化物联网的基础设施
发表于 2019-05-14
联想与微软开展物联网合作,利用各类产品实施数字化转型

微软Surface磁吸专利曝光,未来可能会少用粘合剂

5月11日消息 日前,微软一项新专利获批,这项专利是针对Surface内部空间设计的,微软通过磁吸式设计,可以减少Surface内部粘合剂的使用,让Surface更容易维修。这项专利中相关文档写到,“本文描述了一种配备了磁吸式附接电子元件的方法,该设备包括了壳体和电子元件,它们通过磁力与壳体表面进行连接”。微软这一专利可在设备制造期间,将设备中的电子元件一个或多个磁吸点与壳体表面对准,这样就不需要额外的粘合剂进行粘接,不仅适用于快速制造组装,也能大大减轻维修和回收的负担。作为一项概念设计,微软可能不会很快应用在实际产品中,但鉴于此前的Surface产品极其难修的现状,微软的这项专利尽早出现可能对维修人员是一件好事。
发表于 2019-05-12
微软Surface磁吸专利曝光,未来可能会少用粘合剂

微软研发眼镜风格HoloLens版本,或主打消费市场

在今年2月份举行的MWC大会上,微软正式发布了新一代的MR计算设备HoloLens 2,但是这款全新的MR头显仍然是面向商业市场。HoloLens团队负责人艾利克斯·基普曼(Alex Kipman)曾在多次采访中透露过一点有关消费版的看法,但这又似乎跟微软在月初举行的首届混合现实开发日上展示的MR未来发展预测相悖。现在,也许有一点可以解释部分相悖的说法。根据NDTV发布的一篇采访报道,微软已经在研发一款『眼镜风格』HoloLens版本,而这很有可能是微软在其预测表中列出的低端AR设备,即很可能是主打消费市场。延伸阅读:微软预测:2025年高端AR配5K屏、120度FOV,价格下降至2000美元微软MR部门的Director of
发表于 2019-05-10
微软研发眼镜风格HoloLens版本,或主打消费市场

小广播

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD.com.cn, Inc. All rights reserved