datasheet

微软AI芯片Brainwave开放云端试用版 比TPU快5倍

2018-05-11来源: 智东西 关键字:微软  Brainwave

智东西5月8日消息,昨天,微软在Build大会期间宣布,开发者现在可以接入微软Azure云,试用由Project Brainwave芯片计算平台提供的AI服务。同时还发布了可部署于边缘设备平台的Project Brainwave内测版。Project Brainwave计算平台是微软基于英特尔FPGA芯片打造的低延迟深度学习计算平台。

微软表示,与最流行的行业基准相比,Project Brainwave可以将实时AI计算的延迟时间降到最小,并且成本控制在可接受的范围。

(微软工程师道格·伯格举着Project Brainwave芯片)

一、Project Brainwave是什么?

Project Brainwave项目在去年8月23日于芯片行业论坛HotChips被微软提出。微软表示Project Brainwave计算平台的目标是:支持快速深度学习运算,并支持开发人员对芯片进行重构。

微软将Project Brainwave计算平台的架构分为三个层面:

1、高性能的分布式架构(架构层)

2、集成到FPGA中的硬件DNN引擎(硬件层)

3、针对训练好的模型,支持平滑部署的一套编译器及运行时环境(软件环境)

去年提出Project Brainwave时,微软表示,这个计算平台将支持微软Cognitive Toolkit和谷歌TensorFlow。。

今年3月,微软为了测试Project Brainwave计算平台的能力,让自家的Bing搜索引擎接入了这个平台,实验结果表明,Bing搜索引擎的能力提升了十倍。

昨天发布Project Brainwave试用版,是微软首次通过云端向外部用户提供FPGA AI专用芯片的能力。

二、Project Brainwave中FPGA芯片的意义是什么?

AI芯片对于AI的意义,可以看作发动机对于汽车意义。所以Project Brainwave计算平台的能力强弱,取决于这个平台所使用的芯片。

微软表示,Project Brainwave计算平台使用的FPGA芯片将使AI数据处理速度很快,相比谷歌使用的TPU芯片,FPGA芯片的处理速度快上了5倍。微软说道:“该芯片为实时AI而设计——这意味着,它能以极低的延迟在接收数据后立刻处理请求。由于云平台需要处理实时数据流,不管是搜索请求、视频、传感器数据流还是用户交互,实时AI正在变得越来越重要。”

这种芯片的另一个优势在于,客户企业将能够根据自己的需求重新对芯片系统进行设计,这是微软为客户提供更强灵活性服务策略的一部分。

三、FPGA芯片的优劣势

可见,在Project Brainwave项目中,微软大力研发FPGA AI专用芯片,其他巨头为了迎接即将到来的AI时代也进行着各自的努力,例如谷歌TPU、英伟达GPU等等。那么,他们各自都有何特点呢?

1.英伟达GPU

GPU并不是近期才出现的,其实它就是你电脑中显卡的核心部件,名字是图形处理器。

目前,GPU在AI领域的应用,都是采用“CPU+GPU”计算模型。

与CPU相比,CPU 由专为顺序串行处理而优化的几个核心组成,GPU 拥有一个由数以千计的更小、更高效的核心(专为同时处理多重任务而设计)组成的大规模并行计算架构。“CPU+GPU”计算模型能将应用程序计算密集部分的工作负载转移到 GPU,同时仍由 CPU 运行其余程序代码。从而提升运算速度。

(“CPU+GPU”运算示意图)

但这种计算模型其实就是利用现有的成熟技术提供了一种通用级的解决方法来满足AI深度学习的要求,而并不是一种针对性的专业解决方案。

2.谷歌TPU

TPU是谷歌专门为加速深层神经网络运算能力而研发的一款芯片,目前主要运用于模型建立以及定点推测。

TPU其实是一个ASIC(专用集成电路),ASIC是应特定要求和特定电子系统的需要而设计、制造的集成电路。

通常而言,ASIC的开发需要耗时数年。但谷歌TPU从设计到验证、构建和部署到数据中心里,只用了15个月。

除了开发部署时间短外,TPU在峰值性能上也较GPU有一定优势。GPU在单个时钟周期内,可以处理数百到数千次运算。而TPU可以在单个时钟周期内处理数十万次运算。

同时,确定性是TPU专用用途带来的另一个优势。CPU和GPU需要考虑各种任务上的性能优化,因此会有越来越复杂的机制,带来的副作用就是这些处理器的行为非常难以预测。而使用TPU能轻易预测运行一个神经网络并得出模型与推测结果需要多长时间,这样,就能让芯片以吞吐量接近峰值的状态运行,同时严格控制延迟。

不过,TPU的性能优势使得它的灵活性较弱,这也是ASIC芯片的常见属性。

3.灵活的FPGA

FPGA全称是Field Programmable Gate Array:现场可编程门阵列。FPGA内部集成大量的数字电路基本门电路和存储器,用户可以通过烧入配置文件来定义这些它们之间的连线,从而达到定制电路的目的。

通俗来说就是,对比TPU,TPU虽然也是基于特定需求设计的ASIC,但就好比是雕一尊雕像,雕好后不能再更改;而FPGA则是乐高积木,什么硬件电路都能模仿,而且能多次更改。

有了这个特点,FPGA的设计部署周期比TPU更短,只需要6个月左右,而且更加能灵活适应多种需求。

而且,FPGA不像GPU依赖于冯·诺依曼结构,一个计算得到的结果可以被直接馈送到下一个计算,无需在主存储器临时保存,因此不仅存储器带宽需求低,而且还具有流水处理的特点,大大减小了输入与输出的延时比。

FPGA的的架构固然带来了应用上的灵活性,但是从执行运算的效率上来说,它又远远比不上ASIC。FPGA的运算电路基于查找表,比如说,FPGA内部有1000万个自定义逻辑部件,一个4输入的查找表单元需要96个晶体管来支持,而在ASIC上来实现估计只需要10个左右。这些问题也导致了FPGA芯片的面积更大、功耗更多。

四、AI芯片热潮

看完以上各个巨头研发的AI芯片优劣势,我们可以感到,目前,尚未出现某种芯片“独步天下”的态势,各种芯片都有其优劣势。

AI是下一次科技革命的核心技术,全球企业都纷纷在AI芯片上发力,期待着自己成为这个行业的领头羊。外国企业热火朝天,中国企业也不甘人后,现在已经涌现地平线、寒武纪、深鉴科技、中天微等一批明星初创企业。数据显示,仅去年下半年,在芯片制造巨头台积电的生产线上,就有超过30家AI芯片排队等待流片。

众多企业投身这个行业,我们或许可以期待今后能有一款芯片,在GPU、ASIC、FPGA芯片的优缺点之间,找到高灵活性、强运算能力、低能耗、低成本之间的平衡。


关键字:微软  Brainwave

编辑:冀凯 引用地址:http://www.eeworld.com.cn/qrs/article_2018051148141.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:Synopsys设计平台获得TSMC工艺认证,支持高性能7nm+工艺技术
下一篇:应用毫微功耗运算放大器帮助电流感应

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

微软等大厂纷纷研究 折叠屏的笔记本会是趋势吗?

微软对于新形态笔记本的研究从来没有停下过脚步,近日从美国美国商标专利局公示的技术专利来看,微软一直在研发可折叠设备。虽然微软官方始终没有回应这件事,但公司内部从未停止过开发,这个项目被称为“Microsoft Courier”。  最近各大笔记本厂商、包括英特尔都已经加入到了开发双屏笔记本的行列中,外国媒体也有再次曝出名为“Centaurus”的Windows 10 SDK,据传言“Centaurus”将会运行在搭载了英特尔处理器的Andromeda 系统上。
发表于 2018-12-03
微软等大厂纷纷研究 折叠屏的笔记本会是趋势吗?

微软发表新专利:自对准多部件相机系统

一项新的专利申请表明,微软可能正在开发一款配备多部件相机系统的设备。根据该专利,相机系统将具有主体和柔性安装部件,并且能够减小倾斜误差。  该专利是由微软在2016年提交,近期通过了美国专利局的批准,专利名称为“Self-aligning multi-part camera system”(自对准多部件相机系统)。  微软专利背景描述如下:  “在一些多部件电子设备中,多个部件中的至少两个可以定位成彼此重叠,以为相机提供特定操作。可参考示例,当设备的第一部分和第二部分重叠时,重叠模式可以基于使用设备的第二部分中的光学元件提供额外的聚焦选项,其中主相机部分位于设备的第一部分中。”该装置具有多个显示屏或主体部分,其中一个部分包括摄像头
发表于 2018-11-30
微软发表新专利:自对准多部件相机系统

缺乏创新!分析师认为这是微软市值逼近苹果的主因

集微网消息,美股科技股10月以来开始下跌,苹果、Google母公司Alphabet、亚马逊等龙头科技股,股价皆下跌,跌幅分别达一至二年成以上,苹果跌幅超过23%,跌幅最重,但微软跌幅仅个位数,如此,让微软26日市值一度超过苹果。截至27日收盘,微软市值8,224.30亿美元,苹果市值8,268.38亿美元,苹果又夺回美科技股市值第一宝座。但其实,就在苹果公司的市值突破1万亿美元大关四个月后,这家iPhone制造商几乎已经丧失了领先优势。作为华尔街市值最高的公司,苹果市值即将被微软超越。受到周一美股普遍反弹的提振,微软股价截至午盘上涨3.11%至106.28美元,市值增至创纪录的8160亿美元。同时,苹果股价上涨0.63%,市值
发表于 2018-11-29
缺乏创新!分析师认为这是微软市值逼近苹果的主因

新专利出炉 微软正在为折叠机打造多组件摄像系统

可折叠手机是最近大家比较关注的一个热点话题,微软传说中的可折叠设备Andromeda一直受到众多猜测,大家对这款可折叠手机的了解也不是很多。不过,Windows最新公布的一项新专利披露了微软可折叠手机的一些细节信息。专利披露的重点不在显示屏上,而是在摄像系统上,这个新专利将手机的摄像头分成两个部分的,每个部分上都有一个摄像头,两个相机的部件可以调整,设备的两部分重叠时,可以使用第二部分的一些功能。例如,设备的第一部分和第二部分重叠时,可以使用第二部分的光学元件和主摄像头提供额外的对焦选项。越来越多的手机开始采取双摄,四摄甚至五摄相机,这也难免会出现一些问题,比如摄像头过于突出,这项新专利试图解决这个问题,通过柔性电路以及相关组件
发表于 2018-11-28
新专利出炉 微软正在为折叠机打造多组件摄像系统

微软八年后首次超越苹果:成为全球市值第一企业

  北京时间11月27日上午消息,据美国科技媒体The Verge报道,微软周一市值短暂超越苹果,成为全球第一,为近八年来首次。当时微软的市值为8129.3亿美元,苹果紧随其后,为8126亿美元。目前,两家公司的“全球第一”市值竞争十分激烈。  2010年,苹果市值首次超越微软。当时《纽约时报》评论该时刻标志着“旧时代的结束,新时代的开启”。尽管苹果的股价在过去五年中增长迅速,年初时候甚至突破1万亿美元,但是投资者对iPhone销售量忧虑重重——因为iPhone的销售量占到公司总营收的60%之多。苹果曾提醒华尔街公司或可无法实现圣诞季的销售预期,消息一出股价随之震荡。最近的报道也显示,由于iPhone XS销售不济,苹果重新开始
发表于 2018-11-27

微软Windows和office遥测技术违规,或面临欧盟数十亿美元罚款

欧盟对这些国际巨头向来不客气,今年谷歌被欧盟开出50亿美元的大罚单,现在微软或面临欧盟的数十亿美元罚单。因为其Windows和office遥测技术违法了欧盟的法规。据《每日电讯报》报道,荷兰监管机构称,微软的Windows 10和Office遥测技术涉嫌违反了《通用数据保护法规》(GDPR)。按照规定,若此举被判定为重大违规行为,微软将面临高达数十亿美元的处罚。  监管机构所控诉的内容以微软Word、Excel、PowerPoint和Outlook的日常监控为中心。报道称,相关数据被查出含有微软Word和电子邮件中的语句,疑似是某种检测机制在对特定动作进行自动侦测(例如拼写检查)。微软称,收集这些数据是为功能
发表于 2018-11-22
微软Windows和office遥测技术违规,或面临欧盟数十亿美元罚款

小广播

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
pt type="text/javascript" src="//v3.jiathis.com/code/jia.js?uid=2113614" charset="utf-8">