微软揭晓 Brainwave 人工智能系统,可实现超低延迟

2017-08-24 14:11:15编辑:冀凯 关键字:微软

今日,微软在 HotChips 大会上正式揭晓了 Brainwave 系统,该产品是微软加入人工智能硬件竞赛的首发产品。微软表示这款高速度、低延迟的 AI 专用芯片系统可以为机器学习开发者们提供超越 GPU 的性能。

微软的研究人员现场展示了 Brainwave 的威力:在使用英特尔最新的 Stratix 10  FPGA(现场可编程门阵列)芯片的情况下,Brainwave 运行 Gated Recurrent Unit(LSTM的变种)的浮点运算速度可高达 39.5 TFLOPS,并且不需要任何批量处理,即芯片可以即时处理每一项提交上去的请求,为机器学习系统提供实时的见解。

对于用户来说,低延迟是大规模部署机器学习系统时必须满足的一个要求,因为他们不会有太多耐心等待 APP 反应。

“我们需要‘即时AI’,因为你在提交请求后,会想立刻获得反馈,不论是视频播放、对话,还是检测网络入侵者和异常状况,你会期望 APP 都能即时反馈”,微软研究所的工程师 Doug Burger 说。

然而,之前的硬件加速机器学习系统相关的研究却注重于牺牲延迟来实现高流量。Burger 认为,需要思考的是,在不对请求进行批量处理时,机器学习加速器的反应速度。“其他人给出的数字都注水了。”

由于 FPGA 属于可编程芯片,它可以让开发者专门为各种功能对硬件进行优化设置,比如设置出可以快速处理神经网络所需的数学计算的硬件。微软已在其数据中心安装了数十万枚 FPGA。而这些 FPGA 已经开始使用 Brainwave,让微软的各种服务可以更迅速地支持人工智能功能。此外,微软还将通过旗下 Azure 云服务,向第三方客户提供 Brainwave。

在这些 FPGA 上,Brainwave 会提前设置好一个经过训练的机器学习模型。之后,它们就可以被用来做识别文字、辨别图像等机器学习任务了。对于一个较大的文件,Brainwave 的软件可以将它分拆到多个芯片上进行计算。而这个模型将永存与这些 FPGA 上,直到微软选择对其进行升级。

微软并不是唯一一家投资于加速机器学习硬件的公司。今年年初,谷歌就曾揭晓其机器学习训练和运行的专用芯片——TPU(Tensor Processing Unit)的第二个版本。此外,还有多家初创公司正在开发机器学习加速硬件。

然而,各方各界对于机器学习加速硬件的看法却并不一样。有些人认为,FPGA比专门为机器学习而设计的 ASIC(专用集成电路)效率更低,速度更慢。Burger 表示,他们在 FPGA 上所展现的性能足以反驳这一说法,让人们见识到FPGA 也可以提供高性能。

而且,今天微软的展示的 Stratix 10 是一款全新芯片,还有与英特尔合作优化的空间。据Burger计算,使用 Stratix 10 的 Brainwave 的运算速度最高应该可以实现 90 TFLOPS。

目前,Brainwave 只支持在微软 CNTK 框架和谷歌 TensorFlow 框架下的模型。其团队正开发兼容 Caffe 等其他框架的 Brainwave 版本。微软表示,未来,第三方客户将可以在 Brainwave 上运行任何模型,不过并未给出 Brainwave 全面上市的时间表。

关键字:微软

来源: Deeptech 引用地址:http://www.eeworld.com.cn/qrs/article_2017082437466.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:专访寒武纪CEO陈天石:AI芯片是中国主导世界AI产业的机会
下一篇:Intel新CPU将集成WiFi:所有PC标配无线

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

逆时代产品?微软正在开发Surface双屏掌上电脑

最近有消息称微软在开发一款代号Andromeda的Surface双屏掌上电脑。有刊文称,微软过往反复几次做过PDA(掌上电脑),打造Andromeda是想要重新推出PDA,但它为什么要这么做呢?那样的现代掌上电脑有什么功能是智能手机无法做到的呢?以下是文章主要内容:微软想要重新推出PDA——一款以掌上电脑为形式的个人数字助理,而不是像Cortana或Siri那样由人工智能驱动的虚拟助手。具体来说,该公司据称正在研发一款代号Andromeda的双屏幕可折叠设备,该设备将成为其Surface系列的一部分。每个人都在问:为什么会有人想要将PDA重新推出市场?答案是:试过用iPhone完成工作吗?6月底,科技博客The Verge获得了
发表于 2018-07-19 20:53:11
逆时代产品?微软正在开发Surface双屏掌上电脑

微软发布最小笔记本Surface Go,性价比如何?

微软正式发布了Surface Go产品,号称这是有史以来最小最实惠的Surface,起价为399美元(约合人民币2638元)的建议零售价。 外形上,Surface Go的重量仅为1.15磅,厚度仅为8.3毫米,3:2宽高比显示屏、10英寸屏幕,1800 x 1200分辨率。 配置方面,Surface Go,内置第7代英特尔奔腾处理器4415Y,双核四线程,采用无风扇设计,可提供长达9小时的电池续航时间,同时配备4或8GB RAM和64或128GB存储空间。 Surface Go内置支架铰链可延伸至165度,带面部识别登录功能的前置摄像头,开箱运行Windows10S模式,并可免费升级至Win10
发表于 2018-07-19 20:47:23
微软发布最小笔记本Surface Go,性价比如何?

微软Surface Phone还活着 2019年仙女座系统爆发

此前ZDnet编辑Mary Jo Foley消息称,微软最近决定取消将仙女座系统整合到下一个Windows 10系统,今年很可能不会发布Surface Phone设备,原因是时间安排和质量上还存在问题。The Verge编辑Tom Warren也表示,短时间内不会见到Surface Andromeda设备,因为未形成应用生态。  而现在新的报告指出,微软Surface Andromeda还没死亡,至少是现在还活着。  爆料人士Brad Sams在Thurrott.com上解释说,微软仍在为Andromeda寻找正确的硬件和软件组合:多个消息源告诉我,微软计划在发布设备之前彻底检修软件和硬件。在这期间,软件和硬件并没有创造一个
发表于 2018-07-18 08:25:54
微软Surface Phone还活着 2019年仙女座系统爆发

播音主持的噩梦 微软小冰迎年度最大升级

   微软小冰官方微博今日宣布,将在7月26号迎来史上最大幅度的一次年度升级,正式进化为第六代小冰。第六代小冰简直是播音主持人员的噩梦,从提前解锁的“技能”来看,微软小冰已经主持了超过2000小时的电台电视节目,还口出狂言事儿太小,放不进发布会,只能提前发个通告,看样子有点真本事。微软小冰微软小冰  过去三天,微软小冰主持了《你早京津冀》、《早上听大超》、《看东方》、《一路领先》、《91.8早高峰》、《音乐点心》等电台电视节目,基本毫无违和感。可以预见的是,一些简单的播报工作,比如路况、天气、股市、新闻等工作,小冰基本都能胜任,播音主持们的心灵恐将受到重击。微软小冰微软小冰节目单  随着人工智能的飞速发展
发表于 2018-07-13 08:14:19
播音主持的噩梦 微软小冰迎年度最大升级

经历过最大规模的销售部门重组,微软又要裁员?

据国外媒体报道,知情人士透露,微软本周缩减了其国际销售人员的规模,裁掉了一小部分员工。 这位知情人士表示,裁员人数比一年前的一轮裁员要少,他也不清楚确切的裁员人数。 此举并不是任何改变策略的标志,而且基本上是微软的正常业务过程,微软于上周开始进入2019财年。 2017年,微软削减了数千个工作岗位,占到销售人员的10%。 去年,微软在进行了历史上最大规模的销售部门重组。 图示:微软首席执行官萨蒂亚·纳德拉(Satya Nadella)在公司的旗舰技术和商务会议上发表演讲
发表于 2018-07-11 19:29:55
经历过最大规模的销售部门重组,微软又要裁员?

微软双屏可折叠“Surface”项目已搁置?

   上周,随着一封微软内部邮件的曝光,代号Andromeda的Surface手机再次浮出水面,其工程机形态据说类似于民间渲染,采取双屏可折叠设计。  不过,常以爆料微软消息见长的ZDnet名记Mary Jo Foley从可靠渠道获悉,其配套的跨平台操作系统AndromedaOS在进度和质量未达标,不能与下一版Win10(RedStone 5)同时完工,甚至连明年的RedStone 6也不能保证。  同时,Mary提到,在面向市场推出一款小型的双屏手机这点上,微软似乎连自己都尚未说服。  目前的情况是,对于Andromeda项目,微软已经暂时搁置,重新回归到软件开发的蓝图上。  Mary自己也对微软在这样
发表于 2018-07-03 12:56:28
微软双屏可折叠“Surface”项目已搁置?

小广播

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
ע39ַ ͼag콢 lolͶעʲô agֳ Űע ggٷ ɳַ ɳ Ű 7777 վٷվ GNSǮ Ԫƴ Ѷ1.5ֲ mgϷˮʱ ȫƶ Ѷ չ˾ Ȥζ ag Ǯ bbinհײ˴ȫ bbinϷͲʽ gnsվ 940 ճ淶 羺 ƱϷԪ ע mgЩ