英伟达推出TensorRT 3人工智能推理软件

2017-09-26 21:02:50编辑:王磊 关键字:英伟达  人工智能

新浪科技讯 9月26日下午消息,在GTC China大会上,英伟达CEO黄仁勋宣布推出全新的TensorRT 3人工智能推理软件。该软件可以大幅提升云端及包括机器人、无人驾驶汽车在内的终端设备的推理性能,并有效降低成本。


据介绍,TensorRT 3与英伟达GPU的结合能够基于所有的框架、为诸如图像和语音识别、自然语言处理、视觉搜索和个性化建议等人工智能服务提供快速且高效的推理。此外,TensorRT和英伟达Tesla GPU加速器的速度可达到CPU的40倍,而相较于基于CPU的解决方案,成本仅为其十分之一。


黄仁勋在现场表示,英伟达Tesla V100 GPU与TensorRT结合,在处理图像时可以实现7ms延时,处理语音时延时不超过200ms,是标准云服务的理想目标。


而根据现场演示,由于GPU与TensorRT结合后的性能加速,一台8 GPU的服务器可以替换160台双CPU服务器,或者4个机架。而每台采用Tesla V100 GPU的服务器可以节省约50万美元。


黄仁勋表示,英伟达的人工智能计算平台,已经被中国互联网和IT行业的领军企业采用。阿里巴巴、百度、腾讯均已在其云端人工智能基础设施上部署了英伟达的Tesla V100 GPU,而华为、浪潮、联想也已经作为OEM厂商,开始生产基于HGX的GPU服务器。


但黄仁勋同时表示,以上成绩都只是关于建立深度学习网络,而网络一旦建成,人工智能推理将会成为下一个重大挑战。


神经网络的应用会接连变革每个行业。人工智能将会注入到2000万台云服务器,以及上亿台汽车和制造机器人当中。最终,数以万计的物联网设备和传感器将能够监测从心率、血压到设备震动状态的一切数据。


而这项变革的背后,是人工智能网络架构的爆炸式增长。黄仁勋在现场介绍表示,Inception计算要求是AlexNet的50倍,DeepSpeech3的计算要求是4年前第一代的30倍,而MoE语言翻译器的计算要求是2年前OpenNMT的10倍。这对使得人工智能深度学习网络基础建成之后,人工智能推理成为该领域的下一项重大挑战。


据现场介绍,目前,阿里云、腾讯、百度云、京东、科大讯飞均已采用TensorRT 3,用以支持指数级增长的人工智能工作负载。(周峰)

关键字:英伟达  人工智能

来源: 新浪科技 引用地址:http://www.eeworld.com.cn/manufacture/article_2017092618350.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:英特尔发布最新自动学习芯片有望加速人工智能发展
下一篇:NVIDIA北京发布会狂怼CPU:摩尔定律已死

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

Mobileye 和英伟达:两巨头终将殊途同归?

做自动驾驶处理器不是一件容易事,它需要满足高算力、高稳定性、高安全性、低功耗等相互之间很难平衡的特性。在这个领域,目前业内知名的供应商就只有 Mobileye 和英伟达(NVIDIA)这两家。前者是绝对的老大,后者是后起之秀,意图弯道超车。身为老大,Mobileye 的技术自然稳稳领先,这也决定了这家公司的技术体系相当封闭——厂商想合作,只能整套购买他们的解决方案,而就算买了,他们的数据和技术细节也不开放给你。2017 年 8 月,英特尔通过用约 153 亿美元收购 Mobileye 的方式,直接打入自动驾驶领域。被收购后,Mobileye 就宣布了会在未来产品迭代过程中逐步开放其技术体系。去年底,他们开放了叫做 RSS 的模型
发表于 2018-07-10 17:12:33
Mobileye 和英伟达:两巨头终将殊途同归?

GPU滞销、AMD快一步、英特尔入局,英伟达真的危机了?

集微网消息(文/小北)2017年4月至2018年3月的虚拟货币热潮让GPU处于供不应求的状态。如今虚拟货币市场已退热。尽管英伟达对此早有准备,但仍有外媒消息称英伟达面临巨大的去库存压力,甚至出现GPU滞销。与此同时,英伟达或采取延迟发布下一代GPU芯片的策略缓解库存压力。虚拟货币市场退热,英伟达面临的或许不止是去库存的压力。AMD在不断获得更大GPU市场份额的同时,也在加快下一代GPU产品的研发脚步。同时,英特尔涉足GPU领域,并直言向英伟达、AMD发起挑战。对于GPU厂商而言,伴随着虚拟货币市场变化,本可以很轻松地退回其“大本营”——游戏市场。为何英伟达却面临去库存压力?据悉,英伟达过于高估游戏市场的需求,并低估了挖矿市场迅速
发表于 2018-06-20 20:32:56

英伟达布局机器人领域 推出专用芯片及平台

移动搬运机器人(AGV)及自动装箱机器人”和“自动化物流机器人成套系统整线集成”,项目成果在北京同仁堂健康药业股份有限公司智能工厂中得到应用。该项目研制成功了具有自主知识产权的复合导航移动搬运机器人(AGV)、自动装箱机器人,建成了集原材料、半成品自动搬运,成品自动装箱、发货产品拣选及分拣于一体的自动化物流机器人成套生产线,实现了生产工艺特殊需求的复合导航移动搬运机器人、自动化物流集成线,物流信息流与企业供应链体系、生产体系、销售体系融合,生产过程全程信息可追溯。英伟达布局机器人领域,推出专用芯片及平台近日,英伟达(Nvidia)推出旗下Nvidia Isaac机器人平台,用来为下一代自动驾驶机器提供动力支持,进而为制造业、物流业
发表于 2018-06-10 09:46:25
英伟达布局机器人领域 推出专用芯片及平台

英伟达推出新款机器人NVIDIA Isaac,多个行业都能支持?

英伟达宣布推出支持下一代自主机器的NVIDIA Isaac机器人平台,来为制造、物流、农业、建筑以及其他行业的机器人实现人工智能支持。 据了解,NVIDIA Isaac是以Jetson Xavier为核心的全球首款专为机器人设计的计算机系统。它拥有超过90亿个晶体管,每秒可进行30万亿次操作以上,这一处理性能远超工作站,而且能源消耗仅占照明灯泡的三分之一。 Jetson Xavier拥有6种高性能处理器,包括1个VoltaTensorCoreGPU、1个8核ARM64CPU、2个NVDLA深度学习加速器、1个图像处理器、1个视觉处理器和1个视频处理器。这些处理器使其能够同时、且实时地处理数十种算法,以用于
发表于 2018-06-07 19:48:59

英伟达新一代Volta架构,专为深度学习而生?

(AI)、HPC及绘图需求,宣称是面向深度学习(deep learning)与HPC最快速且最具生产力的绘图处理器(GPU)。 针对全新SM微架构,Koehler表示,Volta GV100 SM是为生产力所重新设计的产品,具备全新指令集架构(ISA)、简化发放逻辑单元(issue logic),并拥有大型更快速的L1快取、改善SIMT模型且支援Tensor加速,一大特色在于相较于前一代Pascal SM,Volta SM整合了关键技术,将L1$与共享记忆体整合达128KB,可创造更低延迟性及串流效果,如串流L1$拥有4倍更多频宽、5倍能力提升等,并可缩短与前一代Pascal的共享记忆体落差。 Koehler提到
发表于 2018-06-06 20:47:06

仍用台积电12nm制程?英伟达下一代GeForce最晚8月亮相

、华硕、华擎等多家台OEM、ODM业者全面展开合作,HGX-2为全球首款专为AI与高效能运算打造的单一整合运算平台,号称效能足以取代高达300颗CPU所组成的服务器。 新平台方面,黄仁勋则正式宣布全新平台Isaac,将为制造业、物流业、农业、建筑业等各产业所使用的机器人带来AI的能力; Isaac的核心是Jetson Xavier,为全球首款专为机器人设计的电脑,内建超过90亿个晶体管,每秒可进行超过 30兆次浮点运算(trillion operations per second; TOPS),较强大的工作站具有更高的数据处理能力,且功耗只有1颗灯泡的三分之一。 Jetson Xavier具有6种高效能处理器,包含
发表于 2018-06-06 17:41:30

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 市场动态 半导体生产 材料技术 封装测试 工艺设备 光伏产业 平板显示 电子设计 电子制造 视频教程

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved