鲲云牛昕宇:定制化数据流AI芯片如何满足多场景需求

2018-05-16 11:01:13来源: 雷锋网 关键字:鲲云

物联网与人工智能的结合带来了一个规模和潜力巨大的市场,因此无论是行业巨头还是创业者纷纷涌入其中。芯片作为人工智能发展的关键,在云端被英特尔、英伟达等巨头占据了绝对优势,留给AI芯片创业者更大的机会在于终端的人工智能,并且有种说法是,前端越智能,人工智能才能产生更强的动能。


鲲云作为众多AI芯片初创企业的一员,在成立之前无论是在专利还是技术上已经有了很深的积累,其中Handle-C是鲲云CEO牛昕宇导师90年代初做的一套开发工具,经过三十多年的迭代和经验积累,最终成为了鲲云的核心竞争优势——全自动化工具链。该工具结合鲲云自主研发的搭载FPGA芯片的雨人板卡,在最大化发挥FPGA性能的前提下,可以针对不同的应用场景需求自动编译深度学习算法到芯片上,不仅实现高性能,还能兼顾通用性,降低开发成本和难度。


不过,鲲云自主研发的打通从顶层应用到底层芯片的深度学习方案真的能够满足多场景的需求,实现让IoT终端都装上智能大脑的愿景?在众多的AI应用场景中,鲲云为何选择优先为智慧城市和智能制造的IoT设备装上智能大脑?鲲云的直接对手是谁?带着这些疑问,雷锋网近期采访了鲲云科技CEO牛昕宇博士。



鲲云科技CEO牛昕宇博士


2018年4月18日,在深圳举办的《2018全球人工智能应用创新峰会》上,鲲云科技发布了一款AI平台级产品——鲲云AI开发平台。这款以自主研发芯片架构为底层,以开放应用平台为依托,为人工智能的顶层应用开发提供计算资源的人工智能生态平台,可以为物联网应用终端自动生成人工智能算法的DFG、配置人工智能芯片板卡所需的比特流文件。其技术平台将与自动驾驶、城市大脑、医疗影像、智能语音等应用层开放平台形成协同作用,建立研、产、融相结合的一体化人工智能生态平台。


产品及技术


雷锋网:你认为终端侧人工智能对整个AI行业发展的意义是什么?


牛昕宇:终端侧的人工智能对整个行业发展的重要意义可以从短期和长期去看。短期内终端侧对于人工智能的重要意义一个是分流,另一个是隐私。分流方面,比如深圳市现在安装了数百万颗摄像头,这些摄像头绝大部分都是高清的。一般1080p的摄像头一秒钟就要产生5兆左右的数据,一天大概接近400多G,不过这些物联网节点发回来的数据大多没办法直接使用,以人脸数据为例,直接发回的数据并没有用,而是需要识别确认这个人到底是谁,这时候其实不需要把所有的数据都在服务器里处理,而是可以通过前端加后端的方式,后者可以更灵活,更实用,成本也更低。

分流里还有一个更极端的例子,就是一些需要闭环的反馈,比如机器人、无人机、自动驾驶的车辆,需要前端马上做出反馈,然后引导设备做下一步的工作。这时候就不能依靠服务器的方式,因为带宽会不稳定、反应的速度也无法保证,自动驾驶依靠云端的人工智能是无法想象的一件事情。

另外一个是隐私,现在很多智能的家电终端都装了摄像头,所有的计算都在服务器里进行。但其实用户对此反应比较敏感,因为这个证明所有的数据都是要上传到云端的,这就产生了隐私安全的顾虑。解决这个问题的一个方法是让前端进行分析,自动判断并执行所需的操作,让数据留在终端。最大限度的做到隐私保护。人工智能只是一个工具,这种工具的作用是让前端设备慢慢变得更加智能,当网络越发达的时候越需要前端有更强的计算能力,对于前端采集的信息进行实时处理并加以利用。有种说法是前端智能越智能,人工智能才能产生更强的动能,这是中长期的一个大趋势。

雷锋网:AI芯片的主流类型,目前来看有GPU、FPGA、ASIC等,你们为什么押注FPGA?

牛昕宇:首先声明一点,我们没有押注FPGA,只是FPGA是ASIC前的一个必要环节,流片之前都会进行FPGA验证,虽然FPGA所用资源较多,不过可以实现跟ASIC一样的功能。至于最终是否流片主要由市场规模来定。无论是FPGA还是ASIC,只是芯片的不同形态,GPU也可以认为是一种ASIC。用FPGA有两个方面的考虑,一个商业考虑,另一个是技术需求。

从商业化上说,不管是做什么类型的芯片公司,公司总归要回到商业的本质。站在客户的角度,他们不关心使用GPU、ASIC,还是FPGA,只关心能不能给他们提供一套方案解决具体问题,需要多少成本。这就意味着不是选择哪种芯片,而是最终支持人工智能算法的解决方案。人工智能算法要能够形成一个方案,帮客户解决具体问题,首先需要解决算力问题,然后把功耗压到足够低,让它能够在前端应用。有自主研发能力的公司大部分能跨过这个门槛,然后就是成本的问题。FPGA可以认为是固化好的一个完整硬件白板,在这上面写电路至少能保证电路没有任何问题,而且它的采购成本是固定的,或者说可以通过谈判降低,而ASIC是随着量的增加成本逐渐降低。所以从商业化上考虑,到达某个量时才可以大规模布局一个ASIC,我们现在觉得可能是100万的出货规模。另外,从流片到大规模流片是两个事情,FPGA方案落地周期可以做到比较短,并且FPGA现阶段是直接提供产品最快速和稳定的方式。在AI大规模的需求还处于萌芽阶段时,我们作为初创公司的策略是通过把芯片做成方案解决客户性能和功能上的问题,同时保持足够的价格优势。

从技术上说,目前主要2个方式,一个是基于指令集(如GPU、TPU),另一个是数据流。这两个方式各有优劣,基于指令集的方式可能通用性很强,但性能可能没有那么高;基于数据流的方式性能非常强,但通用性可能没有那么强。我们选择数据流引擎的方式既能解决性能问题,还可以把性能推到极致。而我们端到端的开发平台又可以解决通用性的问题。如果我们把深度学习比作造车,可能只是针对劳斯莱斯打造的流水线,但要打造奔驰的时候就需要专业的人员把这个流水线进行对应调整,这个调整过程门槛非常高。这时候我们做的工作也就是我们的第二项核心技术,做一个全自动化的工具链,根据车型的不同,这个工具自动化的把流水线调整好,把门槛降下来的同时把通用性补齐。通过数据流架构加开放平台的方式,既能提高性能又能兼顾通用性。

雷锋网:相比GPU,FPGA一直存在的一个问题是比较难用,一定程度上提高了开发者的门槛,鲲云如何让FPGA发挥出其自身的优势同时来解决FPGA难用的问题的?

牛昕宇:鲲云的人工智能方案是基于FPGA和之后的ASIC来实现的,这是一条完整的产业路径。FPGA和ASIC作为底层硬件,天然具有难用的属性,因为越往底层,对芯片的性能掌握越高,但对开发者需要的专业知识要求就越高,所以面向的用户就越狭窄,感觉就越难用。

所以从1991年开始,陆院士和他的团队开始做定制计算这个方向,在性能提高的同时无疑也抬高了使用门槛。为了解决这一问题,我们花了很大的精力在保证性能的前提下尽量把一层层的优化步骤通过编译器来自动化实现,从最底层直接打通到最顶层,自动完成硬件的调整控制、数据宽度、算法冗余的优化,这时候我们就会发现FPGA使用的门槛从硬件开发人员降低到算法开发人员了,只要给一套深度学习算法到我们的开发平台上,就可以在我们的芯片上实现所需的功能了,这时候它的开发难度就可以降到跟GPU一样。

鲲云科技第二代雨人板卡

雷锋网:如何降低开发者的使用成本?

牛昕宇:我们在做平台的时候考虑的第一要素是保证开发者基于我们的产品开发出的方案能比较快速的实现商业落地,鲲云的AI平台主要面向三类用户:

  • 终端用户和专业人员。所谓专业人员不是仅指有计算机背景的人员,而是各个垂直领域内需要AI方案解决实际生产、商业需求的各行各业的人员。他们可以基于我们提供的通用化界面以及各种丰富的接口,能够在不掌握很多专业算法和硬件细节的情况下进行开发,最终形成落地解决方案。

  • 算法开发人员。可以直接把基于Tensonr Flow训练好的算法上传到我们的AI平台,自动映射到硬件中,不需要了解硬件架构就可以使用高性能芯片。

  • 高校研发人员。鲲云AI平台可以为高校研发人员提供一个非常稳定的平台去测试或实现所需的应用,比如优化算法、测试性能等。

应用场景和公司战略

雷锋网:鲲云之前在航空航天已有一些布局,目前也在智慧城市和智能制造布局,主要是考量到这些领域的市场规模比较大?有没有你们内部的一个Top3领域排序?

牛昕宇:人工智能是一个非常宽广的领域,各种各样的应用都可以做,我们选择的智慧城市、智能制造等里面有大量的需求,并且这些需求现在没有得到满足。选择什么领域肯定有一个商业化的考量,我们主要侧重2个问题,一个是体量有多大,市场是不是足够深、足够宽,能够容纳一家公司在里面快速成长;另一个,就是在这个领域是否能提供给客户最需要的价值,这其实是更为

[1] [2]

关键字:鲲云

编辑:冀凯 引用地址:http://www.eeworld.com.cn/qrs/article_2018051648335.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:电子科技大学最高金额奖学金——“世强奖学金”颁奖仪式顺利举行
下一篇:最后一页

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

网友正在学习IC视频

小广播

独家专题更多

东芝在线展会——芯科技智社会创未来
东芝在线展会——芯科技智社会创未来
2017东芝PCIM在线展会
2017东芝PCIM在线展会
TI车载信息娱乐系统的音视频解决方案
TI车载信息娱乐系统的音视频解决方案
汇总了TI汽车信息娱乐系统方案、优质音频解决方案、汽车娱乐系统和仪表盘参考设计相关的文档、视频等资源

何立民专栏

单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved