datasheet

未来的人工智能,最热门的技术趋势是什么?

2015-12-24来源: 雷锋网 关键字:人工智能  神经网络
    随着Google、Microsoft和Facebook等巨头的大力投入,深度学习正在超越机器学习,人工智能来势凶猛。那么,如今人工智能最热门的技术趋势是什么?

  黑匣认为,复杂神经网络、LSTMs(长短期记忆网络)、注意力模型(Attention Models)等十大趋势将塑造人工智能未来的技术格局。

  上述判断来自NIPS(神经信息处理系统) 2015大会。NIPS始于1987年,是人工智能领域两大重要学习会议之一,由于AI的爆炸式发展,近年来逐渐成为许多硅谷公司必须参加的年度会议。

  在蒙特利尔召开的NIPS 2015吸引了众多AI学界与业界的顶级专家,与会人数接近4000。大会总共收录了403篇论文,其中深度学习课题约占11%。来自Dropbox的高级软件工程师Brad Neuberg分享了他所注意到的十大技术趋势,黑匣将对每种趋势做了详细分析。

  1、神经网络的架构正变得越来越复杂

  感知和翻译等大多数神经网络的架构正变得越来越复杂,远非此前简单的前馈神经网络或卷积神经网络所能比。特别需要注意的是,神经网络正与不同的技术(如LSTMs、卷积、自定义目标函数等)相混合。

  神经网络是多数深度学习项目的根基。深度学习基于人脑结构,一层层互相连接的人工模拟神经元模仿大脑的行为,处理视觉和语言等复杂问题。这些人工神经网络可以收集信息,也可以对其做出反应。它们能对事物的外形和声音做出解释,还可以自行学习与工作。

(人工模拟神经元试图模仿大脑行为 | 图片来源:Frontiers)

  但这一切都需要极高的计算能力。早在 80 年代初期,Geoffrey Hinton和他的同事们就开始研究深度学习。然而彼时电脑还不够快,不足以处理有关神经网络的这些庞大的数据。当时AI研究的普遍方向也与他们相反,人们都在寻找捷径,直接模拟出行为而不是模仿大脑的运作。

  随着计算能力的提升和算法的改进,今天,神经网络和深度学习已经成为人工智能领域最具吸引力的流派。这些神经网络还在变得更复杂,当年“谷歌大脑”团队最开始尝试“无监督学习”时,就动用了1.6万多台微处理器,创建了一个有数十亿连接的神经网络,在一项实验中观看了千万数量级的YouTube图像。

  2、酷的人都在用LSTMs

  当你阅读本文时,你是在理解前面词语的基础上来理解每个词语的。你的思想具有连续性,你不会丢弃已知信息而从头开始思考。传统神经网络的一大缺陷便是无法做到这一点,而递归神经网络(RNN)能够解决这一问题。

  RNN拥有循环结构,可以持续保存信息。过去几年里,RNN在语音识别和翻译等许多问题上取得了难以置信的成功,而成功的关键在于一种特殊的RNN——长短期记忆网络(LSTMs)。

  普通的RNN可以学会预测“the clouds are in the sky”中最后一个单词,但难以学会预测“I grew up in France… I speak fluent French.”中最后一个词。相关信息(clouds、France)和预测位置(sky、French)的间隔越大,神经网络就越加难以学习连接信息。这被称为是“长期依赖关系”问题。

(长期依赖问题 | 图片来源:CSDN)

  LSTMs被明确设计成能克服之一问题。LSTMs有四层神经网络层,它们以特殊的方式相互作用。这使得“能记住信息很长一段时间”可以被视作LSTMs的“固有行为”,它们不需要额外学习这一点。对于大多数任务,LSTMs已经取得了非常好的效果。

  3、是时候注意“注意力模型(attention models)了

  LSTMs是人们使用RNNs的一个飞跃。还有其他飞跃吗?研究者共同的想法是:“还有注意力(attention)!”

  “注意力”是指神经网络在执行任务时知道把焦点放在何处。我们可以让神经网络在每一步都从更大的信息集中挑选信息作为输入。

  例如,当神经网络为一张图片生成标题时,它可以挑选图像的关键部分作为输入。

(拥有“注意力”的RNN在图像识别中的成功运用 | 图片来源:Github)

  4、神经图灵机依然有趣,但还无法胜任实际工作

  当你翻译一句话时,并不会逐个词汇进行,而是会从句子的整体结构出发。机器难以做到这一点,这一挑战被称为“强耦合输出的整体估计”。NIPS上很多研究者展示了对跨时间、空间进行耦合输出的研究。

  神经图灵机(Neural Turing Machine)就是研究者们在硅片中重现人类大脑短期记忆的尝试。它的背后是一种特殊类型的神经网络,它们可以适应与外部存储器共同工作,这使得神经网络可以存储记忆,还能在此后检索记忆并执行一些有逻辑性的任务。

(模仿人类短期工作记忆的神经图灵机 | 图片来源:arXiv)

  2014年10月,Google DeepMind公布了一台原型电脑,它可以模仿一些人类大脑短期工作记忆的特性。但直到NIPS2015,所有的神经图灵机都过于复杂,并且只能解决一些“小玩具”问题。在未来它们或将得到极大改进。

  5、深度学习让计算机视觉和自然语言处理不再是孤岛

  卷积神经网络(CNN)最早出现在计算机视觉中,但现在许多自然语言处理(NLP)系统也会使用。LSTMs与递归神经网络深度学习最早出现在NLP中,但现在也被纳入计算机视觉神经网络。

  此外,计算机视觉与NLP的交汇仍然拥有无限前景。想象一下程序为美剧自动嵌入中文字幕的场景吧。

  6、符号微分式越来越重要

  随着神经网络架构及其目标函数变得日益复杂和自定义,手动推导出“反向传播”(back propagation)的梯度(gradients)也变得更加苦难而且容易出错。谷歌的TensorFlow等最新的工具包已经可以超负荷试验符号微分式,能够自动计算出正确的微分,以确保训练时误差梯度可被反向传播。

  7、神经网络模型压缩的惊人成果

  多个团队以不同方法大幅压缩了训练一个良好模型所需的素材体量,这些方法包括二值化、固定浮点数、迭代修剪和精细调优步骤等。

  这些技术潜在的应用前景广阔,可能将会适应在移动设备上进行复杂模型的训练。例如,不需要延迟就可以得到语音识别结果。此外,如果运算所需要的空间和时间极大降低,我们就可以极高帧率(如30 FPS)查询一个模型,这样,在移动设备上也可以运用复杂神经网络模型,从而近乎实时地完成计算机视觉任务。

  8、深度学习和强化学习继续交汇

  虽然NIPS 2015上没有什么强化学习(reinforcement learning)的重要成果,但“深度强化学习”研讨会还是展现了深度神经网络和强化学习相结合的前景。

  在“端对端”(end-to-end)机器人等领域出现了令人激动的进展,现在机器人已经可以一起运用深度和强化学习,从而将原始感官数据直接转化为实际动作驱动。我们正在超越“分类”等简单工作,尝试将“计划”与“行动”纳入方程。还有大量工作需要完成,但早期的工作已经使人感到兴奋。

  9、难道你还没有使用批标准化?

  批标准化(batch normalization)现在被视作评价一个神经网络工具包的部分标准,在NIPS 2015 上被不断提及。

  10、神经网络研究与优化齐头并进

  创造新的神经网络方法需要研究者,还需要能将它们迅速付诸实践的方法。谷歌的TensorFlow是少数能够做到这些的库:使用Python 或 C++等主流编程语言,研究者可以迅速创作新的网络拓扑图,接着在单一或多个设备(包括移动设备)上进行测试。

关键字:人工智能  神经网络

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_9165.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:智能安防机器人iCamPRO:紧盯家中异常
下一篇:智能家居三大控制系统主要功能

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

腾讯医疗新科技亮相 安全高效智慧健康描绘医疗新图景

科普知识,帮助用户了解自己的身体状况。需要就诊不知道挂什么科?此时,用户只需一句话描述症状,医院AI智能导诊助手就能在1 秒内为精准匹配科室,还能帮你找到最适合的医生,实现线上分诊挂号一步到位。在挂号后,用户还可以使用微信医保支付缴费,免去排队的烦恼。就诊过程中,人工智能技术与医疗深度融合而成“黑科技”,也为用户带来不一样的就医体验。拍完片子后,小助手“腾讯觅影”可以帮助医生为患者看片子,快速准确地找到病变位置,进行疾病筛查。对于麻烦、耗时的帕金森病诊断,医生利用帕金森病运动功能智能评估系统这项新技术,可以更高效地评测帕金森病患者的病情,对患者进行分级,并制定针对性的治疗方案,不仅可以提高测评精度,还为患者节省了大量就诊时间。在诊后
发表于 2018-12-10
腾讯医疗新科技亮相 安全高效智慧健康描绘医疗新图景

美国惊现机器人伤人事件,智能危机恐提前上演?

随着科技的发展,人工智能发展迅速,机器人也出现在了人们的视野中,对于人工智能最直观的解释,可能来自好莱坞电影。《终结者》、《A.I.》、《I,Robot》、《黑客帝国》等众多经典科幻电影,都描绘了一个机器人与人类共存的世界。然而,大部分的论调都集中在“机器毁灭人类”、“机器控制人类作为其能源来源”等方面,所以机器人到底是人类的朋友还是敌人,总是讨论的重点。本周三早晨,亚马逊新泽西仓库突然发生了一起机器人至伤事故,导致24名工人住院。具体来说,在新泽西的亚马逊运营中心,一罐防熊喷雾突然从货架上掉落下来,并释放出大量浓缩的辣椒素,导致数十名工人呼吸困难,24人因此住院,其中1人情况危急。至于防熊喷雾突然掉落的原因,官方表示是因为一个
发表于 2018-12-10
美国惊现机器人伤人事件,智能危机恐提前上演?

面部识别技术:亚马逊和微软声称人工智能可以解读情感

企业和政府正在积极测试面部识别技术,测试的范围从警务人员到一些普通的员工。更细微的测试正在进行中,他们背后的技术公司保证:自动的情感识别技术可以很快帮助机器人更好地理解人类,或者检测汽车司机的是否在驾驶车上时因为愤怒乱开车。面部识别技术是指利用分析比较的计算机技术识别人脸。人脸识别是一项热门的计算机技术研究领域,其中包括人脸追踪侦测,自动调整影像放大,夜间红外侦测,自动调整曝光强度等技术。人脸识别技术属于生物特征识别技术,是对人本身的面部特征来区分个体。但是专家警告说,试图解释面部表情的面部识别算法可能会侵犯到人权。这些声明是AI Now研究所年度报告中的一部分,他们是一个研究人工智能对社会影响的非营利组织。该报告还包括了监管人工智能
发表于 2018-12-10
面部识别技术:亚马逊和微软声称人工智能可以解读情感

未来竞争聚焦在人工智能和芯片领域

近日,国际金融论坛(IFF)第15届全球年会在广州举行,在“IFF政策对话:技术创新与全球发展”圆桌讨论中,来自科技和企业界的专家共话全球技术创新,第一财经整理了部分观点发表。以下为中金公司董事总经理、电子及技术硬件行业首席分析师黄乐平的发言:非常有幸来跟大家分享一下我们对人工智能(AI)和半导体这两个行业的一些观点。现在,这两个行业基本上占据着中美竞争的两个重要制高点。AI到底对人类有什么影响?麦肯锡的调查报告显示,人工智能未来十年对GDP的推动是1.2%,人工智能将从方方面面影响我们的生活和行业。第一个方面叫替代或者叫放大器。对于现有的工作而言,比如说我们以前用五个人做一条生产线,现在通过数字化或者智能化的方法,就在同样
发表于 2018-12-10

5G将为人工智能带来什么

近日,三大运营商已经获得5G试验频率使用许可批复,这意味着全国范围的大规模5G试验将展开。据了解,中国电信获得3400MHz-3500MHz共100MHz带宽的5G试验频率资源;中国移动获得2515MHz-2675MHz、4800MHz-4900MHz频段的5G试验频率资源;中国联通获得3500MHz-3600MHz共100MHz带宽的5G试验频率资源。5G网络作为移动网络的下一代标准,诸多企业纷纷布局,据相关报道称,5G网络将在2020年落地并商用,而在2018年的今天,5G相关设备已经被诸多大型企业拉出来“遛弯”:华为在MWC2018上,它已经展示了全球首款5G商用芯片以及终端;高通发布骁龙855,其集成集成5G新空口(5GNR
发表于 2018-12-07

AI的天花板与助跑器

人工智能(AI)的声势似乎不复去年之勇。项目变少了,业内薪酬涨势停滞,投资人开始讨论AI的泡沫问题,舆论的风向也从鼓噪转向了质疑。客观讲最近一年时间,AI的基础层、技术层和应用层都没有出现革命性的理论,而AI的9个热门方向——芯片、自然语言处理、语音识别、机器学习应用、计算机视觉与图像、技术平台、智能无人机、智能机器人、自动驾驶的商业化进展参差不齐,和与深度学习有关的自动驾驶等领域,则一直处在商业化的边缘徘徊。当多年后我们回头看眼下这段时间,到底是爆发前的静默,还是漫漫长夜的无聊片段?大公司与小公司的殊途同归这一年,谷歌旗下的Waymo自动驾驶技术仍在测试,尽管FCA代工的车队正在扩张,Waymo也一度宣称商业化“近在眼前
发表于 2018-12-07
AI的天花板与助跑器

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
pt type="text/javascript" src="//v3.jiathis.com/code/jia.js?uid=2113614" charset="utf-8">