看完这10大AI失败案例 你就知道什么是“人工智障”了

2017-12-27 17:50:54编辑:鲁迪 关键字:人工智能  失败案例

今年,AlphaGo(DeepMind 公司研发) 和 Libratus(卡内基梅隆大学开发) 分别战胜了人类最顶级的围棋棋手和扑克牌玩家。虽然这两个里程碑事件向世人展示了近些年里人工智能已经取得了非常大的突破,但是失败与成功并存,在过去的一年中同样也出现了一些人工智能的失败案例,因此有很多人对这项新兴技术的整体成熟度持怀疑态度。

  但作为人工智能的爱好者,很欣慰看到越来越多的人工智能项目落地,能够独立运行,从而部分代替人的工作,但是,它们有时也会出错,这些错误对人类来说可以轻而易举就能避免,接下来我们从 2017 年人工智能领域最具代表性的十大失败案例中学习经验。

  iPhone X 的脸部识别技术可以通过面具破解

  Face ID(刷脸认证方式)是解锁新型 iPhone X 的面部识别技术,被誉为迄今为止最安全的人工智能激活方法,苹果公司宣称其被破解的几率为百万分之一。

  但是在其发布不久之后,越南的一家公司 BKAV 就破解了它,破解的方法是使用 3D 打印的塑料、硅胶、化妆品和剪纸构建一个人脸面具,其制造成本大约 150 美元。BKAV 公司首先扫描一个测试对象的脸部,然后使用 3D 打印机生成一个脸部模型,并贴上剪纸眼睛和嘴巴以及硅胶鼻子,这样一个面具就制作好了。这一破解事件让整个行业都感到不安,扩大了消费级设备隐私的风险,威胁到人工智能的安全。

  Echo 音响午夜异常开启

  亚马逊的 Echo 被认为是最强大的智能音响之一,但是任何事情都有其不完美之处。一名德国男子的 Echo 在夜间异常唤醒并开始播放音乐,然而他并不在家。之后音乐声吵醒了邻居,邻居不得不报警。警察只好强行撞开房门把 Echo 音响关掉,由于门锁被破坏,警察不得不换一把新锁,而当这名男子回家时发现自己的钥匙居然无法打开自己的家门。

  Facebook 聊天机器人关停事件

  今年七月,报道称有两个 Facebook 聊天机器人因以无法识别的语言相互沟通而被关停。一时间有关新的秘密超级智能语言的谣言四起,直到 Facebook 解释说这次神秘的交流只是由于语法编码的疏忽造成,谣言才得以停歇。

  拉斯维加斯自动驾驶巴士发生撞车事故

  一辆自动驾驶的巴士今年十一月在拉斯维加斯首次亮相,市民可免费乘坐,当时著名魔术师佩恩和泰勒也打算排队体验。然而这辆巴士刚刚运行了两小时,就和一辆半挂卡车发生了相撞事故。尽管当时的情况依照交通规则责任主要在半挂卡车,与巴士关系不大。但是这辆智能巴士上的乘客抱怨道,当时卡车靠近的速度很慢,巴士原本可以避开,但是它不够智能和聪明,从而没有摆脱危险。

  Google Allo 使用头巾表情符号来回应枪支表情

  美国有线电视新闻网(CNN)的工作人员通过 Google Allo 收到了一个戴头巾的人像的表情建议。原来这是由于包含手枪的表情符号引发的。尴尬之下,Google 只好向公众致歉并保证它已经解决了这个问题。

  孪生兄弟破解汇丰银行语音识别系统

  汇丰银行的语音识别是一个基于人工智能的安全系统,允许用户通过语音命令访问他们的账户。尽管该公司声称这项技术和指纹识别一样安全,但一名 BBC 记者的双胞胎兄弟却能够通过模仿他的声音访问他的账户。尝试七次就成功了。汇丰银行暂时的解决办法是只要失败超过三次就锁定用户的账户。

  谷歌 AI 将步枪误识别为直升机

  通过对步枪照片进行一些微调,麻省理工学院的一个研究小组就蒙蔽了Google Cloud Vision API,使得系统将步枪图片误识别为直升机。这个不良样本会导致计算机通过引入人眼无法察觉的修改来对图像进行误识别。在过去,只有当黑客知道目标计算机系统的内部机制时,伪造破坏性样本才会起作用。而这次,麻省理工学院的团队在不需要了解系统内部的情况下就触发了误识别。

  恶作剧路牌误导自动驾驶汽车

  研究人员发现,通过使用油漆或胶带对停止标志进行伪装,可以造成自动驾驶汽车对这些标志的误识别。通过在 STOP 标志上添加 “LOVE” 和 “HATE” 这两个词可以误导自动驾驶汽车的机器学习系统,造成它将 STOP 路牌误识别为限速标志。经测试,几乎每次都会误识别成“限速 45 ”。

  AI 将 Bank Butt 误认为 sunset

  机器学习研究人员 Janelle Shan 训练了一个神经网络,以生成带有名称的颜色,名称应当和对应颜色匹配。以及可以“匹配”每种颜色的名称。颜色可能令人赏心悦目,但是名字滑稽可笑。尽管他用颜色名称数据进行了少量训练,该模型仍然将天蓝色标记为“Gray Pubic”,将深绿色标记为“Stoomy Brown”。

  向虚拟助手 Alexa 提问时需要格外小心

  亚马逊 Alexa 虚拟助手让网上购物变得更容易。但也许是购物过程太过容易了,1 月份时,圣地亚哥新闻频道 CW6 曾报道说,有一个六岁的小女孩通过 Alexa 非常简单地就购买了一个价值 170 美元的玩具屋。故事还没有结束,戏剧性的是,当电视主持人重复了这个女孩的话,说:“我喜欢这个小女孩说,'Alexa 请帮我订一个玩具屋' ”时,一些观众家里的 Alexa 设备再次触发了玩具屋订购操作。


关键字:人工智能  失败案例

来源: 互联网 引用地址:http://www.eeworld.com.cn/afdz/article_2017122711459.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:2018年的人工智能将如何发展?
下一篇:2018年人工智能领域 这八大产品都要火!

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

特斯拉来华背后竟然隐藏着这么大的“玄机”?

的干将,并密集向中国媒体发声。 贸易战阴云之下,一些美国的高科技企业却并未放缓入华的步伐。在科技领域,大数据、云计算和人工智能等板块,新一轮外企正在悄无声息间“抢滩”登陆。“ICT(信息通讯技术)行业一直是中国开放时间较早、开放程度较高、利用外资比较多的行业。当前,在中国经济新常态下,随着中央和各地方政府积极推动产业转型升级、鼓励创新,及进一步扩大开放、放宽外商投资市场准入、不断优化营商环境等新举措,外商科技型企业在华投资面临更有利的经营环境,包括政策支持、消费升级认同和市场潜力等。”商务部研究院跨国公司研究中心主任何曼青对经济观察报记者说,这些外资企业在中国正在寻找新的商机。“科技型外商投资企业与中方加强合资合作利于双方
发表于 2018-07-17 20:37:24

从备受争议的自动驾驶谈人工智能

近年来,结合了感知、融合、决策、控制的自动驾驶技术无疑是近年最火的研发领域之一。这得益于现在人工智能技术的发展,但是在ThoughtWorks大数据团队首席科学家王晓雷看来,人工智能不是万能的,深度学习也可能被“愚弄”。 在近日举行的2018 ThoughtWorks技术雷达峰会上,王晓雷进行了主题为《自动驾驶——人工智能的能与不能 》的演讲,并结合自动驾驶技术的最新发展,分享了我们对于真实世界中,关于智能算法的长处和局限性的一些思考。 从备受争议的自动驾驶谈起2015年5月,工信部发表《中国制造2025》,将智能车联网提升到国家战略高度。至今三年时间里,各项政策层出不穷,甚至开放了包括北京上海的部分道路在内
发表于 2018-07-17 20:13:33

无人驾驶汽车是否需要被监管?

一、泛人工智能领域国内投融资动态1.1 国内投融资动态 表1.1 泛人工智能领域国内投融资动态(2018年7月第2周摘选)  1.2 投融资热点小结 图1.1 上海泛人工智能领域创投趋势变化  二、泛人工智能领域发展趋势和政策地方动态2.1 国外动态精选2.1.1 美国智能音箱超过5440万:亚马逊市场份额第一 据外媒QUARTZ给出的数据,目前美国市场上的智能音箱已经超过5400万台。其中占据市场份额最大的分别是亚马逊和谷歌,前者占据美国市场61.9%,后者则是26.9%,苹果的Home Pod则是占据4.1%。另外,美国用户常常用智能音箱的功能分别是听音乐
发表于 2018-07-17 20:12:20
无人驾驶汽车是否需要被监管?

存算一体化与人工智能的完美融合

最近芯片成为了创新行业的一个高频词,以芯片为代表的集成电路产业被誉为是工业粮食,也是数字经济和信息交互不可或缺的核心技术,然而在中国芯片行业当中有一句俗话叫做“除了水和空气,剩下的都是从国外买的”,听起来似乎是很夸张,但实际上一点也不夸张,除了技术之外,过高的芯片成本也成为了拦路虎阻碍其行业的发展。如何降低芯片的成本以及提高运算效率是当今各大企业所考虑的首要难题。 在安创成长营第五期Demo Day上,一家来自北京的芯片创业公司介绍了她们最新的低功耗低成本的存算一体芯片。北京知存科技有限公司是一家专注于开发基于存算一体的人工智能芯片创业企业。虽然现在AI已经是当今社会的发展方向,但是它仍旧处于发展早期阶段,按照人工智能
发表于 2018-07-17 11:54:10

轻智能技术:典型的应用场景有哪些?

人工智能、机器学习和深度学习这三者到底是什么关系,又能实现哪些功能呢?ABCD(即人工智能、区块链应用、云计算、大数据)是科技行业的发展趋势和未来。麦肯锡2013年就预测过,到2025年移动互联网、自动学习、物联网、云计算、机器人和自动驾驶这些新技术能够创造的社会价值。但目前来看这个数据是被低估了,这几年发展得太快。所有这些都是由AI推动的新的领域与应用场景。那人工智能、机器学习和深度学习这三者到底是什么关系,又能实现哪些功能呢?日前,在ASPENCORE旗下《电子工程专辑》、《EDN》和《国际电子商情》共同举办的“IoT技术与应用论坛”上,恩智浦半导体大中华区客户应用方案与技术部门资深工程师李俊祥在其“恩智浦人工智能
发表于 2018-07-16 20:19:44
轻智能技术:典型的应用场景有哪些?

中美人工智能角力:中国在AI领域实力追赶美国?

当你在搜索网站上输入“AI”、“美国和中国”这样的关键词时,你会发现,诸如“中国和美国要在AI领域一决胜负”、“中国想要超越美国在AI领域的领先地位”和“AI军备竞赛:中国和美国竞争大数据主宰权”这样的新闻标题,扑面而来。从媒体报道的“热情”上来看,观察人工智能产业的一个重要维度,已经落点在了中国对美国的追赶上。而就在6月25日,官方机构中国科学院文献情报中心和科睿唯安联合发布了《G20国家科技竞争格局之辩》系列报告,这份报告指出,在G20国家中,中国在科研和技术创新力方面表现突出,在人工智能领域的科技实力仅次于美国,且增速明显。与此同时,面对这场两国间的“近身肉搏战”,有言论称一场人工智能领域的科技冷战已经打响。AI专家Ian
发表于 2018-07-16 19:33:47

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved