看完这10大AI失败案例 你就知道什么是“人工智障”了

2017-12-27 17:50:54编辑:鲁迪 关键字:人工智能  失败案例

今年,AlphaGo(DeepMind 公司研发) 和 Libratus(卡内基梅隆大学开发) 分别战胜了人类最顶级的围棋棋手和扑克牌玩家。虽然这两个里程碑事件向世人展示了近些年里人工智能已经取得了非常大的突破,但是失败与成功并存,在过去的一年中同样也出现了一些人工智能的失败案例,因此有很多人对这项新兴技术的整体成熟度持怀疑态度。

  但作为人工智能的爱好者,很欣慰看到越来越多的人工智能项目落地,能够独立运行,从而部分代替人的工作,但是,它们有时也会出错,这些错误对人类来说可以轻而易举就能避免,接下来我们从 2017 年人工智能领域最具代表性的十大失败案例中学习经验。

  iPhone X 的脸部识别技术可以通过面具破解

  Face ID(刷脸认证方式)是解锁新型 iPhone X 的面部识别技术,被誉为迄今为止最安全的人工智能激活方法,苹果公司宣称其被破解的几率为百万分之一。

  但是在其发布不久之后,越南的一家公司 BKAV 就破解了它,破解的方法是使用 3D 打印的塑料、硅胶、化妆品和剪纸构建一个人脸面具,其制造成本大约 150 美元。BKAV 公司首先扫描一个测试对象的脸部,然后使用 3D 打印机生成一个脸部模型,并贴上剪纸眼睛和嘴巴以及硅胶鼻子,这样一个面具就制作好了。这一破解事件让整个行业都感到不安,扩大了消费级设备隐私的风险,威胁到人工智能的安全。

  Echo 音响午夜异常开启

  亚马逊的 Echo 被认为是最强大的智能音响之一,但是任何事情都有其不完美之处。一名德国男子的 Echo 在夜间异常唤醒并开始播放音乐,然而他并不在家。之后音乐声吵醒了邻居,邻居不得不报警。警察只好强行撞开房门把 Echo 音响关掉,由于门锁被破坏,警察不得不换一把新锁,而当这名男子回家时发现自己的钥匙居然无法打开自己的家门。

  Facebook 聊天机器人关停事件

  今年七月,报道称有两个 Facebook 聊天机器人因以无法识别的语言相互沟通而被关停。一时间有关新的秘密超级智能语言的谣言四起,直到 Facebook 解释说这次神秘的交流只是由于语法编码的疏忽造成,谣言才得以停歇。

  拉斯维加斯自动驾驶巴士发生撞车事故

  一辆自动驾驶的巴士今年十一月在拉斯维加斯首次亮相,市民可免费乘坐,当时著名魔术师佩恩和泰勒也打算排队体验。然而这辆巴士刚刚运行了两小时,就和一辆半挂卡车发生了相撞事故。尽管当时的情况依照交通规则责任主要在半挂卡车,与巴士关系不大。但是这辆智能巴士上的乘客抱怨道,当时卡车靠近的速度很慢,巴士原本可以避开,但是它不够智能和聪明,从而没有摆脱危险。

  Google Allo 使用头巾表情符号来回应枪支表情

  美国有线电视新闻网(CNN)的工作人员通过 Google Allo 收到了一个戴头巾的人像的表情建议。原来这是由于包含手枪的表情符号引发的。尴尬之下,Google 只好向公众致歉并保证它已经解决了这个问题。

  孪生兄弟破解汇丰银行语音识别系统

  汇丰银行的语音识别是一个基于人工智能的安全系统,允许用户通过语音命令访问他们的账户。尽管该公司声称这项技术和指纹识别一样安全,但一名 BBC 记者的双胞胎兄弟却能够通过模仿他的声音访问他的账户。尝试七次就成功了。汇丰银行暂时的解决办法是只要失败超过三次就锁定用户的账户。

  谷歌 AI 将步枪误识别为直升机

  通过对步枪照片进行一些微调,麻省理工学院的一个研究小组就蒙蔽了Google Cloud Vision API,使得系统将步枪图片误识别为直升机。这个不良样本会导致计算机通过引入人眼无法察觉的修改来对图像进行误识别。在过去,只有当黑客知道目标计算机系统的内部机制时,伪造破坏性样本才会起作用。而这次,麻省理工学院的团队在不需要了解系统内部的情况下就触发了误识别。

  恶作剧路牌误导自动驾驶汽车

  研究人员发现,通过使用油漆或胶带对停止标志进行伪装,可以造成自动驾驶汽车对这些标志的误识别。通过在 STOP 标志上添加 “LOVE” 和 “HATE” 这两个词可以误导自动驾驶汽车的机器学习系统,造成它将 STOP 路牌误识别为限速标志。经测试,几乎每次都会误识别成“限速 45 ”。

  AI 将 Bank Butt 误认为 sunset

  机器学习研究人员 Janelle Shan 训练了一个神经网络,以生成带有名称的颜色,名称应当和对应颜色匹配。以及可以“匹配”每种颜色的名称。颜色可能令人赏心悦目,但是名字滑稽可笑。尽管他用颜色名称数据进行了少量训练,该模型仍然将天蓝色标记为“Gray Pubic”,将深绿色标记为“Stoomy Brown”。

  向虚拟助手 Alexa 提问时需要格外小心

  亚马逊 Alexa 虚拟助手让网上购物变得更容易。但也许是购物过程太过容易了,1 月份时,圣地亚哥新闻频道 CW6 曾报道说,有一个六岁的小女孩通过 Alexa 非常简单地就购买了一个价值 170 美元的玩具屋。故事还没有结束,戏剧性的是,当电视主持人重复了这个女孩的话,说:“我喜欢这个小女孩说,'Alexa 请帮我订一个玩具屋' ”时,一些观众家里的 Alexa 设备再次触发了玩具屋订购操作。


关键字:人工智能  失败案例

来源: 互联网 引用地址:http://www.eeworld.com.cn/afdz/article_2017122711459.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:2018年的人工智能将如何发展?
下一篇:2018年人工智能领域 这八大产品都要火!

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

AI赋能制造业 详解联想系人工智能领域投资策略

在人工智能项目国际交流研讨会上,联想控股旗下的两大投资机构——联想之星和君联资本分别分享了其在人工智能领域的投资策略。两家机构均植根于联想30余年来的创业经验和资源积累,区别在于联想之星是联想控股的早期投资和孵化板块,君联资本则重点投资于初创期和扩展期企业,同时兼顾种子期的项目。联想之星王明耀:从自发投资走向自觉投资截至2018年7月13号,联想之星刚好走过了整整十年。十年间,其投资重点专注于TMT、人工智能和医疗健康三大领域。在人工智能领域,联想之星的布局开始于2010年。从2010年到2012年期间,它投资了专注于虹膜识别的中科虹霸、人脸识别公司Face++等公司。这个阶段被联想之星总经理、主管合伙人王明耀称为“自发投资阶段
发表于 2018-07-23 19:01:40

定义智能家居新标准,人工智能与场景也该进来了

两种表述的语意,定义中描述的,以及我们通常所指的都是智能家居这一住宅环境,既包括单个住宅中的智能家居,也包括在房地产小区中实施的基于智能小区平台的智能家居项目,如深圳红树西岸智能家居。第二种语意是指智能家居系统产品,是由智能家居厂商生产、满足智能家居集成所需的主要功能的产品,这类产品应通过集成安装方式完成,因此完整的智能家居系统产品应是包括了硬件产品、软件产品、集成与安装服务、售后在内的一个完整服务过程。  9年多过去了,由于物联网、移动互联网、云计算、人工智能技术的快速发展,已经或正在极大地改变智能家居产业,因此,智能家居的定义需要进行适当修订,千家智客创始人向忠宏为此专门召集智能家居业界专家,包括中国室内装饰
发表于 2018-07-22 11:20:15
定义智能家居新标准,人工智能与场景也该进来了

人工智能会替代多少人力劳动?

一双眼睛的局部细节图出现在电脑屏幕上,小慧对着放大的眼睛,一步步地做好标记点。 一眼望过去,一排排的电脑屏幕上,都是类似的画面。也许是因为窗帘的遮光效果太好,略显昏暗的办公环境加上电脑屏幕上被放大的各种物体细节,颇为惊悚。 在某人工智能研究院看到这一幕,不觉惊叹即使是头部的AI创业公司,最关键的一环依然是从数据标注员开始的。 而这是一群被称作第一批被AI累死的人。 AI的老师:画框的这些人伴随着AI兴起的最关键的技术莫过于深度学习,作为深度学习的基础,神经网络是一种以输入为导向的算法,其结果的准确性取决于接近“无穷”量级的数据。 所以摒除那些复杂的中间环节,深度学习最关键的就是需要
发表于 2018-07-20 19:27:04

机器人进入安防市场,底气何在?

从1920年捷克作家雷尔·恰佩克的科幻小说《罗萨姆的机器人万能公司》中的"robot"一词开始,机器人就从单纯的文字变成了现实。 在现实生活中,以服务机器人为代表的机器人穿梭在人类世界的各个角落里,逐渐成为人类生活中不可缺少的部分。但也正因为诞生于科幻小说之中,人们对机器人一直充满着幻想,从工业机器人到扫地机器人,再到教育机器人和快递机器人,人类的双手正在扶持一个新行业的诞生——安防机器人。 从安防机器人谈起安防机器人又称安保机器人,是机器人行业的一个细分领域之一。 和其它服务机器人类似,安防机器人内置摄像头,GPS技术,机器视觉和语音交互等人工智能技术。但光从称呼出发,我们就能了解安防机器人
发表于 2018-07-20 19:25:44

AI不稳定,就业有风险,所以要招本科生?

上个礼拜,北京航空航天大学主办了国内首届人工智能本科专业研讨会。会上清华大学、南京大学、西安交通大学等国内26所大学共同发布了《关于设置人工智能专业建议书》,呼吁尽快设置本科人工智能专业。 毫无疑问,这个高考季当中,人工智能已经成为了一个热门话题。伴随着知名高校的呼吁,我们还可以看到各个名牌大学的人工智能学院、人工智能研究院如雨后春笋一样成长起来。中国科学院、南京大学、清华大学,都已经在一年内成立了类似研究机构。 而政策层面,国家《新一代人工智能发展规划》中也明确提出要建设人工智能学科。人工智能要发展,需要人才和学术建设应该是毫无争议的问题。  但关于人工智能是不是要在今天就成为本科专业
发表于 2018-07-20 19:22:43
AI不稳定,就业有风险,所以要招本科生?

人工智能会导致经济危机?

理论上来说,人工智能的普及,会带给整个人类社会极大的冲击,包括但不限于会有大量人失业,并由此引发经济危机。 伴随着人类社会的不断发展,人类社会面临的挑战从怎样克服物资不足,正逐渐转变成如何合理分配我们生产出来丰富物资。如果人类可以处理好这个问题,那么人类就有可能进入共产主义社会,整个社会按需分配,人们不再需要争夺资源,因为资源过剩。但是,如果人工智能被别有用心的人利用,整个人类社会陷入一场浩劫,一场巨大的动荡也不是不可能。 但是不管人类最后怎么处理人工智能带来的生产力飞跃,现有的经济运行模式一定会出问题。在人工智能普及的过程中,或者初步完成普及之后必然会出现一个极其容易出现经济危机的阶段——生产过剩/产能过剩
发表于 2018-07-20 19:22:09

小广播

热门活动
换一批
更多

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved