datasheet

看完这10大AI失败案例 你就知道什么是“人工智障”了

2017-12-27来源: 互联网关键字:人工智能  失败案例

今年,AlphaGo(DeepMind 公司研发) 和 Libratus(卡内基梅隆大学开发) 分别战胜了人类最顶级的围棋棋手和扑克牌玩家。虽然这两个里程碑事件向世人展示了近些年里人工智能已经取得了非常大的突破,但是失败与成功并存,在过去的一年中同样也出现了一些人工智能的失败案例,因此有很多人对这项新兴技术的整体成熟度持怀疑态度。

  但作为人工智能的爱好者,很欣慰看到越来越多的人工智能项目落地,能够独立运行,从而部分代替人的工作,但是,它们有时也会出错,这些错误对人类来说可以轻而易举就能避免,接下来我们从 2017 年人工智能领域最具代表性的十大失败案例中学习经验。

  iPhone X 的脸部识别技术可以通过面具破解

  Face ID(刷脸认证方式)是解锁新型 iPhone X 的面部识别技术,被誉为迄今为止最安全的人工智能激活方法,苹果公司宣称其被破解的几率为百万分之一。

  但是在其发布不久之后,越南的一家公司 BKAV 就破解了它,破解的方法是使用 3D 打印的塑料、硅胶、化妆品和剪纸构建一个人脸面具,其制造成本大约 150 美元。BKAV 公司首先扫描一个测试对象的脸部,然后使用 3D 打印机生成一个脸部模型,并贴上剪纸眼睛和嘴巴以及硅胶鼻子,这样一个面具就制作好了。这一破解事件让整个行业都感到不安,扩大了消费级设备隐私的风险,威胁到人工智能的安全。

  Echo 音响午夜异常开启

  亚马逊的 Echo 被认为是最强大的智能音响之一,但是任何事情都有其不完美之处。一名德国男子的 Echo 在夜间异常唤醒并开始播放音乐,然而他并不在家。之后音乐声吵醒了邻居,邻居不得不报警。警察只好强行撞开房门把 Echo 音响关掉,由于门锁被破坏,警察不得不换一把新锁,而当这名男子回家时发现自己的钥匙居然无法打开自己的家门。

  Facebook 聊天机器人关停事件

  今年七月,报道称有两个 Facebook 聊天机器人因以无法识别的语言相互沟通而被关停。一时间有关新的秘密超级智能语言的谣言四起,直到 Facebook 解释说这次神秘的交流只是由于语法编码的疏忽造成,谣言才得以停歇。

  拉斯维加斯自动驾驶巴士发生撞车事故

  一辆自动驾驶的巴士今年十一月在拉斯维加斯首次亮相,市民可免费乘坐,当时著名魔术师佩恩和泰勒也打算排队体验。然而这辆巴士刚刚运行了两小时,就和一辆半挂卡车发生了相撞事故。尽管当时的情况依照交通规则责任主要在半挂卡车,与巴士关系不大。但是这辆智能巴士上的乘客抱怨道,当时卡车靠近的速度很慢,巴士原本可以避开,但是它不够智能和聪明,从而没有摆脱危险。

  Google Allo 使用头巾表情符号来回应枪支表情

  美国有线电视新闻网(CNN)的工作人员通过 Google Allo 收到了一个戴头巾的人像的表情建议。原来这是由于包含手枪的表情符号引发的。尴尬之下,Google 只好向公众致歉并保证它已经解决了这个问题。

  孪生兄弟破解汇丰银行语音识别系统

  汇丰银行的语音识别是一个基于人工智能的安全系统,允许用户通过语音命令访问他们的账户。尽管该公司声称这项技术和指纹识别一样安全,但一名 BBC 记者的双胞胎兄弟却能够通过模仿他的声音访问他的账户。尝试七次就成功了。汇丰银行暂时的解决办法是只要失败超过三次就锁定用户的账户。

  谷歌 AI 将步枪误识别为直升机

  通过对步枪照片进行一些微调,麻省理工学院的一个研究小组就蒙蔽了Google Cloud Vision API,使得系统将步枪图片误识别为直升机。这个不良样本会导致计算机通过引入人眼无法察觉的修改来对图像进行误识别。在过去,只有当黑客知道目标计算机系统的内部机制时,伪造破坏性样本才会起作用。而这次,麻省理工学院的团队在不需要了解系统内部的情况下就触发了误识别。

  恶作剧路牌误导自动驾驶汽车

  研究人员发现,通过使用油漆或胶带对停止标志进行伪装,可以造成自动驾驶汽车对这些标志的误识别。通过在 STOP 标志上添加 “LOVE” 和 “HATE” 这两个词可以误导自动驾驶汽车的机器学习系统,造成它将 STOP 路牌误识别为限速标志。经测试,几乎每次都会误识别成“限速 45 ”。

  AI 将 Bank Butt 误认为 sunset

  机器学习研究人员 Janelle Shan 训练了一个神经网络,以生成带有名称的颜色,名称应当和对应颜色匹配。以及可以“匹配”每种颜色的名称。颜色可能令人赏心悦目,但是名字滑稽可笑。尽管他用颜色名称数据进行了少量训练,该模型仍然将天蓝色标记为“Gray Pubic”,将深绿色标记为“Stoomy Brown”。

  向虚拟助手 Alexa 提问时需要格外小心

  亚马逊 Alexa 虚拟助手让网上购物变得更容易。但也许是购物过程太过容易了,1 月份时,圣地亚哥新闻频道 CW6 曾报道说,有一个六岁的小女孩通过 Alexa 非常简单地就购买了一个价值 170 美元的玩具屋。故事还没有结束,戏剧性的是,当电视主持人重复了这个女孩的话,说:“我喜欢这个小女孩说,'Alexa 请帮我订一个玩具屋' ”时,一些观众家里的 Alexa 设备再次触发了玩具屋订购操作。


关键字:人工智能  失败案例

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_2017122711459.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:2018年的人工智能将如何发展?
下一篇:2018年人工智能领域 这八大产品都要火!

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

2225年 人类可以通过脑机永生?

2019年以来几部与人工智能有关的动画电影可谓火得不行,先是卡梅隆担任制片的《战斗天使:阿丽塔》,之后则是Netflix的自制系列动画《爱、死亡和机器人》,在这些影片中有项技术一直都在出现,那就是“脑机接口”。脑机接口,它是在人或动物脑(或者脑细胞的培养物)与外部设备间建立的直接连接通路,从而实现“大脑”与外部设备之间的交互,通俗点理解就是用意念控制设备。从银屏中走出的技术对脑机接口的研究可以追溯到20世纪70年代,不过让“脑机接口”被广泛认知,当属20年前的一部电影《黑客帝国》。黑客帝国所描述的正是一个在脑机接口下的世界,在当时的背景下其使用了各种超前的科技理念,加上复杂的内容设定,让很多看完一遍后依旧云里雾里。除了上面说到
发表于 2019-04-17

昆仑万维集团押注互联网3.0,大举进攻无人驾驶领域

昆仑万维集团董事长周亚辉在2019年年会上就曾表示,昆仑万维未来的重心将是投资互联网3.0时代,也就是物联网与人工智能的时代。AI技术将给各个行业赋能,未来几年将会爆发性成长,人工智能也将是昆仑万维在未来加大投资的重点领域。 昆仑万维投资版图再下一城。4月11日,昆仑万维公告称,公司全资子公司昆仑集团拟以自有资金5000万美元投资Pony AI,取得Pony融资后3%的股权。  Pony是一家注册地在开曼群岛的新创公司,成立时间为2016年11月份,主营业务为专注于L4级别无人驾驶技术的研发和车队运营。  昆仑万维称,公司投资Pony,前瞻性地布局无人驾驶市场,是投资人工智能领域的重要举措。  跨界造车?在国内,Pony
发表于 2019-04-16

戴上“白帽子” 人工智能投身网络安全攻防战

面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。正在赋能网络安全“人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。先说好的一面。360安全研究院邹
发表于 2019-04-15

识别黑色素瘤图片,德国人工智能算法胜过医生

德国研究人员最新开发出一种可用于诊断黑色素瘤的人工智能算法。在一场157名皮肤科医生与人工智能算法的诊断比拼中,人工智能的准确度总体来讲更胜一筹。德国国家肿瘤疾病中心等机构研究人员在新一期《欧洲癌症杂志》上发表研究报告说,他们开发出一种人工智能算法,可分析皮肤病变用于诊断。为验证该算法,他们让来自德国12所大学医院的157名皮肤科医生与人工智能展开一场诊断大比拼,内容是分析100张皮肤图片,判断图片所示是正常胎记还是一种皮肤癌——黑色素瘤。100张图片中有20张为确诊病人的黑色素瘤,另80张为良性的胎记。结果显示,157名医生中只有7人的判断比人工智能更准确,14人和人工智能准确度相当,136人没有人工智能准确。研究人员约亨·斯文
发表于 2019-04-15

具备灵活的认知环境的能力, 人工智能才称得上“厉害”

据科技日报报道,无论下棋还是玩电子游戏,人工智能的表现似乎都强于人类。然而,近日,英国研究人员认为,只有能够像鸡、老鼠等动物一样具备灵活的认知环境的能力,人工智能才称得上“厉害”。据新华社报道,研究人员因此举办“动物人工智能奥林匹克”竞赛,让各种人工智能设备在指定“赛场”内完成认知任务,例如,向人工智能展示某种食物并将食物挪走,看它能否重新找到食物。研究人员说,向鸡展示某种食物并当面将食物移走,鸡大概知道这种食物被拿到了哪里,并能够克服障碍重新找到食物。研究人员计划于4月底开放赛场,供参赛队伍训练其人工智能设备,6月开始正式竞技,让参赛人工智能设备解决一些动物日常遇到的小问题。取得优胜的参赛队伍将获得1万美元(约合6.7万元人
发表于 2019-04-15

亚马逊缔造商业帝国需要人工智能黑科技

据国外媒体报道,亚马逊打造的庞大商业帝国离不开其人工智能技术的帮助。其不起眼但功能强大的机器学习功能可以满足从物流中心、云服务以及无人商店。亚马逊的六页备忘录很有名。高管们必须每年写一份计划书,列出他们的商业计划。鲜为人知的是,这些备忘录总要回答一个特殊问题:你打算如何使用机器学习?亚马逊的高管们普遍表示,亚马逊并不鼓励作出像“不多”这样的回答。机器学习是人工智能的一种形式,其从数据中挖掘出可用于预测的有价值信息。当杰夫·威尔克(Jeff Wilke)于1999年加入亚马逊时,机器学习就在亚马逊扎根了。如今威尔克已经是杰夫o贝索斯(Jeff Bezos)的副手,他成立了一个科学家团队,研究亚马逊的内部流程,以提高效率。他将自
发表于 2019-04-15

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2019 EEWORLD.com.cn, Inc. All rights reserved