datasheet

看完这10大AI失败案例 你就知道什么是“人工智障”了

2017-12-27 17:50:54来源: 互联网 关键字:人工智能  失败案例

今年,AlphaGo(DeepMind 公司研发) 和 Libratus(卡内基梅隆大学开发) 分别战胜了人类最顶级的围棋棋手和扑克牌玩家。虽然这两个里程碑事件向世人展示了近些年里人工智能已经取得了非常大的突破,但是失败与成功并存,在过去的一年中同样也出现了一些人工智能的失败案例,因此有很多人对这项新兴技术的整体成熟度持怀疑态度。

  但作为人工智能的爱好者,很欣慰看到越来越多的人工智能项目落地,能够独立运行,从而部分代替人的工作,但是,它们有时也会出错,这些错误对人类来说可以轻而易举就能避免,接下来我们从 2017 年人工智能领域最具代表性的十大失败案例中学习经验。

  iPhone X 的脸部识别技术可以通过面具破解

  Face ID(刷脸认证方式)是解锁新型 iPhone X 的面部识别技术,被誉为迄今为止最安全的人工智能激活方法,苹果公司宣称其被破解的几率为百万分之一。

  但是在其发布不久之后,越南的一家公司 BKAV 就破解了它,破解的方法是使用 3D 打印的塑料、硅胶、化妆品和剪纸构建一个人脸面具,其制造成本大约 150 美元。BKAV 公司首先扫描一个测试对象的脸部,然后使用 3D 打印机生成一个脸部模型,并贴上剪纸眼睛和嘴巴以及硅胶鼻子,这样一个面具就制作好了。这一破解事件让整个行业都感到不安,扩大了消费级设备隐私的风险,威胁到人工智能的安全。

  Echo 音响午夜异常开启

  亚马逊的 Echo 被认为是最强大的智能音响之一,但是任何事情都有其不完美之处。一名德国男子的 Echo 在夜间异常唤醒并开始播放音乐,然而他并不在家。之后音乐声吵醒了邻居,邻居不得不报警。警察只好强行撞开房门把 Echo 音响关掉,由于门锁被破坏,警察不得不换一把新锁,而当这名男子回家时发现自己的钥匙居然无法打开自己的家门。

  Facebook 聊天机器人关停事件

  今年七月,报道称有两个 Facebook 聊天机器人因以无法识别的语言相互沟通而被关停。一时间有关新的秘密超级智能语言的谣言四起,直到 Facebook 解释说这次神秘的交流只是由于语法编码的疏忽造成,谣言才得以停歇。

  拉斯维加斯自动驾驶巴士发生撞车事故

  一辆自动驾驶的巴士今年十一月在拉斯维加斯首次亮相,市民可免费乘坐,当时著名魔术师佩恩和泰勒也打算排队体验。然而这辆巴士刚刚运行了两小时,就和一辆半挂卡车发生了相撞事故。尽管当时的情况依照交通规则责任主要在半挂卡车,与巴士关系不大。但是这辆智能巴士上的乘客抱怨道,当时卡车靠近的速度很慢,巴士原本可以避开,但是它不够智能和聪明,从而没有摆脱危险。

  Google Allo 使用头巾表情符号来回应枪支表情

  美国有线电视新闻网(CNN)的工作人员通过 Google Allo 收到了一个戴头巾的人像的表情建议。原来这是由于包含手枪的表情符号引发的。尴尬之下,Google 只好向公众致歉并保证它已经解决了这个问题。

  孪生兄弟破解汇丰银行语音识别系统

  汇丰银行的语音识别是一个基于人工智能的安全系统,允许用户通过语音命令访问他们的账户。尽管该公司声称这项技术和指纹识别一样安全,但一名 BBC 记者的双胞胎兄弟却能够通过模仿他的声音访问他的账户。尝试七次就成功了。汇丰银行暂时的解决办法是只要失败超过三次就锁定用户的账户。

  谷歌 AI 将步枪误识别为直升机

  通过对步枪照片进行一些微调,麻省理工学院的一个研究小组就蒙蔽了Google Cloud Vision API,使得系统将步枪图片误识别为直升机。这个不良样本会导致计算机通过引入人眼无法察觉的修改来对图像进行误识别。在过去,只有当黑客知道目标计算机系统的内部机制时,伪造破坏性样本才会起作用。而这次,麻省理工学院的团队在不需要了解系统内部的情况下就触发了误识别。

  恶作剧路牌误导自动驾驶汽车

  研究人员发现,通过使用油漆或胶带对停止标志进行伪装,可以造成自动驾驶汽车对这些标志的误识别。通过在 STOP 标志上添加 “LOVE” 和 “HATE” 这两个词可以误导自动驾驶汽车的机器学习系统,造成它将 STOP 路牌误识别为限速标志。经测试,几乎每次都会误识别成“限速 45 ”。

  AI 将 Bank Butt 误认为 sunset

  机器学习研究人员 Janelle Shan 训练了一个神经网络,以生成带有名称的颜色,名称应当和对应颜色匹配。以及可以“匹配”每种颜色的名称。颜色可能令人赏心悦目,但是名字滑稽可笑。尽管他用颜色名称数据进行了少量训练,该模型仍然将天蓝色标记为“Gray Pubic”,将深绿色标记为“Stoomy Brown”。

  向虚拟助手 Alexa 提问时需要格外小心

  亚马逊 Alexa 虚拟助手让网上购物变得更容易。但也许是购物过程太过容易了,1 月份时,圣地亚哥新闻频道 CW6 曾报道说,有一个六岁的小女孩通过 Alexa 非常简单地就购买了一个价值 170 美元的玩具屋。故事还没有结束,戏剧性的是,当电视主持人重复了这个女孩的话,说:“我喜欢这个小女孩说,'Alexa 请帮我订一个玩具屋' ”时,一些观众家里的 Alexa 设备再次触发了玩具屋订购操作。


关键字:人工智能  失败案例

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_2017122711459.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:2018年的人工智能将如何发展?
下一篇:2018年人工智能领域 这八大产品都要火!

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

网友正在学习IC视频

推荐阅读
全部
人工智能
失败案例

小广播

独家专题更多

东芝在线展会——芯科技智社会创未来
东芝在线展会——芯科技智社会创未来
2017东芝PCIM在线展会
2017东芝PCIM在线展会
TI车载信息娱乐系统的音视频解决方案
TI车载信息娱乐系统的音视频解决方案
汇总了TI汽车信息娱乐系统方案、优质音频解决方案、汽车娱乐系统和仪表盘参考设计相关的文档、视频等资源

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved