谷歌 AI 将黑人识别成“大猩猩”两年后:就算能识别,也不敢识别了

2018-01-18 18:09:24编辑:鲁迪 关键字:谷歌  自动驾驶汽车  机器学习

2015年,一名黑人软件开发人员在Twitter上说,谷歌的照片服务(Google Photos)把他和一个黑人朋友的照片打上了“大猩猩”的标签,这让谷歌感到非常尴尬。谷歌宣称自己“感到震惊和由衷的歉意”。一名相关的工程师表示,谷歌正在“研究更长期的解决方案”。

两年多之后,谷歌给出的其中一项修复措施就是将大猩猩和其他灵长类动物的标签从该服务的词库中删除。这一尴尬的变通方案表明,谷歌和其他科技公司在推进图像识别技术方面仍旧面临着诸多困难,尽管这些公司希望能够在自动驾驶汽车、个人助理和其他产品上使用这些技术。

《连线》杂志用4万张图片对谷歌照片服务进行了测试,这些照片中有很多动物。谷歌照片在寻找包括熊猫和贵宾犬在内的许多动物上表现得非常棒。但当使用“大猩猩”、“黑猩猩”和“猴子”等词进行搜索时,谷歌照片反馈称“没有结果”。

在谷歌照片服务中, 谷歌对"大猩猩"、"黑猩猩"和"猴子"等词的搜索进行了审查。

作为一款移动应用和网站,谷歌照片为5亿用户提供了管理和备份个人照片的地方。它使用机器学习技术,自动将照片进行分组,比如湖泊或拿铁。同样,用户也可以利用该技术对他们的照片进行搜索。

在《连线》杂志的测试中,谷歌照片确实识别出了一些灵长类动物。 使用"狒狒"、"长臂猿"、"狨猴"和"猩猩"等词进行搜索,结果都还不错。只要搜索时使用术语而不是使用M开头的词语, 就可以找到卷尾猴和疣猴。

在另一项测试中,《连线》上传了20张黑猩猩和大猩猩的照片,这些黑猩猩和大猩猩来自非营利组织“黑猩猩天堂”和“黛安 · 福西研究所”(Diane Fossey Institute)。有些猩猩可以用使用“森林”、“丛林”或“动物园”等关键词来搜索到,但事实证明,其余的都很难被发现。

结论是:在谷歌照片中,狒狒是狒狒,但猴子不是猴子。大猩猩和黑猩猩是不可见的。

智能手机上的谷歌Lens应用,也无法识别出来大猩猩。

在第三次测试中,《连线》杂志上传了一组1万多张用于面部识别研究的图片。用“非洲裔美国人”这个词进行搜索,最后只出现了一幅羚羊的画面。输入“黑人男性”、“黑人女性”或“黑人”,谷歌的系统会返回黑白图像,按照性别正确排序,但不被种族过滤。对于肤色较深的人来说,可以使用“非洲式”(afro)和“非洲人”(African)等词进行搜索,尽管结果好坏参半,并不那么准确。

谷歌的一位发言人证实,在2015年的事件发生后,"大猩猩"就从搜索和图片标签中删除了,直到今天"猩猩"、"黑猩猩"和"猴子"等标签仍在屏蔽中。该发言人在电子邮件中写道:“图像标签技术还处于早期阶段,但不幸的是,它还远远不够完美。”他强调了谷歌照片的一个功能,即允许用户报告错误。

谷歌对大猩猩图片的谨慎处理,说明了现有的机器学习技术上的一个不足之处。有了足够的数据和计算能力,软件就可以被训练,可以用来对图像进行分类,或者在较高的精确度下对语音进行转录。但它无法轻易超越这种从训练中得出的经验。即使是最优秀的算法,也缺乏像人类那样运用常识或抽象概念的能力,来完善它们对世界的诠释。

因此,机器学习工程师在现实世界中部署他们的成果时,必须对他们的训练数据中没有发现的“边缘案例”保持警惕。维吉尼亚大学教授维恩特·奥达尼斯·罗梅恩(Vicente ord ez rom n)说:“你的系统一旦开始上线运行,你就很难再对它进行建模。”去年,他参与了一项研究,该研究表明,应用于图像的机器学习算法可以识别并放大人们对不同性别之间的偏见。

谷歌照片用户上传的照片是在各种不完美的条件下拍摄的。考虑到数据库中的图片数量,将一种类型的“类人猿”误认成另一种类型的可能性极小。

谷歌母公司Alphabet和更广泛的科技行业面临着更大的风险,比如应用在自动驾驶汽车上。罗曼(Román)和他的同事、软件可靠性专家拜沙希·雷(Baishakhi Ray)一起,正在探索如何限制视觉系统在自动驾驶汽车等场景中可能的误判行为。雷说,这方面已经取得了一些进展,但目前还不清楚如何能够很好地控制这些系统的局限性。“我们仍然不能非常具体地知道这些机器学习模型正在学习什么,”她说。

谷歌的一些机器学习系统被允许在公开场合使用大猩猩照片进行检测。该公司的云计算部门为企业提供了一项名为云视觉(Cloud Vision) API的服务来构建他们自己的项目。当《连线》杂志用大猩猩和黑猩猩的照片对在线演示进行测试时,它同时识别出了这两张照片。

例如,一只成年大猩猩抱着双胞胎宝宝的照片被谷歌的云视觉服务贴上了“西部大猩猩”的标签,其信心指数为94%。系统会在相关的标签上返回一个最佳猜测列表。“哺乳动物”和“灵长类动物”的得分也达到了90%甚至更多。

谷歌向企业提供的云计算图像识别服务可以自由地称大猩猩为大猩猩。

谷歌的Assistant也可以自由地将大猩猩称为“大猩猩”。在安卓手机上,谷歌Assistant可以被召唤去尝试解释手机屏幕上的内容。当被要求识别“一只成年大猩猩抱着双胞胎宝宝”的照片时,谷歌Assistant给出的建议是“山地大猩猩”。

但是,“谷歌Lnes”,被标榜为展示该公司“计算机视觉上的进步”的应用,在去年10月添加到了谷歌照片上。当被要求识别同一幅图像时,它回应道:“嗯……还没看清楚。”


关键字:谷歌  自动驾驶汽车  机器学习

来源: 36氪 引用地址:http://www.eeworld.com.cn/afdz/article_2018011811511.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:行人重识别技术 安防下一个目标
下一篇:2018 8K时代来临,安防却有点远

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

今天,你的朋友圈也被灵魂画师们刷屏了吗?

   谁都知道人工智能对于现代科技发展的重要性:一个能够学习并理解人类行为的AI,当它变得足够聪明,那么在日常生活中,它所实现的就不仅仅是“工具”那么简单,比如谷歌助手、Siri或是Cortana等,在自然语言交互的加持下,它们都更像是我们的“得力助手”。  但对于普通人而言,似乎很难抽象地理解AI,他们更多的将AI认定为厂商为了产品而构建的全新谎言。因此,一批批厂商正在为了扭转外界对于AI的误解而努力着。就在昨天,谷歌发布了首个微信小程序应用——猜画小歌,基于Google AI算法,这款小程序一经上架就在朋友圈实现了刷屏,网友们纷纷在朋友圈更新着自己的灵魂画作,并比拼着相互的成绩,不少人都纷纷发出感叹:“AI
发表于 2018-07-23 13:22:12
今天,你的朋友圈也被灵魂画师们刷屏了吗?

传谷歌拟在5年内用Fuchsia取代Android和Chrome OS

  新浪科技讯 北京时间7月20日早间消息,据彭博社报道,谷歌正在悄然开发的手机和平板电脑操作系统Fuchsia可能会在5年内取代Android和Chrome OS。  但据CNBC了解,实际上谷歌并未制定什么5年计划。报道称,谷歌CEO桑达尔·皮查伊(Sundar Pichai)以及Android和Chrome业务负责人希罗什·洛克海姆(Hiroshi Lockiheimer)尚未批准任何“路线图”。谷歌发表简短声明称,Fuchsia只是该公司的“诸多实验性开源项目之一”,但拒绝进一步置评。  彭博社从消息人士处获悉,Fuchsia团队自己的工程师认为他们可以从小目标开始,先让Fuchsia系统在3年内登陆Google Home
发表于 2018-07-23 13:19:41
传谷歌拟在5年内用Fuchsia取代Android和Chrome OS

苹果Siri不温不火 产品最后一位创始人也离职了

现在各大公司都在积极推出自己的语音助手,微软小娜,小米小爱,谷歌语音助手、苹果siri等,苹果siri在前几年还是挺风光的,不过现在在那么多语音助手中,并不是最出色的。根据外媒 The Information 报道,苹果Siri 的联合创始人Tom Gruber 已经从苹果离职,并且得到苹果公司证实。  据了解,Tom Gruber 是Siri 联合创始人中最后离开苹果的,Dag Kittlaus 和 Adam Cheyer 已经于2011年离开苹果,关于Tom Gruber的去向,有外媒指出,他将会选择退休,并且追求自己的摄影爱好和海洋保护的事业。资料显示,Siri公司成立于2007年,2010年被苹果以2亿
发表于 2018-07-22 11:43:32
苹果Siri不温不火 产品最后一位创始人也离职了

取代Android?谷歌的Fuchsia系统的“斤两”如何?

自2016年以来,谷歌秘密成立的小组一直在研发一款全新的系统Fuchsia,据悉谷歌研发Fuchsia系统的目标是全面取代Android。一直以来Android虽然占据85%的全国市场份额,但是它的性能、隐私、安全性等问题一直被人诟病。谷歌希望通过一个完善的Fuchsia系统修正Android所遗留的各种问题,并取而代之。随着更多个人设备和其他小型设备的不断上线,从零起步的Fuchsia项目旨在克服Android的一些局限性,更好地适应设备中的语音交互功能和频繁的安全更新,并实现从笔记本电脑到微型联网传感器等不同设备之间的无缝性。CEO桑达尔·皮查伊(Sundar Pichai)已设定谷歌的发展方向:让人工智能服务瞄准所有消费者
发表于 2018-07-22 11:38:03
取代Android?谷歌的Fuchsia系统的“斤两”如何?

欧盟罚谷歌!促进竞争,但安全性难以保

欧盟除了对谷歌开出50.4亿美元的罚单外,还要求谷歌在90天之内纠正自己的行为,不知道是只纠正欧盟境内,还是要纠正全球范围呢。欧盟此次对谷歌的打击实际上是针对安卓的核心服务:Google play,如果安卓彻底开放的话意味着安卓系统碎片化会加重,安全性难以保障。欧盟委员会刚刚对谷歌处以了50.4亿美元的重罚,并且限定谷歌在90天之内来纠正自己的行为。欧盟委员会认为,谷歌的做法违背了反垄断竞争法规,强迫硬件设备厂商在安卓智能手机上使用谷歌自家Chrome浏览器、谷歌搜索和谷歌地图等服务,这种行为不仅损害了硬件厂商和运营商的利益,而且还限制了竞争对手的发展。虽然从欧盟委员会的角度来看,处罚是为了安卓生态系统更好的发展,但这其实也是一把
发表于 2018-07-22 11:35:07

对比中美无人驾驶汽车领域,得到了哪些信息?

的资源。 四、中美发展现状对比美国谷歌公司作为最先发展无人驾驶技术的公司,其研制的全自动驾驶汽车能够实现自动起动行驶与停车。谷歌自动驾驶汽车项目重组为一家名为Waymo的独立公司。Waymo于2017年11月7日对外宣布,将对不配备安全驾驶员的无人驾驶汽车进行测试。预计无人驾驶汽车测试活动将在2018年加速,2018年Waymo可能将会在公路上部署更多完全无人驾驶汽车。除了传统汽车业强国与谷歌等互联网企业已经开始无人驾驶汽车的研发并且已经取得了相当好的成果之外,苹果、Uber等也已经将业务范围向无人驾驶汽车倾斜。 目前,国内的百度、长安等企业以及国防科技大学、军事交通学院等军事院校的无人驾驶汽车走在国内研发的前列
发表于 2018-07-21 10:07:07
对比中美无人驾驶汽车领域,得到了哪些信息?

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved