datasheet

谷歌 AI 将黑人识别成“大猩猩”两年后:就算能识别,也不敢识别了

2018-01-18来源: 36氪 关键字:谷歌  自动驾驶汽车  机器学习

2015年,一名黑人软件开发人员在Twitter上说,谷歌的照片服务(Google Photos)把他和一个黑人朋友的照片打上了“大猩猩”的标签,这让谷歌感到非常尴尬。谷歌宣称自己“感到震惊和由衷的歉意”。一名相关的工程师表示,谷歌正在“研究更长期的解决方案”。

两年多之后,谷歌给出的其中一项修复措施就是将大猩猩和其他灵长类动物的标签从该服务的词库中删除。这一尴尬的变通方案表明,谷歌和其他科技公司在推进图像识别技术方面仍旧面临着诸多困难,尽管这些公司希望能够在自动驾驶汽车、个人助理和其他产品上使用这些技术。

《连线》杂志用4万张图片对谷歌照片服务进行了测试,这些照片中有很多动物。谷歌照片在寻找包括熊猫和贵宾犬在内的许多动物上表现得非常棒。但当使用“大猩猩”、“黑猩猩”和“猴子”等词进行搜索时,谷歌照片反馈称“没有结果”。

在谷歌照片服务中, 谷歌对"大猩猩"、"黑猩猩"和"猴子"等词的搜索进行了审查。

作为一款移动应用和网站,谷歌照片为5亿用户提供了管理和备份个人照片的地方。它使用机器学习技术,自动将照片进行分组,比如湖泊或拿铁。同样,用户也可以利用该技术对他们的照片进行搜索。

在《连线》杂志的测试中,谷歌照片确实识别出了一些灵长类动物。 使用"狒狒"、"长臂猿"、"狨猴"和"猩猩"等词进行搜索,结果都还不错。只要搜索时使用术语而不是使用M开头的词语, 就可以找到卷尾猴和疣猴。

在另一项测试中,《连线》上传了20张黑猩猩和大猩猩的照片,这些黑猩猩和大猩猩来自非营利组织“黑猩猩天堂”和“黛安 · 福西研究所”(Diane Fossey Institute)。有些猩猩可以用使用“森林”、“丛林”或“动物园”等关键词来搜索到,但事实证明,其余的都很难被发现。

结论是:在谷歌照片中,狒狒是狒狒,但猴子不是猴子。大猩猩和黑猩猩是不可见的。

智能手机上的谷歌Lens应用,也无法识别出来大猩猩。

在第三次测试中,《连线》杂志上传了一组1万多张用于面部识别研究的图片。用“非洲裔美国人”这个词进行搜索,最后只出现了一幅羚羊的画面。输入“黑人男性”、“黑人女性”或“黑人”,谷歌的系统会返回黑白图像,按照性别正确排序,但不被种族过滤。对于肤色较深的人来说,可以使用“非洲式”(afro)和“非洲人”(African)等词进行搜索,尽管结果好坏参半,并不那么准确。

谷歌的一位发言人证实,在2015年的事件发生后,"大猩猩"就从搜索和图片标签中删除了,直到今天"猩猩"、"黑猩猩"和"猴子"等标签仍在屏蔽中。该发言人在电子邮件中写道:“图像标签技术还处于早期阶段,但不幸的是,它还远远不够完美。”他强调了谷歌照片的一个功能,即允许用户报告错误。

谷歌对大猩猩图片的谨慎处理,说明了现有的机器学习技术上的一个不足之处。有了足够的数据和计算能力,软件就可以被训练,可以用来对图像进行分类,或者在较高的精确度下对语音进行转录。但它无法轻易超越这种从训练中得出的经验。即使是最优秀的算法,也缺乏像人类那样运用常识或抽象概念的能力,来完善它们对世界的诠释。

因此,机器学习工程师在现实世界中部署他们的成果时,必须对他们的训练数据中没有发现的“边缘案例”保持警惕。维吉尼亚大学教授维恩特·奥达尼斯·罗梅恩(Vicente ord ez rom n)说:“你的系统一旦开始上线运行,你就很难再对它进行建模。”去年,他参与了一项研究,该研究表明,应用于图像的机器学习算法可以识别并放大人们对不同性别之间的偏见。

谷歌照片用户上传的照片是在各种不完美的条件下拍摄的。考虑到数据库中的图片数量,将一种类型的“类人猿”误认成另一种类型的可能性极小。

谷歌母公司Alphabet和更广泛的科技行业面临着更大的风险,比如应用在自动驾驶汽车上。罗曼(Román)和他的同事、软件可靠性专家拜沙希·雷(Baishakhi Ray)一起,正在探索如何限制视觉系统在自动驾驶汽车等场景中可能的误判行为。雷说,这方面已经取得了一些进展,但目前还不清楚如何能够很好地控制这些系统的局限性。“我们仍然不能非常具体地知道这些机器学习模型正在学习什么,”她说。

谷歌的一些机器学习系统被允许在公开场合使用大猩猩照片进行检测。该公司的云计算部门为企业提供了一项名为云视觉(Cloud Vision) API的服务来构建他们自己的项目。当《连线》杂志用大猩猩和黑猩猩的照片对在线演示进行测试时,它同时识别出了这两张照片。

例如,一只成年大猩猩抱着双胞胎宝宝的照片被谷歌的云视觉服务贴上了“西部大猩猩”的标签,其信心指数为94%。系统会在相关的标签上返回一个最佳猜测列表。“哺乳动物”和“灵长类动物”的得分也达到了90%甚至更多。

谷歌向企业提供的云计算图像识别服务可以自由地称大猩猩为大猩猩。

谷歌的Assistant也可以自由地将大猩猩称为“大猩猩”。在安卓手机上,谷歌Assistant可以被召唤去尝试解释手机屏幕上的内容。当被要求识别“一只成年大猩猩抱着双胞胎宝宝”的照片时,谷歌Assistant给出的建议是“山地大猩猩”。

但是,“谷歌Lnes”,被标榜为展示该公司“计算机视觉上的进步”的应用,在去年10月添加到了谷歌照片上。当被要求识别同一幅图像时,它回应道:“嗯……还没看清楚。”


关键字:谷歌  自动驾驶汽车  机器学习

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_2018011811511.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:行人重识别技术 安防下一个目标
下一篇:2018 8K时代来临,安防却有点远

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

谷歌、苹果中招,法国最新GAFA技术税出炉

集微网消息,法新社报导,法国将从明年1月1日开始实施一项影响广泛的新法律,实施后仅2019 年就将带来5 亿欧元收入。该税被称为  GAFA 税,得名于  Google、苹果(Apple)、Facebook 和 Amazon 这几家公司名的缩写,征税目标指向高利润的网络技术巨头。这一类公司的有效税率通常低于其他公司。此消息来自法国经济和财政部长布鲁诺·勒梅尔(Bruno Le Maire),勒梅尔致力于在整个欧盟达成该税收协议。目前看来在欧盟内达成协议将比较困难,因为英国目前正努力脱离欧盟。勒梅尔在法国新闻发表会发表了简短声明称,无论 1月1日
发表于 2018-12-19

谷歌发布新专利:将解决屏幕弯曲影响寿命一大难题

自从屏幕弯曲这个概念被提出,并证明可以应用到目前的电子设备上后,这一设想就开始收到外界的广泛关注。虽然最近我们听到的屏幕折叠或是屏幕弯曲的消息越来越多,不过要投入量产供用户使用,现在还有很多问题没有解决,近期谷歌经过大量研究后开发出一套解决方案,来应对并实现这一较为复杂的操作。  近日,世界知识产权组织公布了这项专利。谷歌在专利文件中用“可折叠计算设备”来描述专利,它涵盖了任何可弯曲、灵活、可伸缩或可折叠的设备。不仅仅是智能手机,还包括平板电脑、笔记本电脑等设备。  折叠屏设备目前最明显的问题就是,屏幕质量和屏幕寿命的问题,因为在用户使用过程中,难免有较为粗鲁或是操作不当的情况发生,也就是说必须要确保显示屏的内部电路和组件能够承受
发表于 2018-12-17
谷歌发布新专利:将解决屏幕弯曲影响寿命一大难题

谷歌应用逐步支持暗黑模式

      经过了数月的测试之后,谷歌在Pixel手机的“负一屏”Discover Feed和Play游戏增加支持暗黑模式。其中,Discover Feed的暗黑模式开启与手机系统设置有关,会根据用户设置的壁纸或开发人员设置而自动生效;Play游戏则需手动在应用设置内进行切换。  除了上述两者之外,更早之前,谷歌电话、通讯录、YouTube、Android消息、Gboard、Pixel Launcher、新闻、地图等应用均已支持暗黑模式,部分应用会根据系统壁纸设置自动生效,部分需要在应用设置内手动开启。  除了手机应用之外,谷歌部分网络应用也已经实现了暗黑模式支持,如Gmail、YouTube TV等。
发表于 2018-12-17
谷歌应用逐步支持暗黑模式

Google年度热搜榜,延禧攻略上榜了

      距离 2018 年结束不到 20 天,Google 发布了年度热搜榜以及回顾视频‘Year In Search 2018’,告诉我们这一年里大家都在关心些什么。  Google 年度回顾视频,将一年中激动人心时刻或值得铭记的事件快剪,其中有泰国洞穴营救行动,讲述亚洲富豪生活的电影《摘金奇缘》,霍金去世,老布什去世,加州大火,美国中期选举,美国联邦参议员塔米 · 达克沃斯带出生 10 天的女儿在参议员投票……Google CEO Sundar Pichai 在转发年度视频的 Twitter 上说道:在跌宕起伏的一年里,世界上的人们比以往任何时候更多地搜索‘美好的事物’。  转发这条 Twitt
发表于 2018-12-14
Google年度热搜榜,延禧攻略上榜了

在谷歌搜“白痴”出现特朗普照片?

集微网消息,谷歌CEO桑达尔·皮查伊于12月11日参加美国国会听证会上遭一位民主党议员Zoe Lofgren提问。该议员为了解谷歌搜索算法是如何运作提出为何在谷歌图片搜索引擎下搜索“白痴”会出现美国总统特朗普的照片。对此,皮查伊回答,“我们今天提供搜索关键字的任何时间,作为提供方谷歌,我们已经在我们的索引中抓取并存储了数十亿个网页副本”他说,“我们采用关键字并将其与网页进行匹配,并根据200多个因素对其进行排名,其中包括相关性,新鲜度,受欢迎程度,使用方式等。基于此,在任何给定时间内我们都将尝试排名并找到该搜索的最佳结果。然后我们通过外部评估者进行评估,以确保结果的客观性,这就是我们如何确保该过程正常运行。”显然,皮查伊的回答表明
发表于 2018-12-13

谷歌修复Pixel 3 XL扬声器BUG

      Pixel 3系列手机自发售以来就小毛病不断,之前我们已经报道过其出现了录像声音过小的问题、扬声器杂音问题、只能后台3个APP的问题、出现双刘海的问题、限制第三方无线充功率的问题、充电过热自动关机的问题等等等等。  作为2款定价6000元左右的安卓旗舰,Pixel 3系列的表现并不令人满意。而且问题也没有结束,此前,许多收到Pixel 3 XL的外国网友在论坛上反馈,他们的手机出现了不明的“嗡嗡声”。  具体来说,这个问题似乎仅限于Pixel 3 XL,在某些音量下,或者歌曲、通知、视频声音下,Pixel 3 XL的扬声器会发出嗡嗡声,有时在非常低的音量下也可以听到。  就在11月份,谷歌
发表于 2018-12-07
谷歌修复Pixel 3 XL扬声器BUG

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
pt type="text/javascript" src="//v3.jiathis.com/code/jia.js?uid=2113614" charset="utf-8">