datasheet

谷歌 AI 将黑人识别成“大猩猩”两年后:就算能识别,也不敢识别了

2018-01-18来源: 36氪 关键字:谷歌  自动驾驶汽车  机器学习

2015年,一名黑人软件开发人员在Twitter上说,谷歌的照片服务(Google Photos)把他和一个黑人朋友的照片打上了“大猩猩”的标签,这让谷歌感到非常尴尬。谷歌宣称自己“感到震惊和由衷的歉意”。一名相关的工程师表示,谷歌正在“研究更长期的解决方案”。

两年多之后,谷歌给出的其中一项修复措施就是将大猩猩和其他灵长类动物的标签从该服务的词库中删除。这一尴尬的变通方案表明,谷歌和其他科技公司在推进图像识别技术方面仍旧面临着诸多困难,尽管这些公司希望能够在自动驾驶汽车、个人助理和其他产品上使用这些技术。

《连线》杂志用4万张图片对谷歌照片服务进行了测试,这些照片中有很多动物。谷歌照片在寻找包括熊猫和贵宾犬在内的许多动物上表现得非常棒。但当使用“大猩猩”、“黑猩猩”和“猴子”等词进行搜索时,谷歌照片反馈称“没有结果”。

在谷歌照片服务中, 谷歌对"大猩猩"、"黑猩猩"和"猴子"等词的搜索进行了审查。

作为一款移动应用和网站,谷歌照片为5亿用户提供了管理和备份个人照片的地方。它使用机器学习技术,自动将照片进行分组,比如湖泊或拿铁。同样,用户也可以利用该技术对他们的照片进行搜索。

在《连线》杂志的测试中,谷歌照片确实识别出了一些灵长类动物。 使用"狒狒"、"长臂猿"、"狨猴"和"猩猩"等词进行搜索,结果都还不错。只要搜索时使用术语而不是使用M开头的词语, 就可以找到卷尾猴和疣猴。

在另一项测试中,《连线》上传了20张黑猩猩和大猩猩的照片,这些黑猩猩和大猩猩来自非营利组织“黑猩猩天堂”和“黛安 · 福西研究所”(Diane Fossey Institute)。有些猩猩可以用使用“森林”、“丛林”或“动物园”等关键词来搜索到,但事实证明,其余的都很难被发现。

结论是:在谷歌照片中,狒狒是狒狒,但猴子不是猴子。大猩猩和黑猩猩是不可见的。

智能手机上的谷歌Lens应用,也无法识别出来大猩猩。

在第三次测试中,《连线》杂志上传了一组1万多张用于面部识别研究的图片。用“非洲裔美国人”这个词进行搜索,最后只出现了一幅羚羊的画面。输入“黑人男性”、“黑人女性”或“黑人”,谷歌的系统会返回黑白图像,按照性别正确排序,但不被种族过滤。对于肤色较深的人来说,可以使用“非洲式”(afro)和“非洲人”(African)等词进行搜索,尽管结果好坏参半,并不那么准确。

谷歌的一位发言人证实,在2015年的事件发生后,"大猩猩"就从搜索和图片标签中删除了,直到今天"猩猩"、"黑猩猩"和"猴子"等标签仍在屏蔽中。该发言人在电子邮件中写道:“图像标签技术还处于早期阶段,但不幸的是,它还远远不够完美。”他强调了谷歌照片的一个功能,即允许用户报告错误。

谷歌对大猩猩图片的谨慎处理,说明了现有的机器学习技术上的一个不足之处。有了足够的数据和计算能力,软件就可以被训练,可以用来对图像进行分类,或者在较高的精确度下对语音进行转录。但它无法轻易超越这种从训练中得出的经验。即使是最优秀的算法,也缺乏像人类那样运用常识或抽象概念的能力,来完善它们对世界的诠释。

因此,机器学习工程师在现实世界中部署他们的成果时,必须对他们的训练数据中没有发现的“边缘案例”保持警惕。维吉尼亚大学教授维恩特·奥达尼斯·罗梅恩(Vicente ord ez rom n)说:“你的系统一旦开始上线运行,你就很难再对它进行建模。”去年,他参与了一项研究,该研究表明,应用于图像的机器学习算法可以识别并放大人们对不同性别之间的偏见。

谷歌照片用户上传的照片是在各种不完美的条件下拍摄的。考虑到数据库中的图片数量,将一种类型的“类人猿”误认成另一种类型的可能性极小。

谷歌母公司Alphabet和更广泛的科技行业面临着更大的风险,比如应用在自动驾驶汽车上。罗曼(Román)和他的同事、软件可靠性专家拜沙希·雷(Baishakhi Ray)一起,正在探索如何限制视觉系统在自动驾驶汽车等场景中可能的误判行为。雷说,这方面已经取得了一些进展,但目前还不清楚如何能够很好地控制这些系统的局限性。“我们仍然不能非常具体地知道这些机器学习模型正在学习什么,”她说。

谷歌的一些机器学习系统被允许在公开场合使用大猩猩照片进行检测。该公司的云计算部门为企业提供了一项名为云视觉(Cloud Vision) API的服务来构建他们自己的项目。当《连线》杂志用大猩猩和黑猩猩的照片对在线演示进行测试时,它同时识别出了这两张照片。

例如,一只成年大猩猩抱着双胞胎宝宝的照片被谷歌的云视觉服务贴上了“西部大猩猩”的标签,其信心指数为94%。系统会在相关的标签上返回一个最佳猜测列表。“哺乳动物”和“灵长类动物”的得分也达到了90%甚至更多。

谷歌向企业提供的云计算图像识别服务可以自由地称大猩猩为大猩猩。

谷歌的Assistant也可以自由地将大猩猩称为“大猩猩”。在安卓手机上,谷歌Assistant可以被召唤去尝试解释手机屏幕上的内容。当被要求识别“一只成年大猩猩抱着双胞胎宝宝”的照片时,谷歌Assistant给出的建议是“山地大猩猩”。

但是,“谷歌Lnes”,被标榜为展示该公司“计算机视觉上的进步”的应用,在去年10月添加到了谷歌照片上。当被要求识别同一幅图像时,它回应道:“嗯……还没看清楚。”


关键字:谷歌  自动驾驶汽车  机器学习

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_2018011811511.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:行人重识别技术 安防下一个目标
下一篇:2018 8K时代来临,安防却有点远

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

谷歌修复Pixel 3 XL扬声器BUG

      Pixel 3系列手机自发售以来就小毛病不断,之前我们已经报道过其出现了录像声音过小的问题、扬声器杂音问题、只能后台3个APP的问题、出现双刘海的问题、限制第三方无线充功率的问题、充电过热自动关机的问题等等等等。  作为2款定价6000元左右的安卓旗舰,Pixel 3系列的表现并不令人满意。而且问题也没有结束,此前,许多收到Pixel 3 XL的外国网友在论坛上反馈,他们的手机出现了不明的“嗡嗡声”。  具体来说,这个问题似乎仅限于Pixel 3 XL,在某些音量下,或者歌曲、通知、视频声音下,Pixel 3 XL的扬声器会发出嗡嗡声,有时在非常低的音量下也可以听到。  就在11月份,谷歌
发表于 2018-12-07
谷歌修复Pixel 3 XL扬声器BUG

谷歌Android Auto提供新媒体界面及改进语音搜索功能

据外媒报道,谷歌升级了旗下的出行助理软件——Android Auto,提供了许多有趣的新功能,同时提升了功能方案的速度及安全性。该款应用提供了全新的媒体界面。谷歌最近发布了Android Auto的新升级文件,对驾驶员虚拟助理界面进行了改动,其新版搜索功能则提升了用户导航的使用效率。用户界面的改动包括:信息预览功能可在车辆停止时显示文本内容的前10个字,这样可避免驾驶分神。该预览功能展示了信息主线,提供发信人的姓名及信息的梗概。新媒体界面媒体界面采用了全新设计,方便用户更快捷地使用导航功能,可使用箭头指针或屏幕左上角的下拉菜单启用导航功能。该箭头指针可开启更为直接直观的界面,浏览媒体界面的各个选项。该功能同样适用于Google
发表于 2018-12-06
谷歌Android Auto提供新媒体界面及改进语音搜索功能

谷歌推送Pixel 3系列软件更新

集微网消息,今年十月份谷歌发布了Google Pixel 3全系列机型均只配备了4GB运行内存,其4GB内存成为了该系列机型的短板,事实证明Pixel 3系列机型最多保持3个APP挂后台不重加载。在12月3日谷歌终于推送了内存修复更新。在此次更新中谷歌标注了更新将会“在某些情况下提高Pixel 2/3系列机型的内存性能”。经过外媒测试后发现在使用Pixel 3 XL后台音乐播放时,同时开启8-10个APP也没有出现杀后台的问题。另外,谷歌还对Nexus 5x和6P进行了例行更新,不过初代Pixel并没有参与在此。
发表于 2018-12-04
谷歌推送Pixel 3系列软件更新

谷歌、苹果、特斯拉三支新力量 将重塑十年后汽车产业

是 John Wright,传感器负责人是 Benjamin Lyon。这四个人的共同特点是,都是清一色的苹果老将,最晚加入的 John Wright 也加入苹果 15 年了,而 Bob Mansfield 更是几乎与苹果现任 CEO Tim Cook 一同加入苹果,任职超 20 年的元老级人物。换句话说,尽管苹果在挖汽车行业高管的时候毫不手软,但真正的产品定义与规划,还是按照苹果的想法来推进的。2017 年,媒体曝出苹果自动驾驶进展缓慢,“仅相当于谷歌三年前的水平”。目前来看,这个烟雾弹抛得相当成功,事实上,苹果自动驾驶技术已经做到了非常领先的水平。Google Google 旗下的自动驾驶公司 Waymo 脱胎
发表于 2018-12-01
谷歌、苹果、特斯拉三支新力量 将重塑十年后汽车产业

沃尔沃合作谷歌研发安卓多媒体系统 用于下一代车型

据外媒报道,在2018年洛杉矶车展上(2018 Los Angeles auto show),沃尔沃宣布其正与谷歌(Google)公司合作研发新型安卓(Android-based)多媒体系统,该系统将把谷歌地图(Google Maps)和声破天(Spotify)等应用引入汽车,而且可无缝整合至所有操作系统,使汽车制造商扩展其现有产品。在圆桌讨论会上,谷歌和沃尔沃高管透露,该系统的目的是让个人通过各种应用程序,将生活带入汽车中。目前,沃尔沃和亚马逊合作提供一项送货服务,可直接将包裹送至汽车。沃尔沃表示,其还将提供与所有操作系统兼容的无缝网联服务,将第三方服务带入汽车,但是会优先考虑安全性。如此一来,游戏应用可供后座乘客使用
发表于 2018-12-01

高通全新专属VR芯片曝光:已在二代谷歌眼镜上测试

昨日晚间,Roland Quandt在社交媒体上透露,在GeekBench跑分测试中现身的第二代企业版谷歌眼镜的产品上,所使用的并非骁龙710芯片,而是一款高通专门针对AR/VR场景而设计的芯片。显然,目前高通已开始在手机以外的更多终端类型的芯片上发力,目前已经涉及了无线耳机、智能音箱、可穿戴设备、AR/VR等领域。其中AR/VR领域被很多人看做是在5G时代最有可能率先迎来爆发的项目,借助低时延的更好游戏体验,借助更高速率下的8K视频,都将给VR应用的体验带来质的飞跃。此前,第二代谷歌眼镜企业版已经通过美国FCC认证,从外观上看,新模型与第一代企业版谷歌眼镜大致相同。据悉,与初代相比,预计续航能力将能得到进一步的提升,同时有望配备
发表于 2018-11-28
高通全新专属VR芯片曝光:已在二代谷歌眼镜上测试

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
pt type="text/javascript" src="//v3.jiathis.com/code/jia.js?uid=2113614" charset="utf-8">