datasheet

Leiphone雷锋网

文章数:8003 被阅读:23448895

账号入驻

谷歌不作恶,亚马逊、微软员工:我们也不要作

2018-10-18
    阅读数:

▲点击上方 雷锋网 关注

文 | 王刚

来自雷锋网(leiphone-sz)的报道

雷锋网10月18日消息,亚马逊的面部识别工具Rekognition由于与美国警方开展合作,正受到内部员工的反对。一员工在Medium平台匿名发布了公开信,对公司与警方的合作表示担忧。

事情的起源是15日,亚马逊CEO贝佐斯在Wired会议上为美国国防部JEDI云合同辩护时,强调了“做出可能不受欢迎的决定(如与军方合作)是商业领袖工作的一部分”。仅仅一天之后,这份员工公开信就在各大媒体传开了。

这封公开信中这样描述:

我们知道贝佐斯意识到了这些担忧,现在正在进行全行业的对话。在舞台上,他承认高科技的产品可能被滥用,甚至被独裁者剥削。但不是有意义的解释,亚马逊将采取行动以防止自己的技术被滥用,贝佐斯建议我们等待社会的“免疫反应”。

如果亚马逊等待,我们认为伤害将很难撤消。



起底Rekognition项目

雷锋网进一步探究了这个“Rekognition”项目。

根据公开资料显示,Rekognition是一个强大的实时面部识别系统,可以利用警察身体上的摄像头和市政监控系统,追踪逃犯、被贩卖人口等对象。这项技术是亚马逊在2017年11月正式推出的。

其主要功能是:实时分析流视频、人物识别和跟踪、面孔识别、面孔分析、对象场景和活动检测、视频检测、名人识别等。

图为:Rekognition在社交媒体上查找失踪人口

查询了当时发布Rekognition的新闻稿时,雷锋网摘取了上面的描述文字:

“现在可以对具有数千万个面孔的集合执行实时面部搜索。这表示搜索延迟减少了5-10倍,同时允许可以存储比以前多10-20倍的面部的集合。对于公共安全应用程序而言,此更新有助于实时识别数百万个面孔的集合,从而实现需要立即响应的判断和举动。”

当前,这款技术主要在帮助Marinus Analytics公司打击人口贩运(雷锋网注:Marinus Analytics是美国一家向执法部门授权技术的创业公司)。借助Amazon Rekognition,使用Marinus Analytics的调查人员可以在几秒钟内搜索数百万条记录,以便找到受害者,从而采取快速有效的行动。

简而言之,执法人员可以使用失踪儿童的照片、社交媒体照片或社会工作者的照片,并将其与 Traffic Jam 的数据库中的其他人员进行匹配,如果他们的照片被用来在网上作为交易等广告信息发布,将会通过匹配照片帮助执法人员找到受害者。

但是,这项技术有被“扩大化利用”的风险。

根据此前华盛顿邮报的进一步报道,华盛顿的一位警长每月支付6至12美元用于访问Rekognition,这使得该部门能够根据实时镜头扫描追踪对象的大头照。据悉,Rekognition能够在整个城市的摄像机网络上运行实时面部识别。

Rekognition项目总监Ranju Das透漏,整个奥兰多市都有经过授权的摄像机。这些摄像机将数据流式传输到Kinesis视频流,亚马逊再实时分析这些数据并搜索他们拥有的面部集合。也许当警方想确定这个城市的市长是否在某一个地方,或者他们想要跟踪的某个其他人,这都可以实现。



公民自由引发社会联盟关切

对于ACLU(美国公民自由联盟)而言,这种能力引发了重大的公民自由关注。该组织在一份声明中说:“通过自动化大规模监视,像Rekognition这样的面部识别系统威胁到公民自由,对当前政治气候中已被不公正对待的社区构成特殊威胁。人们应该在没有被政府监视的情况下自由走在街上。

此前的2018年5月22日,ACLU写给贝佐斯的信中也阐述了这种关切。

图为:2018年5月22日,ACLU写给贝佐斯的信

可见,刚刚在员工涨薪问题上引发部分员工抵触情绪的亚马逊,又因为员工的反对遇到了一件麻烦事。

但据雷锋网了解,这是技术员工在不到一周的时间内发出的第二封匿名信。上一封,来自微软。

上周五,一名微软员工也同样是在Medium上表达了对该公司参与100亿美元JEDI国防部云合同的担忧。

“这是一个秘密的100亿美元项目,目标是打造特朗普政府监管的‘更致命的’军事力量。谷歌员工对这一点看得很清楚,于是发起抗议并最终迫使公司退出投标,而我们看得也很清楚。”

在美国的科技大公司里,鼓励员工表达意见一直是传统。雷锋网也梳理了近些年因为“员工反对”而被迫中止的一些项目或计划:

  • 谷歌: 员工联名反对谷歌参与国防部AI项目“Maven”,导致谷歌放弃续签;员工反对谷歌参与中国审查版的搜索引擎的开发,高管离职抗议并爆料;员工反对谷歌参与JEDI国防部云计算合同,谷歌只能宣布退出竞标。

  • 微软:员工反对微软竞标IEDI云合同,称不符合AI伦理原则;员工反对公司向ICE提供服务。(雷锋网注:ICE是美国移民海关执法部门)

  • Salesforce:参与移民政策,最终在员工反对与批评声中与美国海关和边境保护局中断了技术合作。

  • 苹果:因为保密措施极其严格,甚至影响员工正常生活,也曾遭遇员工抱怨。2017年,苹果共计抓到“29名泄密者”,其中有12名已被逮捕。

  • Facebook:由于Facebook一位全球政策高管Kaplan支持最高法院大法官提名人,并出席了其提名听证会,数百名Facebook员工表示了愤怒。员工认为企业遭政治绑架,随后,Kaplan在一个内部论坛上为自己唐突出席听证会道歉。



雷锋网点评

可见,在美国的大型科技公司中,“员工问责制”正形成巨大的影响力,或超过媒体影响力,推动者公司在不断的调整决策。即便他们的CEO都是全球性的商业领袖,也没办法忽视这些意见。

而眼下,当亚马逊员工坚持“不作恶”的理念继续走下去的时候,我们并不确定Rekognition是否会接着运行。相比国内,与警方、军方的合作则显得是非常重大且具有战略意义,因为政府的采购是强有力的背书,对技术和流程有着十分严格的程序,重要的一点是,这种项目一般都是大单子,动辄上千万,甚至上亿。在国内企业趋之若鹜的追求军事合同当下,我们旁观者其实更应该多一些清醒思考的空间。

公开信全文:

《我是亚马逊员工。我的公司不应该向警察出售面部识别技术》

10月17日

当一个公司把新技术引进世界时,它有责任思考后果。我工作的亚马逊公司目前允许全国各地的警察部门购买它的面部识别产品“Rekognition”,我和其他员工要求我们立即停止。

几个星期前,我的同事给杰夫·贝佐斯和其他高管写了一封信,上面有450多名员工签名。这封信还包含要求将Palantir公司踢出AWS,并规定对员工进行道德监督。Palantir是ICE的大部分遣返和追踪程序的软件公司。

我们知道贝佐斯意识到了这些担忧,现在正在进行全行业的对话。在舞台上,他承认高科技的产品可能被滥用,甚至被独裁者剥削。但不是有意义的解释,亚马逊将采取行动以防止自己的技术被滥用,贝佐斯建议我们等待社会的“免疫反应”。

如果亚马逊等待,我们认为伤害将很难撤消。

毕竟,我们关注的不是其它公司将来可能造成的危害,而是亚马逊目前正在设计、营销和销售的一套用于危险、大规模监控的系统:Rekognition。亚马逊网站吹嘘说,该系统可以一次性存储和搜索数千万张人脸。执法部门已经开始使用亚马逊的这项面部识别技术,但几乎没有任何公众监督,也没有对此进行公开辩论,或有所限制。佛罗里达州奥兰多市正在通过遍布全市的监控摄像头的实时视频信号来测试Rekognition。俄勒冈州的一个警察部门目前正在利用Rekognition,让现场的警官将照片与数据库的面部照片进行比对。这已不再是一个假设的情况。

如果我们想要领导,我们需要在人与利润之间做出选择。

历史告诉我们,新的强大的监控工具仍然掌握在国家手中,将用于针对没有做错事的人;在美国,由于缺乏公共问责制,已经导致了对有色人种、移民和行使第一修正案权利的人进行过度干扰和过度监管。在向政府和执法机构提供强大技术的同时,忽视这些紧迫问题是危险的和不负责任的。

这就是为什么当AWS全球公共部门副总裁Teresa Carlson最近表示亚马逊“坚定的支持”执法、国防和情报客户时,我们失望的原因,即使我们不知道他们实际上是利用一切的工具做什么。

亚马逊甚至建议,为警官随身相机提供Rekognition功能,这将把本来作为警察问责的工具变成针对公众的移动监控设备。我们为什么要这样做?

我们都有权利去生活,而不被政府不断监控。像我们这样的公司不应该参与促进威权监督。不是现在,也不是以后。但Rekognition支持通过从一帧视频中提取几十个面部标识,并将它们存储起来供以后使用,或者立即将它们与有数百万张图片的数据库进行比对。

出售这个系统与亚马逊的价值观背道而驰。我们把自己作为一个以客户为中心的公司。贝佐斯也直接反对不道德的政府政策、穆斯林的禁令。

我们不能以牺牲公众利益为代价,从那些拥有强大权力的客户群体中获利;我们不能忽视我们业务对公众利益的损害。我们销售的Rekognition系统是一种有缺陷的技术,它强化了美国现有的偏见。研究表明,面部识别技术更容易误认拥有深色皮肤的人。这一点在最近对Rekognition的测试中得到了明确的证明。这项调查将美国国会议员的照片与数据库的一些脸部照片逐一比对,结果出现了28项错误匹配,而在有色人种中不正确结果比例特别高。但即使这些错误被修正了,允许执法部门使用这种软件仍然是不负责任、危险和不道德的。现在,产生这种偏见的根源存在于美国更广泛的社会和司法系统中。面部识别技术的使用只会复制和放大美国现有的这种偏见。

美国目前的政治环境使得向政府出售面部识别产品的想法更加令人反感。美国警方加大了对黑人活动人士的监视力度,特朗普政府也在继续全力打击移民。我们不希望以任何方式为美国政府的超级监视系统做出贡献。亚马逊表示已要求Rekognition的客户遵守法律,但这只是一种为这项技术的负面使用逃避责任的方式。

谷歌员工公开反对公司与美国国防部的Maven合同,微软员工公开反对公司与美国国防部的云计算合同JEDJEDI,我们将跟随他们的步伐。不管我们对美国军方的观点如何,任何人都不应该从“增加军队的杀伤力”中获利。

亚马逊谈论了很多关于领导力的价值观问题。如果我们想要拥有领导力,我们需要在人类利益与利润之间做出选择。我们可以把危险的监视系统卖给执法部门,或者我们可以维护正义。但我们不能两者兼得。

- END -


现在参与雷锋网调查问卷,即有机会抽取全球智能驾驶峰会门票 / CODING 卡通抱枕 / 畅销书史蒂芬.科特勒《未来世界》/ 文厨亲笔签名书《不东》,赶快点击阅读原文参与吧! 我们非常重视每位读者的宝贵意见,期待你的参与!


  ◆  

推荐阅读


进军安防市场:比特大陆发布终端AI芯片及多款AI产品

IBM交出了Q3财报,我们却看到它在云计算赛道“掉队”的危险

浪潮智慧城市——城市运营界的“老司机”?


关于峰会购票信息,点击“阅读原文”了解详情~


最新有关leiphone-sz的文章

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: TI培训

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved