谷歌研究员质疑上海交大教授看脸识罪犯

2017-05-09 20:04:50来源: 澎湃新闻网 关键字:谷歌  武筱林  相面术  犯罪

上海交通大学图像通信与网络工程研究所教授武筱林在过去的半年里收到过无数的批评邮件,不少媒体报道里也引述了一些专家学者的批评意见。但这次,三名美国研究者在网络上撰写洋洋洒洒的万字长文向他隔空喊话,点名批评他的研究为“科学种族主义”。

这篇万字长文名为《相面术的新外衣》(Physiognomy’s New Clothes),于当地时间5月6日发表在新媒体网站Medium上。三名作者,Blaise Agüera y Arcas是机器学习领域的著名工程师,2013年从微软跳槽到谷歌;Margaret Mitchell同样是谷歌的人工智能研究员;而Alexander Todorov则是普林斯顿大学的神经科学教授。

这一切都源于武筱林和其博士生张熙于去年11月上载在预印本网站arXiv上的一篇论文,题为《基于面部图像的自动犯罪概率推断》(Automated Inference on Criminality using Face Images)。

研究使用的照片样本。a组为罪犯,b组为非罪犯。

武筱林和张熙运用计算机视觉和机器学习技术检测1856张中国成年男子面部照片,其中将近一半是已经定罪的罪犯。实验结果显示,通过机器学习,分类器可以以较高概率区分罪犯与非罪犯这两个群体的照片。特别是在内眼角间距、上唇曲率和鼻唇角角度这三个测度上,罪犯和非罪犯存在较为显著的差距。平均来讲,罪犯的内眼角间距要比普通人短5.6%,上唇曲率大23.4%,鼻唇角角度小19.6%。同时,他们发现罪犯间的面部特征差异要比非罪犯大。

平均来讲,罪犯的内眼角间距要比普通人短5.6%,上唇曲率大23.4%,鼻唇角角度小19.6%。

三名美国学者在时隔半年后评价道:“随着人工智能和机器学习的高速发展,我们迎来了科学种族主义的新时代。”他们声明,写作这篇深度文章,“不仅仅是为了研究者、工程师、记者和决策者,也是为了想要确保人工智能是有益于人类的每一个人。”

不过,武筱林此前在接受澎湃新闻(www.thepaper.cn)专访时曾提过,他欢迎学术上的交流和讨论,也欢迎用数据来质疑他的结论。至于政治伦理方面的问题,则需要更广泛的社会讨论,并非他个人所能解答的。

谷歌研究员的万字长文虽然也提出了几个可能造成武筱林实验数据“假象”的技术问题,但其核心论点抛开了针对论文细节的讨论,站在政治正确性的角度,从历史、伦理出发,对相面术及其在机器学习时代的新形态进行了批评。

“机器相面术”,新瓶装旧酒

三位美国学者的文章并非学术论文,在万字的篇幅中,他们讲述了相面术发展的历史,解释了机器学习研究领域的一些基本情况,并以武筱林和张熙的研究为靶子,指出就像他们的研究是披着机器学习外衣的相面术,人类社会中的许多歧视也可能会被算法洗白。

关于相面术的历史,他们是从龙勃罗梭开始讲起的。

1870年,意大利监狱医生龙勃罗梭(Lombroso)打开了意大利著名土匪头子维莱拉尸体的头颅,发现其头颅枕骨部位有一个明显的凹陷处,它的位置如同低等动物一样。这一发现触发了他的灵感,他由此提出“天生犯罪人”理论,认为犯罪人在体格方面异于非犯罪人,可以通过卡钳等仪器测量发现。龙勃罗梭并认为犯罪人是一种返祖现象,具有许多低级原始人的特性,可被遗传。

龙勃罗梭的研究支持着他的政治主张:意大利南方人要比北方人更文明。此后,龙勃罗梭在“颅相学”和“天生犯罪人”方面的追随者同样将自己的研究与某些政治主张捆绑。塞缪尔?莫顿(Samuel Morton)推崇白人至上的颅骨学投射的是19世纪美国的白人奴隶主,而德国儿童教材《毒菌》(Der Giftpilz)上教授通过鼻子形状辨别犹太人,则投射了纳粹时代。

Vaught 《实用性格判定》,1902年,第80页。

纳粹“种族科学家”在做容貌测定。

文章的三位作者指出,“相面术试图从人的外貌推测其内在性格。虽然今天相面术被视为伪科学,但民间还是有人相信可以从面相或身材中鉴别出低级一点的人群。而在有些历史时期,相面术也内嵌在了国家法律中,为侵占土地、反移民、奴隶制和种族清洗提供依据。而关于相面术的伪科学就是科学种族主义。”

他们认为,上述的这类研究在人工智能时代的新形态就是武筱林式的。“在计算机和大数据无处不在的时代,‘机器相面’开发出了许多前所未有的用途。因此,人工智能的开发者、评论家、用户们都急需了解技术的边界和相面术的历史,如今它披上了现代的外衣。”

机器习得了人类的偏见

文章最担忧的问题,是人类社会的一些歧视和偏见,作为训练模型嵌入机器学习后,就被“洗白”了。毕竟,算法的输入和输出看上去是非常公正客观的。

武筱林和张熙在论文中写道,“人类观察者的主观判断会造成偏见,我们首次在排除人为偏见的情况下,探究基于脸部特征自动推断犯罪分子。”

文章的三位作者认为,无论是否借助机器学习的工具,相面术,即试图通过外貌特征预测行为性格,都基于以下三个有漏洞的隐藏假设:

1、一个人的外貌是由先天决定的;

2、“犯罪性”是某个特定群体的天生属性;

3、司法系统中的刑事判决不受外貌的影响。

为此,文章对这三点假设一一作了驳斥。值得注意的是,武筱林在论文中并未提及这三点假设中的任何一点,他将实验结果的解读空间留给了社会科学领域的学者。

三位美国学者指出,首先,面部特征不是完全天生的,成长、环境的影响也很大。此外,摄影时的环境也影响着照片上呈现的人脸。就像在武筱林在论文中提及的2011年康奈尔大学的心理学研究中,学者将罪犯的照片与在校园中拍摄到的人脸作为研究材料,就可能对研究结果造成干扰。

其次,“犯罪阶级”这个概念在19世纪十分流行。为此,英国将罪犯流放到了澳大利亚以减少英国的犯罪率。不过,事实证明,澳大利亚并没有成为充斥着犯罪的地狱。此前,也有研究认为较高的睾酮水平会增加侵略性。然而,它们都无法取得很高的相关性。简而言之,目前人类的研究只发现身体外观与行为可能存在微弱相关。

最后,文章提到,在美国,一名黑人男性被监禁的可能性是白人男性的7倍。而犯有同样罪行的黑人罪犯往往会遭受更重的刑罚。因此,研究中所用的罪犯数据可能就是法官偏见的结果。

换言之,武筱林和张熙的实验并不是找到了准确断案的捷径,而是揭示了人类判断、包括官方刑事判决中的不准确和系统性的不公正。

捅破了窗户纸

文章提到,学术界很多人都觉得武筱林和张熙的研究在伦理性和科学性上都很有问题。虽然三位作者也在文中指出了一些技术上可能的漏洞,比如不足2000个样本很容易造成机器过度学习,以及机器学习到的可能只是照片上的表情(比如罪犯的照片更多地皱眉,而普通人的照片更多地微笑),但他们更强调研究的伦理性问题。机器学习是一种对普通人而言“强大而神秘的工具”,而武张的研究赋予某些“陈词滥调”新的可信度。

文章总结道:“在科学层面上,机器学习是一个前所未有的窗口,可以窥见自然和人类行为,可以让我们反思及系统地分析所谓的直觉和群体智慧。武筱林和张熙的研究结果与此前的一些研究一样捅破了一层窗户纸,揭示了我们究竟是如何鉴别别人的。

在实践中,机器学习技术会越来越多地介入人类生活,就像许多强有力的工具一样,它们通常会帮助我们,包括更快更客观地分析数据。

但机器学习也可能会误用,这种误用常常是无意的。过分狭隘地局限在技术问题上就可能导致这种误用,比如:

没有洞见训练数据来源中的偏见;

没有仔细审查该领域的现有研究,尤其是机器学习领域之外的;

没有考虑可能导致测得相关性的多种因果关系;

没有充分考虑这种机器学习系统的应用场景和其社会影响。

武筱林和张熙的论文充分展示了上述陷阱。非常不幸,他们测得的相关性又揭示了刑事判决中普遍存在的偏见,该领域的研究已经颇为瞩目,如今又添砖加瓦。基于面部特征的深度学习绝不该应用为‘加速’司法公正的工具,如果真的这么做的话,反而会让不公正长存于世。”

武筱林:“核物理学家该为原子弹造成的伤害负责吗?”

文章还预计,近期会有类似的研究出现,“它们抱有同样的偏见、短视,并宣称自己是科学客观的,以此来‘洗白’人类的偏见和歧视。”文章还点名批评了一家以色列初创企业Faception,其致力于运用人脸分析识别恐怖分子、恋童癖和白领罪犯。

对此,武筱林曾向澎湃新闻(www.thepaper.cn)透露,国际上确实有一些同行在做类似的研究,他就是为了抢占研究的优先权,才在arXiv上传了论文。

去年11月底,正处于第一波舆论漩涡的武筱林曾接受澎湃新闻(www.thepaper.cn)的专访,并回应过许多核心质疑。

首先,武筱林表示欢迎技术上的交流,他也受到过许多有价值的反馈。比如,他们的样本量确实可能过小。此外,也有人指出过他们样本中的罪犯和守法公民可能更多代表了经济地位上的

[1] [2]

关键字:谷歌  武筱林  相面术  犯罪

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_2017050910581.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:我国激光陀螺诞生记:46年干了这一件事
下一篇:安防大佬们是如何布局人工智能的?

论坛活动 E手掌握
关注eeworld公众号
快捷获取更多信息
芯片资讯 锐利解读
微信扫一扫加关注
芯片资讯 锐利解读
推荐阅读
全部
谷歌
武筱林
相面术
犯罪

小广播

独家专题更多

东芝在线展会——芯科技智社会创未来
东芝在线展会——芯科技智社会创未来
2017东芝PCIM在线展会
2017东芝PCIM在线展会
TI车载信息娱乐系统的音视频解决方案
TI车载信息娱乐系统的音视频解决方案
汇总了TI汽车信息娱乐系统方案、优质音频解决方案、汽车娱乐系统和仪表盘参考设计相关的文档、视频等资源

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2017 EEWORLD.com.cn, Inc. All rights reserved