datasheet

人工智能对人类的两次暴击,人类开始细思极恐

2017-11-23来源: 科技日报 关键字:人工智能  人类智能



被沙特授予公民身份的机器人索菲亚和它的创造者大卫·汉森


  索菲亚不是人,她只是个很聪明的机器人;索菲亚又是“人”,不久前,她被沙特授予公民身份,加入人类籍。


  索菲亚很友好,与人谈笑自如,甚至还会眼神交流,并在MV里与歌星王力宏“结了婚”;索菲亚又很“恐怖”,声称未来目标是想去上学,成立家庭,并——毁灭人类。


  无论这句话是调侃还是隐喻,设计出她的人类,尴尬了。


  中科院科技战略咨询研究院研究员李真真举索菲亚的例子,是想提出一个问题:在技术高歌猛进的同时,人工智能不断模糊着物理世界和个人的界限,不断刷新人的认知和社会关系,延伸出复杂的伦理、法律和安全问题,但相应的规范和制度设计还存在盲区,这是一个极大的挑战。


  “我国的人工智能技术可谓与世界发达国家‘同步’,但伦理和法律研究则严重滞后,这种‘缺位’会制约我们未来的发展。”李真真说。


  人工智能很牛吗?牛,但也有可能犯大错


  人工智能火了!人工智能牛了!很大程度归功于近年来一只不断进化的“狗”——阿尔法狗(AlphaGo)。


  中科院院士张钹简单分析了人工智能发展的两条路径:一是符号主义,即从信息处理的宏观层面去模拟智能;二是连接主义,即从网络介观层面去模拟人类行为。当人工智能的开拓者提出上述方向时,不少人认为不可能,但事实证明这两条路都行得通。


  “人工智能第一次震撼,是IBM的‘深蓝’程序打赢国际象棋冠军,这是用计算机模拟人类下象棋的理性思考过程,证明了符号主义这一条路走得通。”张钹说。


  人工智能第二次对人类的“暴击”,是基于神经网络的深度学习,AlphaGo抛弃了传统围棋程序的编程方法,创造性地利用机器学习,来获取下棋的经验与直觉,结果战胜世界围棋冠军。“更值得注意的是AlphaGoZero从零开始,通过36小时自我学习,超越人类3000年的围棋经验,以100比0击败了上一版本的AlphaGo。这证明第二条路也走得通。”张钹说。


  “这让人欢欣鼓舞,也令人担忧。”张钹的“忧”,指的是基于深度学习的人工智能系统存在的根本性缺陷——不可解释和不可理解,就事论事,缺乏推广能力,遇到新的情况一筹莫展等。因此当面对动态变化的环境,信息不完全、存在干扰与虚假信息时,人工智能系统性能就会显著下降。


  “当前的人工智能与人类智能本质上是不同的。”张钹说,与人类相比,人工智能系统抗干扰能力(鲁棒性)差,推广能力弱,甚至可能犯大错。“基于深度学习的模式识别系统尽管可以准确地区分不同事物,但本质上不认识它们。与人类不一样,它不会举一反三,更不会‘知其所以然’。使用这样的人工智能系统需要十分小心。”


  “现在大家对人工智能有无限期待。围棋有规则,现实生活中没有规则。人工智能产品完成单项任务很牛,但遇到复杂情况,实际没那么厉害。”海尔公司CTO赵峰认为。


  人工智能可怕吗?远虑尚“远”,近忧在即


  人工智能会威胁人类吗?马斯克、霍金、扎克伯格……科技和产业界的大腕对此的争论和互怼一直没有停歇。


  人工智能威胁论拥趸者所指的“强人工智能”到来还比较远,现在发展的多是擅长完成单项任务的“弱人工智能”。“人工智能还在生长发展过程中,是否造成威胁估计是下一代科学家面临的问题,我们现在的任务是把它‘养大’。”不过,中科院院士何积丰也坦承,现在人工智能也有“内忧外患”,如无人机黑飞乱飞管理乱象,恐怖主义黑客攻击等。


  “世界上没有免费的午餐,机器通过‘黑箱’学习(深度学习)方法取得的智能,由于与人类认知行为存在根本差异,因此也将带来潜在的风险。”张钹说,人工智能全面超越人类智能并出现自我意识,是危险的,不过这是远虑;但其不可解释性会带来“近忧”,如将深度学习应用于军事决策,万一系统出现原则性决策失误怎么办?


  人类准备好了吗?远远没有,急需跟进


  “人类现有的概念框架及知识储备难以应对人工智能带来的影响,也使我们不得不面对‘制度性风险’。”李真真说,人工智能技术的社会应用迅速改变了人类的生存环境,重塑人的行为,也不断挑战诸如隐私、责任等概念内涵及其既有策略。


  李真真以“隐私”举例说,传统法律上,隐私是一种权利的概念,但现在它还可以是一种商品,即我们让出一部分个人的隐私或信息以换取服务和产品,这就需要法律的及时跟进。再有,匿名化技术的发展为隐私保护提供了新的工具,但如果对于匿名化数据的法律概念和认定标准上没有明确规定,很可能会导致数据的滥用。同时,隐私保护与国家安全、商业利益如何平衡,也是问题。再比如“责任”,比较典型的就是自动驾驶系统的责任认定。“还有人工智能的预测或决策,如预测犯罪,这将使我们面对一个更为复杂的法律问题。”


  “法律具有滞后性,这就要求我们不断地根据出现的新情况和新的社会难题,对人工智能带来的影响进行伦理评估,以保障相关法律和政策的及时跟进。”李真真说。


  人机可以和谐共处吗?嵌入伦理法律框架是最大的科学挑战


  人工智能是否会产生歧视?答案是肯定的,这可以体现在数据选择和算法上。


  有科学家研究,通过使用机器学习算法帮助银行提供接受还是拒绝房贷的建议,无论如何,在审查神经网络决策制定流程的结果时,发现黑人申请的批准率大大低于白人申请的批准率。


  这就是人工智能工具存在的“黑箱”般的不透明性。


  “人机关系中,智能机器与人类的价值观和规范体系必须一致。”李真真说,如何将人类的价值观和规范嵌入人工智能系统,赋予AI以人性的光辉,成为当前所面临最现实的挑战。


  前有科幻小说家阿西莫夫著名的机器人学三大定律,近年来,国际人工智能界日益重视人工智能中的伦理与法律问题,并推动相关技术标准及社会规范的研讨和制定,如IEEE全球人工智能与伦理倡议、阿西洛马人工智能23条伦理原则,我国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的三步走规划。“但是,将伦理与法律要求嵌入到AI系统,仍是全世界前沿性的科学难题,这需要技术、伦理、法律等控制手段配合使用、高度融合和跨学科合作。”李真真说。


  “智能机器不是代替人,而是要协助人做好工作。人和机器各有优势,要互相了解才能实现人机协作,但人还是人机关系的主导者。依照这种思想,才可能将人工智能引向人机合作的发展道路。”张钹说。


关键字:人工智能  人类智能

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_2017112311343.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:未来已来,智能家居七大发展趋势预测
下一篇:5G商用加速 智慧路灯巨大价值有望爆发

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

腾讯医疗新科技亮相 安全高效智慧健康描绘医疗新图景

科普知识,帮助用户了解自己的身体状况。需要就诊不知道挂什么科?此时,用户只需一句话描述症状,医院AI智能导诊助手就能在1 秒内为精准匹配科室,还能帮你找到最适合的医生,实现线上分诊挂号一步到位。在挂号后,用户还可以使用微信医保支付缴费,免去排队的烦恼。就诊过程中,人工智能技术与医疗深度融合而成“黑科技”,也为用户带来不一样的就医体验。拍完片子后,小助手“腾讯觅影”可以帮助医生为患者看片子,快速准确地找到病变位置,进行疾病筛查。对于麻烦、耗时的帕金森病诊断,医生利用帕金森病运动功能智能评估系统这项新技术,可以更高效地评测帕金森病患者的病情,对患者进行分级,并制定针对性的治疗方案,不仅可以提高测评精度,还为患者节省了大量就诊时间。在诊后
发表于 2018-12-10
腾讯医疗新科技亮相 安全高效智慧健康描绘医疗新图景

美国惊现机器人伤人事件,智能危机恐提前上演?

随着科技的发展,人工智能发展迅速,机器人也出现在了人们的视野中,对于人工智能最直观的解释,可能来自好莱坞电影。《终结者》、《A.I.》、《I,Robot》、《黑客帝国》等众多经典科幻电影,都描绘了一个机器人与人类共存的世界。然而,大部分的论调都集中在“机器毁灭人类”、“机器控制人类作为其能源来源”等方面,所以机器人到底是人类的朋友还是敌人,总是讨论的重点。本周三早晨,亚马逊新泽西仓库突然发生了一起机器人至伤事故,导致24名工人住院。具体来说,在新泽西的亚马逊运营中心,一罐防熊喷雾突然从货架上掉落下来,并释放出大量浓缩的辣椒素,导致数十名工人呼吸困难,24人因此住院,其中1人情况危急。至于防熊喷雾突然掉落的原因,官方表示是因为一个
发表于 2018-12-10
美国惊现机器人伤人事件,智能危机恐提前上演?

面部识别技术:亚马逊和微软声称人工智能可以解读情感

企业和政府正在积极测试面部识别技术,测试的范围从警务人员到一些普通的员工。更细微的测试正在进行中,他们背后的技术公司保证:自动的情感识别技术可以很快帮助机器人更好地理解人类,或者检测汽车司机的是否在驾驶车上时因为愤怒乱开车。面部识别技术是指利用分析比较的计算机技术识别人脸。人脸识别是一项热门的计算机技术研究领域,其中包括人脸追踪侦测,自动调整影像放大,夜间红外侦测,自动调整曝光强度等技术。人脸识别技术属于生物特征识别技术,是对人本身的面部特征来区分个体。但是专家警告说,试图解释面部表情的面部识别算法可能会侵犯到人权。这些声明是AI Now研究所年度报告中的一部分,他们是一个研究人工智能对社会影响的非营利组织。该报告还包括了监管人工智能
发表于 2018-12-10
面部识别技术:亚马逊和微软声称人工智能可以解读情感

未来竞争聚焦在人工智能和芯片领域

近日,国际金融论坛(IFF)第15届全球年会在广州举行,在“IFF政策对话:技术创新与全球发展”圆桌讨论中,来自科技和企业界的专家共话全球技术创新,第一财经整理了部分观点发表。以下为中金公司董事总经理、电子及技术硬件行业首席分析师黄乐平的发言:非常有幸来跟大家分享一下我们对人工智能(AI)和半导体这两个行业的一些观点。现在,这两个行业基本上占据着中美竞争的两个重要制高点。AI到底对人类有什么影响?麦肯锡的调查报告显示,人工智能未来十年对GDP的推动是1.2%,人工智能将从方方面面影响我们的生活和行业。第一个方面叫替代或者叫放大器。对于现有的工作而言,比如说我们以前用五个人做一条生产线,现在通过数字化或者智能化的方法,就在同样
发表于 2018-12-10

5G将为人工智能带来什么

近日,三大运营商已经获得5G试验频率使用许可批复,这意味着全国范围的大规模5G试验将展开。据了解,中国电信获得3400MHz-3500MHz共100MHz带宽的5G试验频率资源;中国移动获得2515MHz-2675MHz、4800MHz-4900MHz频段的5G试验频率资源;中国联通获得3500MHz-3600MHz共100MHz带宽的5G试验频率资源。5G网络作为移动网络的下一代标准,诸多企业纷纷布局,据相关报道称,5G网络将在2020年落地并商用,而在2018年的今天,5G相关设备已经被诸多大型企业拉出来“遛弯”:华为在MWC2018上,它已经展示了全球首款5G商用芯片以及终端;高通发布骁龙855,其集成集成5G新空口(5GNR
发表于 2018-12-07

AI的天花板与助跑器

人工智能(AI)的声势似乎不复去年之勇。项目变少了,业内薪酬涨势停滞,投资人开始讨论AI的泡沫问题,舆论的风向也从鼓噪转向了质疑。客观讲最近一年时间,AI的基础层、技术层和应用层都没有出现革命性的理论,而AI的9个热门方向——芯片、自然语言处理、语音识别、机器学习应用、计算机视觉与图像、技术平台、智能无人机、智能机器人、自动驾驶的商业化进展参差不齐,和与深度学习有关的自动驾驶等领域,则一直处在商业化的边缘徘徊。当多年后我们回头看眼下这段时间,到底是爆发前的静默,还是漫漫长夜的无聊片段?大公司与小公司的殊途同归这一年,谷歌旗下的Waymo自动驾驶技术仍在测试,尽管FCA代工的车队正在扩张,Waymo也一度宣称商业化“近在眼前
发表于 2018-12-07
AI的天花板与助跑器

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
pt type="text/javascript" src="//v3.jiathis.com/code/jia.js?uid=2113614" charset="utf-8">