datasheet

人工智能对人类的两次暴击,人类开始细思极恐

2017-11-23来源: 科技日报 关键字:人工智能  人类智能



被沙特授予公民身份的机器人索菲亚和它的创造者大卫·汉森


  索菲亚不是人,她只是个很聪明的机器人;索菲亚又是“人”,不久前,她被沙特授予公民身份,加入人类籍。


  索菲亚很友好,与人谈笑自如,甚至还会眼神交流,并在MV里与歌星王力宏“结了婚”;索菲亚又很“恐怖”,声称未来目标是想去上学,成立家庭,并——毁灭人类。


  无论这句话是调侃还是隐喻,设计出她的人类,尴尬了。


  中科院科技战略咨询研究院研究员李真真举索菲亚的例子,是想提出一个问题:在技术高歌猛进的同时,人工智能不断模糊着物理世界和个人的界限,不断刷新人的认知和社会关系,延伸出复杂的伦理、法律和安全问题,但相应的规范和制度设计还存在盲区,这是一个极大的挑战。


  “我国的人工智能技术可谓与世界发达国家‘同步’,但伦理和法律研究则严重滞后,这种‘缺位’会制约我们未来的发展。”李真真说。


  人工智能很牛吗?牛,但也有可能犯大错


  人工智能火了!人工智能牛了!很大程度归功于近年来一只不断进化的“狗”——阿尔法狗(AlphaGo)。


  中科院院士张钹简单分析了人工智能发展的两条路径:一是符号主义,即从信息处理的宏观层面去模拟智能;二是连接主义,即从网络介观层面去模拟人类行为。当人工智能的开拓者提出上述方向时,不少人认为不可能,但事实证明这两条路都行得通。


  “人工智能第一次震撼,是IBM的‘深蓝’程序打赢国际象棋冠军,这是用计算机模拟人类下象棋的理性思考过程,证明了符号主义这一条路走得通。”张钹说。


  人工智能第二次对人类的“暴击”,是基于神经网络的深度学习,AlphaGo抛弃了传统围棋程序的编程方法,创造性地利用机器学习,来获取下棋的经验与直觉,结果战胜世界围棋冠军。“更值得注意的是AlphaGoZero从零开始,通过36小时自我学习,超越人类3000年的围棋经验,以100比0击败了上一版本的AlphaGo。这证明第二条路也走得通。”张钹说。


  “这让人欢欣鼓舞,也令人担忧。”张钹的“忧”,指的是基于深度学习的人工智能系统存在的根本性缺陷——不可解释和不可理解,就事论事,缺乏推广能力,遇到新的情况一筹莫展等。因此当面对动态变化的环境,信息不完全、存在干扰与虚假信息时,人工智能系统性能就会显著下降。


  “当前的人工智能与人类智能本质上是不同的。”张钹说,与人类相比,人工智能系统抗干扰能力(鲁棒性)差,推广能力弱,甚至可能犯大错。“基于深度学习的模式识别系统尽管可以准确地区分不同事物,但本质上不认识它们。与人类不一样,它不会举一反三,更不会‘知其所以然’。使用这样的人工智能系统需要十分小心。”


  “现在大家对人工智能有无限期待。围棋有规则,现实生活中没有规则。人工智能产品完成单项任务很牛,但遇到复杂情况,实际没那么厉害。”海尔公司CTO赵峰认为。


  人工智能可怕吗?远虑尚“远”,近忧在即


  人工智能会威胁人类吗?马斯克、霍金、扎克伯格……科技和产业界的大腕对此的争论和互怼一直没有停歇。


  人工智能威胁论拥趸者所指的“强人工智能”到来还比较远,现在发展的多是擅长完成单项任务的“弱人工智能”。“人工智能还在生长发展过程中,是否造成威胁估计是下一代科学家面临的问题,我们现在的任务是把它‘养大’。”不过,中科院院士何积丰也坦承,现在人工智能也有“内忧外患”,如无人机黑飞乱飞管理乱象,恐怖主义黑客攻击等。


  “世界上没有免费的午餐,机器通过‘黑箱’学习(深度学习)方法取得的智能,由于与人类认知行为存在根本差异,因此也将带来潜在的风险。”张钹说,人工智能全面超越人类智能并出现自我意识,是危险的,不过这是远虑;但其不可解释性会带来“近忧”,如将深度学习应用于军事决策,万一系统出现原则性决策失误怎么办?


  人类准备好了吗?远远没有,急需跟进


  “人类现有的概念框架及知识储备难以应对人工智能带来的影响,也使我们不得不面对‘制度性风险’。”李真真说,人工智能技术的社会应用迅速改变了人类的生存环境,重塑人的行为,也不断挑战诸如隐私、责任等概念内涵及其既有策略。


  李真真以“隐私”举例说,传统法律上,隐私是一种权利的概念,但现在它还可以是一种商品,即我们让出一部分个人的隐私或信息以换取服务和产品,这就需要法律的及时跟进。再有,匿名化技术的发展为隐私保护提供了新的工具,但如果对于匿名化数据的法律概念和认定标准上没有明确规定,很可能会导致数据的滥用。同时,隐私保护与国家安全、商业利益如何平衡,也是问题。再比如“责任”,比较典型的就是自动驾驶系统的责任认定。“还有人工智能的预测或决策,如预测犯罪,这将使我们面对一个更为复杂的法律问题。”


  “法律具有滞后性,这就要求我们不断地根据出现的新情况和新的社会难题,对人工智能带来的影响进行伦理评估,以保障相关法律和政策的及时跟进。”李真真说。


  人机可以和谐共处吗?嵌入伦理法律框架是最大的科学挑战


  人工智能是否会产生歧视?答案是肯定的,这可以体现在数据选择和算法上。


  有科学家研究,通过使用机器学习算法帮助银行提供接受还是拒绝房贷的建议,无论如何,在审查神经网络决策制定流程的结果时,发现黑人申请的批准率大大低于白人申请的批准率。


  这就是人工智能工具存在的“黑箱”般的不透明性。


  “人机关系中,智能机器与人类的价值观和规范体系必须一致。”李真真说,如何将人类的价值观和规范嵌入人工智能系统,赋予AI以人性的光辉,成为当前所面临最现实的挑战。


  前有科幻小说家阿西莫夫著名的机器人学三大定律,近年来,国际人工智能界日益重视人工智能中的伦理与法律问题,并推动相关技术标准及社会规范的研讨和制定,如IEEE全球人工智能与伦理倡议、阿西洛马人工智能23条伦理原则,我国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的三步走规划。“但是,将伦理与法律要求嵌入到AI系统,仍是全世界前沿性的科学难题,这需要技术、伦理、法律等控制手段配合使用、高度融合和跨学科合作。”李真真说。


  “智能机器不是代替人,而是要协助人做好工作。人和机器各有优势,要互相了解才能实现人机协作,但人还是人机关系的主导者。依照这种思想,才可能将人工智能引向人机合作的发展道路。”张钹说。


关键字:人工智能  人类智能

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_2017112311343.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:未来已来,智能家居七大发展趋势预测
下一篇:5G商用加速 智慧路灯巨大价值有望爆发

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

哈曼公司高管预测:2019年汽车技术发展4大趋势

2018年是未来移动出行发展的关键一年,随着各种新兴技术的出现、不断变化消费者习惯的不断变化以及超级网联技术的发展,汽车行业正以前所未有的速度发生改变。据外媒报道,哈曼公司(HARMAN)主要关注2019年车载体验会如何发展。随着2019年国际消费电子展(CES)的临近,哈曼公司对人工智能(AI)、智能音频、语音控制系统等将在CES展上展示的技术如何塑造2019年及未来的车载用户体验发表了以下看法:AI驱动的车辆未来可期,而且会更加安全通过AI获取信息和情报,将使驾驶员安全功能发生重大改变。哈曼公司首席技术官兼网联服务总裁Sanjay Dhawan表示,这将改进用于物体识别、学习和预测人类行为以及理解驾驶员警觉性的感知系统
发表于 2018-12-25
哈曼公司高管预测:2019年汽车技术发展4大趋势

人工智能电视首次有了行业规范:海信AI电视唯一摘得六项A+

随着人工智能电视认证技术规范的正式发布和实施,以及海信电视一马当先摘得行业唯一的六项A+认证,这意味着持续三多年的人工智能电视市场无序发展的局面得到规范,同时还为AI电视未来健康发展拓展出新的空间和动能。日前,中国电子技术标准化研究院正式发布《人工智能电视认证技术规范》,首次对人工智能电视做出准确定义和明确技术规范。在人工智能电视领域研发和创新上,行业领军企业海信一直走在行业前列,此次不仅作为标准的积极推动者和主要参与者,AI产品更是在最新发布的技术规范行业检测中拔得头筹,成为目前行业唯一获得六项A+的AI电视企业。在最新发布的人工智能电视技术规范标准中规定,获得人工智能电视认证的基础指标有“语音识别、模糊检索、智能推荐”等六项
发表于 2018-12-24
人工智能电视首次有了行业规范:海信AI电视唯一摘得六项A+

可在0.05秒被人工智能攻破 网站文本验证码存在“巨大安全漏洞”

由我国西北大学房鼎益、陈晓江教授团队联合北京大学、英国兰卡斯特大学研究发现,网站上看似复杂的文本验证码存在“巨大安全漏洞”,大多数可被人工智能破解。  这一成果发布于近期由国际计算机协会在加拿大举办的2018年计算机与通讯安全会议上,该会议是国际公认的计算机安全领域的顶级会议之一。  西北大学团队负责人房鼎益教授介绍,团队基于最新的人工智能技术,建立了一套新型验证码求解器。他们综合分析了全球最热门50个网站的文本验证码,包括公众熟知的谷歌、eBay、微软、维基百科、淘宝、百度、腾讯、京东等网站。实验证明,大部分文本验证码可在0.05秒内被人工智能攻破。  近10年来,验证码已成为大部分网站和应用程序必备的安全机制之一。虽然过程繁琐
发表于 2018-12-24

医疗人工智能:如何抓住四大机遇,应对四大挑战

人工智能(AI)正越来越多地应用于制药和医疗器械行业,它有望提高产品开发的效率,为延长患者生命提供创新的解决方案。然而,这一新兴领域将对现有监管系统提出挑战。因此,利益相关者必须通过合作,确保监管体系的顺利发展,以适应人工智能带来的变化。动脉网(微信:vcbeat)编译了PharmaLex的相关报告。本文主要内容包括:四大机遇:AI有望改善医疗产品的研发和生命周期管理1.使用AI工具评估临床试验的纳入/排除标准;2.在II期临床试验中使用人工智能识别临床活动;3.从非结构化文本中提取数据;4.自动化行政工作。四大挑战:人工智能深入临床面临着监管挑战1.如何验证不断“学习”的AI软件;2.如何评估从新的基于AI的临床端点发出的安全
发表于 2018-12-21
医疗人工智能:如何抓住四大机遇,应对四大挑战

AI实力大比拼,中国想要赶超美国,还差5条街

德国《明镜》周刊近期撰文称“中国是人工智能研究的世界领导者。”德国经济杂志《Heise》近期评论说“中国成为人工智能超级大国的道路是不可阻挡的。”荷兰爱思唯尔(Elsevier)最新分析报告称,在过去20年中,中国的研究人员发表了大约13.4万篇关于人工智能的研究论文,而美国发表的论文仅10.6万篇。对此,德国《商报》解读为自工业革命以来,西方国家首次失去全球重要技术的主导地位,中国已超越美国成为全球人工智能论文研究的世界领导者。在欧美的很多媒体看来,中国已经超越美国成为了人工智能领域的全球领导者。但事实上,在人工智能领域,中国真的超越美国了吗?从专利申请量角度来看。以中国专利文摘数据库(CNABS)和德温特世界专利索引数据库
发表于 2018-12-21
AI实力大比拼,中国想要赶超美国,还差5条街

2018人工智能技术总结与2019趋势预测报告

2018,仍是AI领域激动人心的一年。这一年成为NLP研究的分水岭,各种突破接连不断;CV领域同样精彩纷呈,与四年前相比GAN生成的假脸逼真到让人不敢相信;新工具、新框架的出现,也让这个领域的明天特别让人期待……近日,Analytics Vidhya发布了一份2018人工智能技术总结与2019趋势预测报告,原文作者PRANAV DAR。量子位在保留这个报告架构的基础上,对内容进行了重新编辑和补充。这份报告总结和梳理了全年主要AI技术领域的重大进展,同时也给出了相关的资源地址,以便大家更好的使用、查询。报告共涉及了五个主要部分:自然语言处理(NLP)计算机视觉工具和库强化学习AI道德下面,我们就逐一来盘点和展望,嘿喂狗~自然语言处理
发表于 2018-12-21

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
pt type="text/javascript" src="//v3.jiathis.com/code/jia.js?uid=2113614" charset="utf-8">