专家警告机器人杀手或很快成为现实:将做出生死决断

2016-06-22 18:56:53编辑:鲁迪 关键字:机器人  杀手  生死
科幻电影《终结者》的镜头:专家认为未来科幻领域中的全自动化武器“机器人杀手”或将很快成为现实。
  一些国家正在利用无人驾驶设备执行战场任务,比如“死神”无人机。但是,攻击目标的选择如果没有人类的决策,那世界将会变成一个极其危险的世界。

  北京时间6月21日消息,据国外媒体报道,随着人工智能技术的飞速发展,机器人的“智商”越来越高,功能越来越强大。在人类享受机器人所带来的各种便利的同时,机器人对人类的威胁也越来越大。专家认为,机器人的威胁性将远大于其便利性,未来科幻领域中的全自动化武器“机器人杀手”或将很快成为现实。2017年,人类必须要启动关于禁止“致命性自动武器系统”的磋商程序。

  这些全自动化武器可能将彻底改变武装冲突和法律执行的过程。支持者认为,这些机器人杀手是必需的,因为现代战争需要速度,机器人可以让士兵和警察远离伤害。但是,更多的人认为,机器人所带来的威胁要远大于其在军事行动和执法过程中的好处,即弊大于利。攻击目标的选择如果没有人类的决策,那世界将会变成一个极其危险的世界,机器人将在无人控制的情况下做出生死决断,平民被误伤的风险和几率将大幅提升,而且没有任何人需要对此负责。

  考虑到全自动化武器所带来的道德、法律、人身等方面的风险,人类必须要先发制人,阻止其发展、生产和使用,已刻不容缓。处理这种威胁的最佳方式就是制定一系列具有法律效力的国际性武器禁令,这里的武器主要是指没有人类意识控制的全自动化武器。至少已有20个国家在联合国会议上提出了这种倡议,即人类应该控制攻击目标的选择和交战与否的决定。四月份,人权观察组织和哈佛法学院国际人权研究中心发表一份最新报告,提出了许多关于禁令的建议。这两个组织一直在致力于禁止全自动化武器的研发与生产。

  无生命的机器人,它们根本无法真正理解生命的价值与意义。这些福斯特-米勒“魔爪”机器人装备了多种武器。专家认为,如果这样的系统被制造成全自动化,它们有可能攻击错误的目标。
这款“死神”无人机携带有GBU-12铺路Ⅱ激光制导炸弹。

  人类对武器保持控制也是一种道德的必要,因为人类有恻隐之心,在伤害其他个体时他们会有情感上的压力。对人类尊严的尊重,可以也是应该作为对杀戮的抑制。相反,机器人没有真正的情感,它们根本没有方向和限度。此外,无生命的机器人,它们根本无法真正理解生命的价值与意义。

  人为控制也可以推动人类对国际法的遵守,因为国际法也是为了保护平民和士兵。人类可以根据以往的经验和道德考量做出自己的判断,可以根据不同的实际情况做出不同的决定。然而,全自动化武器则几乎不可能有此判断力,它们所执行的程序也不可能考虑到所有的情节。因此,这些武器不可能成为一名“理性的指挥官”,拥有传统的处置复杂、不可预见局面的能力。此外,失去人类控制将可能威胁目标的一种权利,即不能任意剥夺别人的生命权。在任何的执法环节和军事行动中,保证这一基本权利也是一种责任。在评估攻击的必要性时,必须要做出此判断,而做出合理的判断,人类的能力要强于机器人。

  现在,要想找到可以负法律责任的全自动化武器研发者和生产商仍然存在不少障碍。在美国,政府为大多数武器生产商制订了豁免政策。当然,美国检测武器产品质量的标准也非常高,这样也可以促使武器生产商更具法律责任感。在4月份在日内瓦召开的一次联合国会议上,94个国家倡议启动关于“致命性自动武器系统”的磋商。这些国家将共同商讨常规武器公约是否能够限制“致命性自动武器系统”的生产。12月,加入这一公约的国家将召开会议,制定未来工作的日程表。最为关键的是,各成员国应该商定于2017年正式启动关于“致命性自动武器系统”的磋商程序。

在不久的将来,《钢铁侠2》中的军用机器人或将走进现实。

  裁军首先需要人类对武器的控制。比如,国际社会已经制定了得到广泛认可的公约,用来禁止生物武器、化学武器和地雷等。因此,各国现在也应该禁止“致命性自动武器系统”。专家建议,在12月的会议上,各个已加入常规武器公约的国家也应该齐心一致向这一目标努力。他们首先要通过谈判达成一个新的国际性协定来定义“致命性自动武器”。其次,在2017年,各国还需要花费足够的时间进行深入研究。考虑到国际法律的制定过程漫长,各国可以先快速地定义“致命性自动武器”的威胁。专家最后还建议,各国应该抓住这次会议的最佳机遇,因为别无选择,不能因为科技超越外交而给人类带来可怕的后果。

关键字:机器人  杀手  生死

来源: 新浪 引用地址:http://www.eeworld.com.cn/afdz/article_201606229643.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:我国首次实现量子指纹识别 量子通信应用获重大突破
下一篇:扒开现象看本质:大数据应用初成气候

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

机器人进入安防市场,底气何在?

从1920年捷克作家雷尔·恰佩克的科幻小说《罗萨姆的机器人万能公司》中的“robot”一词开始,机器人就从单纯的文字变成了现实。在现实生活中,以服务机器人为代表的机器人穿梭在人类世界的各个角落里,逐渐成为人类生活中不可缺少的部分。但也正因为诞生于科幻小说之中,人们对机器人一直充满着幻想,从工业机器人到扫地机器人,再到教育机器人和快递机器人,人类的双手正在扶持一个新行业的诞生——安防机器人。  从安防机器人谈起  安防机器人又称安保机器人,是机器人行业的一个细分领域之一。  和其它服务机器人类似,安防机器人内置摄像头,GPS技术,机器视觉和语音交互等人工智能技术。但光从称呼出发,我们就能了解安防机器人与服务机器人大不相同。  不同于
发表于 2018-07-18 18:29:51

完成1300万美元A轮融资,“机器人+安防“成大趋势!

近日,安保机器人初创企业CobaltRobotics完成1300万美元A轮融资,事实上,“机器人+安防“概念早就不是新鲜名词了,王石早在2015年就在万科园区局部启用机器人巡逻保安。但从市场格局上来看,市场正处于起步阶段。不过数据上倒是很乐观,有个机构给出的数据都显示物业安防机器人正迎来爆发期。但在爆发之前,还需要解决2大问题。   解决三大技术难题筑起行业护城河   就技术角度而言,安防机器人主要有十大技术热点:导航定位、计算机视觉、目标跟踪、移动与运动控制、检查/巡检、算法、目标检测与识别、传感器、网络,人机交互。而这十大技术问题彰显的三个核心问题的无疑是移动底盘、机器视觉、智能语音的交互。   从理念导入实践,技术落地还需
发表于 2018-07-16 20:10:06

德媒称机器人抢饭碗引发东南亚大规模失业潮

据德国《世界报》12日报道,全球风险评估公司维里斯科枫园周四发布的一份报告称,工厂自动化程度的不断提高,引发了东南亚地区大规模失业潮,机器人正逐渐代替人工。一直以来,东南亚都被称为“世界的工作台”之一,许多低技术产品从这里生产出口。维里斯科枫园专家表示,未来几十年,机器人制造将取代许多低技术工作。没有技能或适应能力差的工人,在未来很可能明知道受到剥削也要抢夺那些低薪工作。这种趋势被称之为“东南亚现代奴隶制”。发生这种奴隶制风险最大的部门包括农业、渔业、制造业、零售业和电子业。今年早些时候,联合国国际劳工组织(ILO)曾表示,未来20年,柬埔寨、印尼、泰国、越南和菲律宾将有超过半数劳工面临自动化带来的失业危机,受影响人数超过1.37
发表于 2018-07-16 19:51:39

你不知道的是 这些机器人相关企业岌岌可危

大浪退潮之后,才能看见谁是光着屁股。这句话不知道有多少人认同。最近听到不少机器人行业犯难的消息。H城某激光雷达新三板上市企业,涉嫌滥用募集资金,已被退市,企业离职人员几近5成。“听说大老板不干正事,小姑娘倒是找了好几个……”S城的一家AGV企业从去年开始就急着全部转手,勉强维持到现在,连工资都捉襟见肘。还有多家机器人创业公司,若不是有投资人的资金救急,怕是办公租金都难以负担。也有很多公司创始人,或因个人原因,或因企业因由,辗转轮换。为何这样的消息不绝于耳,也许昨天还在豪气冲天的要干倒一片,今日只能苍凉收场,不止于机器人,更多的制造业都在经历这样的难堪。你所不知道的是,这些企业都在岌岌可危首先,制造业环境日渐下行,成本高企。还记得
发表于 2018-07-16 19:50:30

新疆引进首个司法服务机器人

据新疆网报道,新市区法院一楼大厅,一部智能机器人发出的和蔼的女声,引起了大量前来办理法律事务的市民的注意,大家纷纷来围观这个智能机器人,听“她”讲解专业的法律知识。原来这是新疆引进的第一个司法服务智能机器人。据了解,这次引进的是一款人工智能导诉机器人,采用了“人工+智能”的模式,属于国内最新款能听会说、能判断会互动的智能机器人,具备法律咨询、程序引导、信息查询、语音互动等功能,编程有上万条法律法规和常见法律、诉讼等问题,可以帮助前来办事的群众提供多项诉讼引导服务,既能提升法院诉讼服务的智能化和标准化水平,又能节省人力,缓解人员紧张的问题。
发表于 2018-07-16 19:49:03

工业4.0进行时:工业机器人为何能够快速爆发?

自George Devol于1961发明第一台可编程工业机器人“Unimate”以来,工业机器人产业已经走过了几十年的历史。到了2000年,全球约有74.25万台工业机器人。其中,超过一半的数量都在日本。而在后续的10年,全球工业机器人市场增长缓慢。快速爆发的市场2010年后,全球工业机器人市场呈现出爆发式增长。到2016年,全球投入使用的工业机器人数量达到182.8万台,仅亚马逊投入使用的机器人数量就达到45000台。与此同时,韩国已经成为机器人密度最高的国家,制造业平均每10000名劳动者就安装了630台机器人。据国际机器人联合会预测,当前,全球对工业机器人的需求将以每年14%的速度增长,预计到2020年,投入使用的工业机器人
发表于 2018-07-16 19:44:20
工业4.0进行时:工业机器人为何能够快速爆发?

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved