datasheet

杀手机器人来了 这可能是你见过最恐怖的视频

2017-11-22来源: 澎湃新闻 关键字:人工智能  机器人  致命性  武器

上周,在日内瓦举办的联合国特定常规武器公约会议上,一段可怕的视频公诸于众:视频中,一群神似《黑镜III》中机器杀人蜂的小型机器人,通过人脸定位瞬间杀死了正在上课的一众学生,场面血腥。

  伯克利大学教授、资深AI研究者Stuart Russell在视频的最后提醒人们,想象一下,这些致命的自动武器一旦落入恐怖分子之手,可能造成怎样的后果。

  先来看看视频里几个可怕的画面:

  一个体型类似蜜蜂的小型机器人飞入会场并轻易躲过演讲人抓捕,其拥有 anti-sniper 技术,完全基于 AI。

本文图片均来自央视财经微信公号

  这个小东西蕴含可怕的黑科技:广角摄像头、传感器、面部识别,且在其中部,还有3克炸药。

来看看它的攻击效果,一击而中,极端致命。

  看到这个武器,小编立马想起了《三体》里一种终极形态的武器——“水滴”,它形状与普通水滴相似,由被强互作用力紧密锁死的质子与中子构成,密度巨大,无坚不摧,仅一个水滴就能接连摧毁人类的一千多艘飞船,打击方式也是直接、精准穿透关键部位,和这段视频里一样。

  视频最后还演示了一段飞行机器人集体攻击人类的画面,通过面部识别定位,轻易杀死了正在上课的一班学生。

杀手机器人真的来了么?

  在视频结尾,Russell发出警告,尽管这段视频和其中的杀人机器人并非真实,但视频中的科技目前已经存在。要避免视频中的悲剧发生,我们需要尽快行动。

  这段视频发布在本月13-17日的联合国特定常规武器公约会议上,这一会议由“杀手机器人禁令运动”(Campaign to Stop Killer Robots)组织,超过七十个国家的代表出席。

  杀手机器人:未来无人战争之忧

  今年8月20日,在墨尔本举行的2017国际人工智能联合大会上,包括美国特斯拉电动汽车公司CEO伊隆·马斯克、DeepMind联合创始人穆斯塔法·苏莱曼在内的116位机器人和人工智能公司创始人发表公开信,呼吁联合国在国际范围内禁止“致命性自主武器系统”的使用。

  公开信指出,致命性自主武器系统足以构成第三次武器革命的威胁——前两次革命分别是火药和核武器。这种技术一旦开发成功,将有可能把战争冲突升级至从未有过的规模,而且会达到人类难以控制的速度。公开信的签署者们认为,致命性自主武器可能成为独裁者和恐怖分子残害无辜的手段,或者被黑客挟持。

  致命性自主武器系统实际上是一种军用机器人,它可以不经过人类干预,自主选择和攻击包括人员和装备在内的军事目标,所以也被叫做“杀手机器人”。目前,拥有“人格”的智能技术尚未被从科幻电影搬到现实中,但是与此有关的技术的确正在朝着这个方向发展。

  有人认为,在未来,致命性自主武器系统如果应用于战争,在军事方面会起到许多正面作用。例如,降低己方士兵的风险,降低人与人之间近距离战争的代价。此外,自主武器系统也省去了军人的薪水、住房、养老、医疗等开销,又在速度、准确性上高于人类,而且不用休息。有别于人类战斗员会在战场上出现心理和情绪波动的特点,人工智能武器更稳定,并且能够抵达人类不可及之处,完成搜救和保护任务。

  西安政治学院军事法学系教授宋新平分析,致命性自主武器的运用,意味着自然人在武装冲突中直接发挥的作用越来越小,武器所发挥的作用则越来越大,将影响并改变未来战场的战斗员构成与战斗能力的变化,特别是这种武器的集群式运用,对未来作战的指挥体制、力量运用、供给保障等方面将产生革命性影响。

正在海上进行试验的美国Sea Hunter自主战舰。

  争议“杀手机器人”

  但是,随着致命性自主武器系统的发展,它所带来的争议也越来越强烈。

  首先,有人担忧,机器打仗使得人员伤亡大大减少,反过来又会降低战争发动的门槛,武装冲突发生的机会会增加,而战争的人员损失将从战斗员转移到交火区域的平民。

  其次,如同所有战争中的武器一样,致命性自主武器系统要运用在战争中,必须符合《日内瓦公约》,即国际人道法。反对者认为,该武器系统违反国际人道法中的“区分原则”,即机器人武器很难做到和人类一样区分平民与战斗员、有战斗能力的战斗员和丧失战斗能力的战斗员(如伤者、病者及战俘),以及作战人员和携带轻武器从事非战斗任务的人员。

  在伦理方面,致命性自主武器运用于未来的武装冲突中,这意味着将剥夺自然人生命的权利交给非自然人。有学者认为,这是将人的生命和人格尊严交给机器来判定,不具有平等性,也是对人类生命权以及人格尊严的侮辱。

  法律上的责任更是不能忽略。自主武器兼具“战斗员”和“战斗武器”两种角色,如果它违背国际人道法,国际社会将面临如何追究责任的问题,而被追究的主体应该是设计者、制造者、操作者还是机器本身?

  今年8月发出的公开信不是伊隆·马斯克等人第一次对致命性自主武器系统提出警示。早在2015年,同样在国际人工智能联合大会上,物理学家斯蒂芬·霍金、苹果联合创始人史蒂夫·沃兹尼亚克等1000多名人工智能领域专家联合谴责人工智能时代的军备竞赛,呼吁禁止自主武器。容易引发军备竞赛、威胁世界和平,是反对者担忧的原因之一。

但是,也有人认为以上反对意见作为禁用致命性自主武器的理由站不住脚。研究人工智能哲学的复旦大学教授徐英瑾在《技术与正义:未来战争中的人工智能》一文中进行了反驳。比如,对于“无人智能武器的出现,会使得杀戮变得更为容易,因此,也会使得军事暴力在未来变得更为频繁”的说法,徐英瑾提出,按照杀戮效率提高会对和平构成威胁的逻辑,那是否为了降低杀戮效率,就制造尽量劣质的枪支,鼓励士兵降低击中率?这显然是荒谬的,相反,人工智能技术运用于军事,会使得人类作战意图得到更精确的贯彻,可使得正义战争快速结束。

  人工智能公司、国际组织纷纷呼吁禁止致命性自主武器系统,但现状是,至今国际社会仍然没有就致命性自主武器系统问题达成统一认识,甚至还没有统一的定义。

  联合国《特定常规武器公约》成员国已经建立了一个致命性自主武器系统的政府专家小组,这个小组的第一次会议预定将于今年11月召开。伊隆·马斯克等公开信签署者希望专家小组努力寻求方法,防止这类武器的军备竞赛,保护平民免受武器滥用的伤害,避免这些技术给世界的未来带来严重的后果。


关键字:人工智能  机器人  致命性  武器

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/article_2017112211332.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。

上一篇:四方面论证人工智能不会对人类产生威胁
下一篇:德国禁止儿童手表,央视早已揭露它的缺陷

关注eeworld公众号 快捷获取更多信息
关注eeworld公众号
快捷获取更多信息
关注eeworld服务号 享受更多官方福利
关注eeworld服务号
享受更多官方福利

推荐阅读

哈曼公司高管预测:2019年汽车技术发展4大趋势

2018年是未来移动出行发展的关键一年,随着各种新兴技术的出现、不断变化消费者习惯的不断变化以及超级网联技术的发展,汽车行业正以前所未有的速度发生改变。据外媒报道,哈曼公司(HARMAN)主要关注2019年车载体验会如何发展。随着2019年国际消费电子展(CES)的临近,哈曼公司对人工智能(AI)、智能音频、语音控制系统等将在CES展上展示的技术如何塑造2019年及未来的车载用户体验发表了以下看法:AI驱动的车辆未来可期,而且会更加安全通过AI获取信息和情报,将使驾驶员安全功能发生重大改变。哈曼公司首席技术官兼网联服务总裁Sanjay Dhawan表示,这将改进用于物体识别、学习和预测人类行为以及理解驾驶员警觉性的感知系统
发表于 2018-12-25
哈曼公司高管预测:2019年汽车技术发展4大趋势

人工智能电视首次有了行业规范:海信AI电视唯一摘得六项A+

随着人工智能电视认证技术规范的正式发布和实施,以及海信电视一马当先摘得行业唯一的六项A+认证,这意味着持续三多年的人工智能电视市场无序发展的局面得到规范,同时还为AI电视未来健康发展拓展出新的空间和动能。日前,中国电子技术标准化研究院正式发布《人工智能电视认证技术规范》,首次对人工智能电视做出准确定义和明确技术规范。在人工智能电视领域研发和创新上,行业领军企业海信一直走在行业前列,此次不仅作为标准的积极推动者和主要参与者,AI产品更是在最新发布的技术规范行业检测中拔得头筹,成为目前行业唯一获得六项A+的AI电视企业。在最新发布的人工智能电视技术规范标准中规定,获得人工智能电视认证的基础指标有“语音识别、模糊检索、智能推荐”等六项
发表于 2018-12-24
人工智能电视首次有了行业规范:海信AI电视唯一摘得六项A+

可在0.05秒被人工智能攻破 网站文本验证码存在“巨大安全漏洞”

由我国西北大学房鼎益、陈晓江教授团队联合北京大学、英国兰卡斯特大学研究发现,网站上看似复杂的文本验证码存在“巨大安全漏洞”,大多数可被人工智能破解。  这一成果发布于近期由国际计算机协会在加拿大举办的2018年计算机与通讯安全会议上,该会议是国际公认的计算机安全领域的顶级会议之一。  西北大学团队负责人房鼎益教授介绍,团队基于最新的人工智能技术,建立了一套新型验证码求解器。他们综合分析了全球最热门50个网站的文本验证码,包括公众熟知的谷歌、eBay、微软、维基百科、淘宝、百度、腾讯、京东等网站。实验证明,大部分文本验证码可在0.05秒内被人工智能攻破。  近10年来,验证码已成为大部分网站和应用程序必备的安全机制之一。虽然过程繁琐
发表于 2018-12-24

医疗人工智能:如何抓住四大机遇,应对四大挑战

人工智能(AI)正越来越多地应用于制药和医疗器械行业,它有望提高产品开发的效率,为延长患者生命提供创新的解决方案。然而,这一新兴领域将对现有监管系统提出挑战。因此,利益相关者必须通过合作,确保监管体系的顺利发展,以适应人工智能带来的变化。动脉网(微信:vcbeat)编译了PharmaLex的相关报告。本文主要内容包括:四大机遇:AI有望改善医疗产品的研发和生命周期管理1.使用AI工具评估临床试验的纳入/排除标准;2.在II期临床试验中使用人工智能识别临床活动;3.从非结构化文本中提取数据;4.自动化行政工作。四大挑战:人工智能深入临床面临着监管挑战1.如何验证不断“学习”的AI软件;2.如何评估从新的基于AI的临床端点发出的安全
发表于 2018-12-21
医疗人工智能:如何抓住四大机遇,应对四大挑战

AI实力大比拼,中国想要赶超美国,还差5条街

德国《明镜》周刊近期撰文称“中国是人工智能研究的世界领导者。”德国经济杂志《Heise》近期评论说“中国成为人工智能超级大国的道路是不可阻挡的。”荷兰爱思唯尔(Elsevier)最新分析报告称,在过去20年中,中国的研究人员发表了大约13.4万篇关于人工智能的研究论文,而美国发表的论文仅10.6万篇。对此,德国《商报》解读为自工业革命以来,西方国家首次失去全球重要技术的主导地位,中国已超越美国成为全球人工智能论文研究的世界领导者。在欧美的很多媒体看来,中国已经超越美国成为了人工智能领域的全球领导者。但事实上,在人工智能领域,中国真的超越美国了吗?从专利申请量角度来看。以中国专利文摘数据库(CNABS)和德温特世界专利索引数据库
发表于 2018-12-21
AI实力大比拼,中国想要赶超美国,还差5条街

2018人工智能技术总结与2019趋势预测报告

2018,仍是AI领域激动人心的一年。这一年成为NLP研究的分水岭,各种突破接连不断;CV领域同样精彩纷呈,与四年前相比GAN生成的假脸逼真到让人不敢相信;新工具、新框架的出现,也让这个领域的明天特别让人期待……近日,Analytics Vidhya发布了一份2018人工智能技术总结与2019趋势预测报告,原文作者PRANAV DAR。量子位在保留这个报告架构的基础上,对内容进行了重新编辑和补充。这份报告总结和梳理了全年主要AI技术领域的重大进展,同时也给出了相关的资源地址,以便大家更好的使用、查询。报告共涉及了五个主要部分:自然语言处理(NLP)计算机视觉工具和库强化学习AI道德下面,我们就逐一来盘点和展望,嘿喂狗~自然语言处理
发表于 2018-12-21

小广播

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2018 EEWORLD.com.cn, Inc. All rights reserved
pt type="text/javascript" src="//v3.jiathis.com/code/jia.js?uid=2113614" charset="utf-8">