专家建议把人类价值"植入"机器人:防范人工智能

2015-11-04 18:01:47来源: 参考消息网
  

    10月20日,在美国加利福尼亚州拉古纳比奇举行的一场科技大会上,情感机器人“佩珀”和一位与会者拍手。(路透社

    外媒称,随着人工智能技术越来越先进,人们愈发担心,机器人可能变成一种威胁。据加利福尼亚大学伯克利分校计算机学教授斯图尔特·拉塞尔说,这种危险是可以避免的,如果我们能够解决如何把人类价值变成可编程的代码。

  据美国石英财经网站11月1日报道,拉塞尔说,在机器人领域,“道德哲学将是一个非常重要的产业部门”。他指出:“随着机器人从事更加复杂的任务,我们绝对有必要把我们人类的道德转化为人工智能语言。”

  比如说,如果机器人在房子里做杂务——预计未来几十年将会出现这种场面——的话,你可不想机器人把宠物猫放进烤箱里,给饥肠辘辘的孩子们做顿大餐。拉塞尔说:“你会希望给那个机器人预先载入一大套人类价值。”

  人们已将基本的人类价值编入了一些机器人的程序。玛丽女王大学计算机学教授彼得·麦克欧文说,可移动机器人就被编入了与人类保持适当距离的程序。

  他说:“这是机器人行为可被视为体现某种价值的一个极为简单的例子。如果机器人在你和别人说话时靠近你们的私人空间,你就会认为,这不是一个有教养的人会做的事情。”

  创造更复杂的、具备道德规范的机器人是可能的,但条件是我们要找到把人类价值设定成明确规则的办法。

  麦克欧文说:“这种价值设定工程要有研究人类价值的专家参与进来,其中包括哲学家、心理学家、人种学家以及外行人士。就像你把专业知识转化成一套规则一样,你可以将这个讨论组提供的信息转化成一系列规则。”

  此外,机器人还可以选取根据有关人类行为的大套数据制成的模型来学习人类价值。

  麦克欧文说,只有在程序员不负责任的情况下,机器人才会成为一种危险。

  他说:“就机器人违反人类价值这一问题,人们最担心的是,如果人类因为没有进行充分测试而没有给机器人正确编程的话,机器人就不会有充分的安全保障,它们就会有办法去打破某种禁忌。”

  简单的方法是,当出现特殊情况时,给机器人编入让人去检查机器人行为是否正确的程序。

  麦克欧文说:“如果机器人不确定一种动物是否适合被放进微波炉时,它可以停下来,发出哔哔的信号声,以请求人给出指示。”

  把人类价值编成程序最困难的一步是,要确定什么才是我们认为的道德行为,以及如何制定一套道德规则。如果我们有了答案,那么机器人对人类就会是有益的。

关键字:人工智能

编辑:鲁迪 引用地址:http://www.eeworld.com.cn/afdz/2015/1104/article_8996.html
本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有,本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如果本网所选内容的文章作者及编辑认为其作品不宜公开自由传播,或不应无偿使用,请及时通过电子邮件或电话通知我们,以迅速采取适当措施,避免给双方造成不必要的经济损失。
论坛活动 E手掌握
微信扫一扫加关注
论坛活动 E手掌握
芯片资讯 锐利解读
微信扫一扫加关注
芯片资讯 锐利解读
推荐阅读
全部
人工智能

小广播

独家专题更多

富士通铁电随机存储器FRAM主题展馆
富士通铁电随机存储器FRAM主题展馆
馆内包含了 纵览FRAM、独立FRAM存储器专区、FRAM内置LSI专区三大部分内容。 
走,跟Molex一起去看《中国电子消费品趋势》!
走,跟Molex一起去看《中国电子消费品趋势》!
 
带你走进LED王国——Microchip LED应用专题
带你走进LED王国——Microchip LED应用专题
 

About Us 关于我们 客户服务 联系方式 器件索引 网站地图 最新更新 手机版

站点相关: 视频监控 智能卡 防盗报警 智能管理 处理器 传感器 其他技术 综合资讯 安防论坛

北京市海淀区知春路23号集成电路设计园量子银座1305 电话:(010)82350740 邮编:100191

电子工程世界版权所有 京ICP证060456号 京ICP备10001474号 电信业务审批[2006]字第258号函 京公海网安备110108001534 Copyright © 2005-2016 EEWORLD.com.cn, Inc. All rights reserved