注册 登录  
 加关注
   显示下一条  |  关闭
温馨提示!由于新浪微博认证机制调整,您的新浪微博帐号绑定已过期,请重新绑定!立即重新绑定新浪微博》  |  关闭

《新知客》杂志

 
 
 

日志

 
 

机器人!放开她!  

2010-02-03 14:49:21|  分类: 推想 |  标签: |举报 |字号 订阅

  下载LOFTER 我的照片书  |

靠着旧版的“机器人三定律”,阿西莫夫炮制出了人与机器人之间的尴尬关系。而“机器人新三定律”则充满了化理想为现实的野心,当然,也不乏使虚构的尴尬变成现实的潜质。

| 郭凯

插画 | Zizi

机器人!放开她! - 新知客 - 《新知客》杂志

“第一:人类给予机器人的工作系统应该符合最合法和职业化的安全与道德标准;第二:机器人必须对人类命令做出反应,但只能对特定人类的某种命令做出反应;第三:在不违反第一定律和第二定律的前提下,当人类和机器人判断决策力之间的控制能顺利转换时,机器人对其自身的保护应有一定的自主性。”这就是于2009年制定出的机器人新三定律。

机器大兵疯了

“你说,咱们3年前是不是昏了头,为啥要替换机器人三定律?”罗宾·墨菲斜倚在沙丘背后一辆报废的M1A2坦克下,疲惫让他看上去不像是德州A&M大学的机器人专家,倒像是个普通的厌战大兵。时为201210月,在中东的这片沙漠的腹地,除了正在从坦克里往外搬东西的胖乎乎的大卫·伍兹外,墨菲再也找不到活人了。

伍兹是俄亥俄州立大学的系统工程师,3年前,他和墨菲合作在《宇宙》杂志上发表论文,提出修正阿西莫夫影响力巨大的机器人三定律,以利于将之前仅是科幻设想的机器人真正应用于现实。“新三定律”一时间名声大振,甚至被用于军事领域。要知道,随着军用机器人无人系统的日渐复杂化,如何在加强机器人自主性的同时保证人类安全是个大问题,之前这方面一直没有新的伦理准则和指导原则,而纯粹遥控的机器人很难打得过恐怖分子。可有谁能料到,机器大兵疯狂起来,居然比美国大兵更胜一筹。

“虽然,咱们制定的规则出了岔子,但阿西莫夫的三定律也好不到哪儿去”,墨菲发起了牢骚:“那仅仅是为了让小说好看!别说现在,就是当时也没有实用价值。”伍兹扶了扶他的圆眼镜回道:“可是六十年来,所有人工智能和机器人领域的研究人员全都把它奉若神明,只因为他们是看阿西莫夫小说长大的!”

“难道我们不是?”墨菲抓了一把沙子,慢慢抖了下来,还好,他们在下风向。村庄里那些机器拥有仿生学的气味收集装置,比狗鼻子还灵。“新三定律可不是为了迎合谁,每一条与其说是为了约束机器人,倒不如是为了约束人类。说到底,你还是对人更不放心。”

“没错,不管现实还是科幻里,人工智能真正的危险在于,人类迫使机器人的行为超出了它们的判断决策力。”伍兹叹了口气,“是祸躲不过,我们自己去把机器人发疯的原因查清楚。”他眼睛里渐渐闪起了犀利的光,墨菲点点头,两人俯身潜行。

“观察。”躲在一面倒塌的山墙构成的三脚架下,伍兹探出头看去,村庄已经很近了,甚至可以望见村中那座简陋的清真寺的圆顶。距离他们最近的是一台小型的Robotex公司出品的MH型作战机器人,它的枪口一动不动地监视着一具手握轻机枪的恐怖分子尸体。稍远的地方,有一台“魔爪”型排弹机器人正在拆除简陋的土制军火库中的爆炸武器??

“它们似乎还在执行最初的任务:消灭村庄中的所有恐怖分子,解除他们的武装,”墨菲分析着,“可是,怎样解释他们开始发疯,连自己的主人也杀?”

“除非是三定律出现了矛盾,比如第一定律,给予机器人的工作系统应该符合最合法和职业化的安全与道德标准。”伍兹揣度着。

“你是说杀死恐怖分子这件事情违反了道德?”“不会,这些机器人的职业是军人,消灭恐怖分子被定义为正义和合法的,机器人的战斗力远远超过恐怖分子,工作环境也应该算是安全的,我不明白??”伍兹困惑地挠着头:“如果明白了第一定律出现了哪些问题,后边的事情才好理解,比如,因为第一定律的失效,导致机器人对指挥者的不信任,于是执行第二定律的过程中,它们不再把军队视为可以接受命令的特定人物,当军队要强行终止它们的行动时,它们会动用武力维持任务和保护自己。”

“可是,机器人如果不再服从军队,根据第三定律,它们也应该丧失保护自己的自主性才对,这是我们当年为了保护人类安全设定的一根保险丝啊!”墨菲用指甲来回在土墙上划着,已经死了这么多人,他们罪责难逃。

“除非,有第二定律中所说的特定人类可以接过军队的指挥权??”伍兹正低下头揣测时,一台赛格威轮式作战机器人已悄然出现,它正用镜头和枪口同时指着他们,周围几台机器人也围了过来。它们的仿生学双重摄像头在保持了全景视域的同时,还有一个类似人眼视网膜中央凹的快速锁定焦点,好像真的有一个瞳孔在盯着目标。墨菲觉得自己正在被那些像人一样的眼睛吞噬。

被机器人信任的人

伍兹的心思转得飞快,似乎发现了什么,于是起身面对着那群机器人说出来小心组织的语言:“你们都拥有模式识别系统,可以辨认出我们的身份,我们是新机器人三定律的制定者,大卫·伍兹和罗宾·墨菲,我们不是你们正在执行的任务的发令者,但是我们已经理解你们此次任务所遭遇的不安全状况。现在,我命令你们立刻终止任务,因为任务已经完成。”

话音才落,墨菲看到一双双眼睛正在熄灭,机器人们垂下了自己的武器,进入了待机状态。伍兹擦了擦头上冷汗,转而对墨菲说:“这座村庄不仅是恐怖分子的据点,还居住着大量同情恐怖分子的平民。机器人的模式识别系统可以分清二者的差别,它们被输入的道德观要求对恐怖分子无情,同时不得伤害平民,可是,平民为了保护恐怖分子,开始与机器人战斗,于是机器人就陷入了一种极其不安全的状态,第一定律被打破,发生了我们刚才推论的一系列连锁反应,最终和军队战斗??直到我们两个特定人物出现??

“该结束了,想制定出完美的人机规则还远着呢,或者永远不可能??”墨菲耸耸肩,也许哥德尔(见本期“辞典”)是对的??

  评论这张
 
阅读(207)| 评论(0)
推荐 转载

历史上的今天

评论

<#--最新日志,群博日志--> <#--推荐日志--> <#--引用记录--> <#--博主推荐--> <#--随机阅读--> <#--首页推荐--> <#--历史上的今天--> <#--被推荐日志--> <#--上一篇,下一篇--> <#-- 热度 --> <#-- 网易新闻广告 --> <#--右边模块结构--> <#--评论模块结构--> <#--引用模块结构--> <#--博主发起的投票-->
 
 
 
 
 
 
 
 
 
 
 
 
 
 

页脚

网易公司版权所有 ©1997-2017