画地为牢：机器人三定律的来龙去脉

2023-06-27 理论教育版权反馈

【摘要】：孙悟空画圈是为了保护师父，邓小平同志画圈是为了经济崛起，卡-5画圈却是画地为牢、作茧自缚。只是阿西莫夫影响太大，三定律慢慢形成一种约定俗成。巧合的是，阿西莫夫第一次提出机器人三定律的作品就是《转圈圈》。此后，阿西莫夫又添加了第零定律：机器人不得伤害人类整体，或坐视人类整体受到伤害。他在科幻方面的成就，是开创性的看到这里，有的读者也许会腹黑阿西莫夫一把，当年他是为了写故事骗稿费才编纂了机器人三定律吧？

●王元/文

读罢科幻小说《卡-5的圈》，我的脑海中立刻浮现出两个在地上画圈的故事：第一个来自《西游记》，孙悟空担心师父被妖怪诱捕，用金箍棒在唐僧周围画了一个圈，百妖莫进；第二个则来自歌曲《春天的故事》，“有一位老人在中国的南海边画了一个圈”。孙悟空画圈是为了保护师父，邓小平同志画圈是为了经济崛起，卡-5画圈却是画地为牢、作茧自缚。我们不禁要问，同样是画圈，差距怎么这么大呢？

自从阿西莫夫创造机器人三定律，日后所有机器人题材写作者，要么绞尽脑汁在三定律的基础上行文，要么干脆忽略三定律天马行空。二者都无可厚非，三定律本来就是一种文学创意，并非不可撼动的物理定律，更不应成为写作者的镣铐。只是阿西莫夫影响太大，三定律慢慢形成一种约定俗成。显而易见，卡-5就是一个视三定律为圭臬的机器人。巧合的是，阿西莫夫第一次提出机器人三定律的作品就是《转圈圈》。

笔者在前文曾提到阿西莫夫机器人三定律：

第一定律：机器人不得伤害人，也不得见人受到伤害而袖手旁观；

第二定律：机器人应服从人的一切命令，但不得违反第一定律；

第三定律：机器人应保护自身的安全，但不得违反第一、第二定律。

此后，阿西莫夫又添加了第零定律：机器人不得伤害人类整体，或坐视人类整体受到伤害。其他三条定律都是在这一前提下才能成立。

这几句话看似简单，甚至有些车轱辘，但它们约定的逻辑关系足以限制机器人的行为，最重要的是，突出人类的统治地位。这个文学小说中的机器人定律，也影响到现实生活中许多机器人专家，遗憾的是，人们目前并没有发明出真正、完全践行三定律的机器人。一方面，机器人发展看似日新月异，但实际进展并不乐观，从人工智能到弱人工智能，从弱人工智能到强人工智能，都是一段很长的路。另一方面，假使一个机器人拥有足够的运算能力能够理解并执行机器人三定律，那么它同时也将获得打破三定律的可能。

回到《卡-5的圈》中，作者也设定了几则非常有意思的定律，并约定了优先级别：“玉琴星上的机器人所遵守的机器人定则分为数个优先级。服从主人指令的优先级低于救助落难的人类，这种优先级设置保证了主人在下达危险指令时机器人不会因为逻辑混乱而宕机，它会果断制止主人的不适当行为。不过玉琴联合政府强制规定，当紧急情况时，机器人以政府机构的指令为最高优先级，这一优先级压制其他所有机器人定则。”整篇小说正是在这几则定律之上衍生。可以说，没有这些定律，故事也就无从谈起。设定往往左右故事走向，是科幻小说有别于其他类型的特色与魅力所在。

■年轻时代的阿西莫夫。他在科幻方面的成就，是开创性的

看到这里，有的读者也许会腹黑阿西莫夫一把，当年他是为了写故事骗稿费才编纂了机器人三定律吧？

画地为牢：机器人三定律的来龙去脉

相关推荐