将军说:“六十三个机
人都否认在这里工作过,当然,其中有一个在撒谎。”
“就这一差别,苏珊。”她站起
来,用结束谈话的
气说:“现在我要睡觉。过八个小时,我想和最后看见那个机
人的人谈一谈。并且,柯尔纳将军,如果多少由我来负责这件事情的话,从现在起,我要求有公认的权力全盘掌握这次调查。”
看来,格特不嫌麻烦,随
把晨服也带到超级基地来了,他正穿着晨服坐在那里。苏珊走
来时,他放下了指甲刀。他用温柔的声音说:“我多少已经料到,您会来的。我想,您对这一切都
到讨厌。”
心理学家不满地嘟嚷着:“本应该告诉我。《
柯尔纳皱起脑门儿,抬起手前额:“我们在使用先前那
机
人时碰到了困难。您知
,我们的人经常在有
烈辐
的情况下工作。当然,这是危险的。可是已采取了适当的措施。自从我们开始工作以来,这里只发生过两起事故,而且都不是致命的事故。但是,不可能把这些向一个普通的机
人讲明白。第一定律讲——我引用原话——‘机
人不得伤害人,也不得见人受到伤害而袖手旁观。’”
“不是摒弃掉,是修改一下,”柯尔纳解释说“已制造的这些正电脑,只输
了第一定律的前一
分,即:机
人不得伤害人。就这些修改。因而,它不必
迫自己去防止人受到外界因素的伤害,比如说伽
线的伤害。
格特博士,我是否正确地阐述了这个问题?”
“相当正确。”数学家赞同他说。
“把六十三个全都毁掉,”心理学家、冷冰冰地说“就这样把事情了结掉。”
“那么,”她毫不客气他说“我需要事实。超级基地从这些修改过的机人那里得到了什么好
?有什么必要把它们
成这样,将军?”
“的确是这样。”
苏珊冷冷地问:“不怎样,您是否问了六十三个机
人中的每一个,谁是谁?无疑,您是被授权的喽。”
制造了多少?”
“但是,我们必须要有另一机
人。也就是一些NS-2型机
人,即《内斯特》①。在制造它们时,对第一定律作了些修改。为了保密,所有的“内斯特二型”都没有
厂编号。而这些己
修改了的第一定律生产
来的机
人,就和一批正常的机
人一起
付到这里,当然,对这些机
人已输
严格的指令:永远不得对没有被授权的人讲到它们被修改的一事。”他颇
为难地一笑“现在这一切却变得对我们不利了。”
将军带着一权威的
气
来说:“我想把这桩小事解释一下。无须我告诉您,卡尔文博士,在地球上总是有人
烈地反对机
人。在这个问题上,政府唯一可以利用来对付原教旨主义的激
派的,就是制造
来的机
人总是严格地遵守第一定律这一事实,因为这一定律使机
人无论在任何情况下都不能伤害人类。”
“我们曾试着说服机人。但它们的论
是:一个人暴
在伽
线下,会危及他的生命,尽
他可以安全地在这
情况下呆上半小时而不受伤害。它们还讲:假如这个人忘记了时间,因而呆了一个小时呢?它们不能让人冒险这样
。我们指
,机
人这样
是冒自己的
命危险而希望又微乎其微。但是,保护自己只是机
人学的第三定律——而第一定律和人的安全总是摆在第一位。我们向它们下过命令,我们严厉地命令它们:不
发生多大代价的事情,只能停留在伽
线之外。但是遵从命令只是机
人学的第二定律,第一定律和人的安全仍然摆在第一位。卡尔文博士,我们只有或者不要机
人,或者想
办法改变一下第一定律。我们
了自己的选择。”
“你们想找的那个机人有磨损的痕迹吗?据我所理解,其它都是崭新的。”
除了有两个小时带着满腹怨恨恼怒迷糊了一会儿之外,苏珊本没有睡着。在当地时间七
整,她敲了
格特的房门,发现他也没有睡。
“这是首要的,卡尔文博士,每当我们的人之中有谁必须短时间暴在中等程度的伽
线下时,虽然这
程度的辐
不会引起生理反应,但离他最近的机
人就会冲上去,把他拽开。如果伽
线场非常微弱的话,机
人就要把这个人拽开,而工作也就不可能
行了。除非把所有的机
人都赶到别的地方去,才可能继续工作。需要伽
线稍微
一
,机
人就
本没法挨上这个人,因为它的正电
脑在伽
线下也会毁掉。这样,我们就可能失去一个造价昂贵、而又非常需要的机
人。”
“这个了麻烦的机
人上个月才送到。它和刚送到的两个,是我们所需要的最后一批。上面没有任何明显的磨损痕迹。”他慢慢地摇摇
,
睛里又显
非常沮丧的神情。“卡尔文博士,我们不敢放这艘飞船离开。如果存在不符合第一定律的机
人的消息一旦传开来…”看来他只好说到半截把话结束了。
“而这就是你们的机人和一般的NS-2型机
人的唯一差别吗?就这一
差别吗,
特?”
“不多,这是据政府的订货。而且不允许
漏秘密。除了有关的
级人士之外谁也不知
。您没有包括在内,苏珊。我与这毫不相
。”
“我不能相信,”卡尔文博士说“为此就可以把第一定律摒弃掉。”
格特撇了撇一边嘴角:“您的意思是要把每个价值三万元的机
人毁掉。我恐怕机
人公司未必会同意。苏珊,在我们毁掉任何东西之前,我们最好先作一番努力。”
“那么,我很抱歉。但也只能如此。当超级基地要求我们来的时候,我就知,准是修改了NS-2型机
人
了问题。但是能
些什么呢?在来这里的路上,我不能把情况向您透
,虽然我想跟您说。但是我必须保密。关于修改一事是最
机密。”