础理论可以提供进一步的设计,否则它所耗费的时间和人力就不止于此了。标准化的基础理论牵涉到机器人的三大法则。第一法则你刚才已经引述过了,第二法则是:‘除非违背第一法则,否则机器人必须服从人类的命令。’而第三法则说:‘在不违背第一法则及第二法则的情况下,机器人必须保护自身的存在。’你明白吗?”
一直在旁边听他们谈话的R·丹尼尔这时插嘴道:“伊利亚,如果你不介意的话,我想跟盖瑞裘博士确定一下他的意思。先生,你的意思是说,凡是在制造机器人的时候,如果不遵照这三大法则来设计其正电子脑,那就必须另外再建立一套新的基础理论,而建立一套新的基础理论将需耗费很多年的时间?”
盖瑞裘博士一副谢天谢地的样子。“对,对,我所说的就是这个意思。这位先生是…”贝莱很谨慎地为他介绍:“盖瑞裘博士,这位是丹尼尔·奥利瓦。”
“你好,奥利瓦先生。”盖瑞裘博士与R·丹尼尔握了握手。“据我估计,要发展出一套有害性正电子脑的基础原理也就是说,这种正电子脑中不容许有三大法则的基本前提存在并且能够动工建造与现代机器人类似的机器人,大约需要五十年的时间。”
“难道这种事从来没有人做过吗?”贝莱道:“我是说,博士,我们制造机器人也有几千年了,在这么长的时间里,难道就没有某个人或某个团体可以花上五十年来做这种事吗?”
“当然可以,”盖瑞裘博士说:“但是,这种事并不会让人想要去做、喜欢去做。”
“这说法无法令人信服。人类在好奇心的驱使下什么事都做得出来的。”
“但它却没有促使人尝试去做出有害性的机器人。贝莱先生,人类具有强烈的科学怪人情结。”
“什么?”
“科学怪人。起源于中古时期一本很流行的小说,小说当中叙述一个机器人对创造它的科学家产生敌意,并且加以攻击。我本身并没有看过这本书,不过这不重要。我想说的是,不具备第一法则的机器人从来没有制造过。”
“甚至连制造它的理论也不存在吗?”
“据我所知是没有。而我…”他有点不好意思地笑道:“我也算是博学多闻了。”
“具备第一法则的机器人不可能杀人?”
“绝对不会。除非是在完全意外的情况下,除非是为了拯救两个人或更多人而有此必要。在这两者之中的任何一种情况下,电子的电位会增强,最后把正电子脑的结构破坏到无法复原的地步。”
“好,”贝莱说:“这一切只是代表地球上的情况,对不对?”
“对,当然。”
“那么外世界呢?”盖瑞裘博士的自信似乎顿时溜走了一部分。“噢,亲爱的贝莱先生,我无法说我自己有这方面的知识,但是我相信,如果他们已经设计出有害性的正电子脑,如果其数学原理已经成立了,我们会有所耳闻的。”
“是吗?好,接下来我要提出另一个想法,盖瑞裘博士,希望你不要见怪。”
“不会的,没有关系。”他无助地看看贝莱,又看看R·丹尼尔。“毕竟,这件事如果像你所说的那么重要的话,我很乐意尽力帮忙的。”