虚阁网　>　艾西莫夫　>　裸阳　|　上页　下页

五二

“让我来引述一下第二法则：‘除非违背第一法则，否则机器人必须服从人类的命令。’所以，你看，他们应该不听从我的命令才对。” 　　“这实在很可笑。机器人并不知道──” 　　“哈，对了！”贝莱倾身向前，“现在让我们再重复一遍第一法则应该有的规定：机器人不得在明知故犯的情况下伤害人类，也不得在明知故犯的情况下，因为不采取行动而使人类受到伤害。” 　　“这个大家都了解。” 　　“我想一般人并不了解，否则大家就会发现机器人可以杀人。” 　　李比脸色发白：“你疯了！神经病！” 　　贝莱望着自己的指尖，说：“我想，机器人可以胜任单纯的工作，一件对人类无害的工作，没错吧？” 　　“只要你命令它去做。”李比回道。 　　“对，当然，这个机器人会听命行事。你也可以命令另外一个机器人，它同样听命行事。也就是说，它们都能听命执行某件对人类无害的工作？” 　　“对。” 　　“但如果两件完全无害的工作，凑在一起却等于杀人呢？” 　　“什么？”李比的脸皱成一团。 　　“我要你以专家的身分发表意见，”贝莱说，“让我们来假设一个情况，假设有人对一个机器人说：‘你将这种液体倒一点在某地的某一杯牛奶里。这种液体是无害的，我只想知道它对牛奶会有什么作用，等我知道了，这杯牛奶就会被倒掉。你做完这件事以后，立刻忘了它。’” 　　李比仍然愤怒地皱着脸，没有出声。 　　贝莱继续说：“如果我命令机器人把一种不明液体倒进牛奶，然后把这杯牛奶拿给一个人喝，第一法则会迫使机器人问：‘这是什么液体？会不会伤害人类？’就算我向它保证这种液体是无害的，机器人也可能因为第一法则而犹豫，拒绝把这杯牛奶拿给人喝。可是，如果我跟它说这杯牛奶要倒掉，这就和第一法则无关了，如此一来，机器人岂不是肯定会听我的命令去做吗？” 　　李比怒视着他。 　　贝莱说：“现在，你再想想，原本已经有个机器人先把不明液体倒进牛奶里；另一个机器人并不知道牛奶被动了手脚，于是他完全无辜地将牛奶拿给人喝，然后，这个人就死了。” 　　“不！”李比大叫。 　　“为什么不？这两种工作本身都是无害的，只有凑在一起时才会杀人。你认为不可能发生这种事吗？” 　　“凶手应该是这个下命令的人！”李比吼道。 　　“如果你要诡辩的话，你说的没错。可是这两个机器人却是直接的凶手，是凶案的行凶工具。” 　　“没有人会下这种命令的。” 　　“有一个人会，而且他已经下了。谋杀古鲁厄的方式一定就是这样，我想你已经听说这件事了。” 　　“在索拉利世界，”李比喃喃说道：“发生任何事大家都会知道。” 　　“那你一定知道，古鲁厄是在餐桌上当着我和我奥罗拉世界的同事奥利瓦先生的面被毒害的。你能说出别的方法把毒药弄进古鲁厄的嘴里吗？当时在古鲁厄的业地上没有其他人类。你身为索拉利人，应该会同意这一点。” 　　“我又不是侦探，有什么好同意的？” 　　“我已经提供你一个看法了，我想知道这个看法可不可行，我想知道两个机器人可不可能分别执行一种原本各自独立且无害的工作，但凑在一起的结果却造成谋杀行为。你是专家，李比博士，这到底可不可能？” 　　李比被逼得有点没办法了：“可能。”他的声音低得几乎听不见。 　　贝莱说：“那就好。第一法则原来也不过如此。” 　　李比望着贝莱。他那下垂的眼睑缓缓抽动了两下，一直交互紧握的双手松开了，但手指仍维持着原来的模样，好像依旧和一只不存在的手交握着似的。接着，他把手心向下，放到膝盖上。直到此时，他的手指才真正放松。 　　贝莱心不在焉地望着他这些动作。 　　李比说：“你的看法在理论上是可能的，但只有在理论上才可能！你不要如此轻易就摒弃第一法则，地球人。你必须很巧妙地下达命令，才能避开第一法则的限制。” 　　“说的有理，”贝莱说，“我只是一个地球人，对机器人可以说是一无所知。我刚刚提的那些只是举例说明而已。如果换作你们索拉利人，下达命令的方法一定更微妙，效果也更好，我很确定这一点。” 　　李比可能根本没听贝莱在说什么。他自顾自地大声说：“如果机器人会受到人类操纵而伤害人类，这只表示我们必须再扩张机器人的正电子脑。也许有人会说，我们应该让人类变得更善良，不会做这种事，但这是不可能的。所以我们才要让机器人更进步。 　　“我们不停的在进步，我们的机器人变化越来越多，更专业、能力更强，而且比上一个世纪更不具伤害性。今后的一个世纪里，我们还会更进步，也许有一天，我们可以把正电子脑直接置入宇宙飞船的仪表板内，那我们就不需要机器人了。这是一种专业化，但我们也可以使单一机器人兼具多用途的功能，我们甚至可以制造一种能更换肢体的机器人，让它们做各式各样的工作。为什么不？如果我们──” 　　贝莱打断他：“你是索拉利世界唯一的机器人学专家？” 　　“别傻了。” 　　“我只是想知道罢了。像达尔曼博士就是唯一的……呃……胚胎工程师，另外只有一个助手而已。” 　　“索拉利世界的机器人学专家有二十个以上。” 　　“而你是其中最优秀的？” 　　“没错。”李比面不改色地说。 　　“达尔曼曾和你一起工作？” 　　“嗯。” 　　“据我了解，”贝莱说：“达尔曼去世前，计划跟你拆伙。” 　　“没那回事，你怎么会这样想？” 　　“我知道他并不认同你那种不结婚的想法。” 　　“他也许不赞成，毕竟他是个标准的索拉利人，但这并不影响我们之间的工作关系。” 　　“那换个话题吧。你除了发展新型的机器人之外，也制造或修理现有的机器人吗？” 　　李比回道：“制造和修理大都是机器人的工作，我的业地上就有一个很大的制造工厂及维修厂。” 　　“机器人常常需要修理吗？” 　　“很少。”

虚阁网(Xuges.com)

上一页 回目录 回首页 下一页