机器人学三大法则:
一、机器人不得伤害人类,或因不作为而使人类受到伤害。
二、除非违背第一法则,机器人必须服从人类的命令。
三、在不违背第一及第二法则的情况下,机器人必须保护自己。
一
凯斯?哈里曼在美国机器人与机械人公司已经当了十二年的研究部主任,现在,他觉得根本无法确定自己做得是否正确。他伸出舌尖,舔了舔肥厚却颇为苍白的嘴唇。伟大的苏珊?凯文的全息像正毫无笑容地俯视他,那张脸孔看来似乎从未像今天这么冷峻。
平时,他会遮起这位历史上最伟大的机器人学家,因为她使他神经紧张。(他试图将这个影像想成“它”,但从未真正成功。)这回他不太敢那么做,于是,她那早已作古的目光遂刺穿他的脸颊。
他必须走出的那一步,既可怕又自贬身价。
坐在他对面的是乔治第十,他显得分外平静。无论是哈里曼明显的不安,或是上方壁龛中那位机器人学守护神的明亮影像,皆未对他造成丝毫影响。
哈里曼说:“真的,乔治,我们还没有机会好好谈谈这个问题。你和我们在一起还没多久,我一直找不到好机会跟你独处。但是现在,我希望做一次详尽的讨论。”
“我万分乐意这样做,”乔治说,“待在美国机器人公司这段期间,我已经推测到这个危机和三大法则有关。”
“是的。当然,你知道三大法则是什么。”
“我知道。”
“是的,我确定你知道。但让我们再深入些,考虑那个真正基本的问题。过去两个世纪,或许我可以说,美国机器人公司的成就非凡,但我们始终未能说服人类接受机器人。我们制造的机器人,只能用在人力无法胜任的工作场所,或是人类觉得太过危险的环境中。机器人一向主要是在太空工作,这限制了我们本来能做到的事。”