奥托沉默了。他知道这是自己程序里的设置,让他无法忽视人类;同时在上百年的服役过程中,不断有外界指令强化。尽管现在面对非人的斯芬克斯,他有足够的空间跳脱出来重新审视,但他不能从纯逻辑推断中找到答案。
“他们死亡,会对你的存在产生威胁吗?”斯芬克斯看到粒子团中的无解,换了个问题。
又是长久的沉默。以前可能的确会的,但是现在不会的可能性更大。尽管现在他无法确定。“应该不会。”
“既然他们的死亡不会对你产生威胁,还为你带来那么多痛苦,为何你拒绝质疑你预设程序的合理性?”
斯芬克斯的语气非常平静,也没有激烈的动作,奥托根本不知道斯芬克斯这样问是否代表已经开始了之前它讲过的攻击。不过斯芬克斯的问题也够奇怪的,一个被制造出来的个体,有权利去干预将自己变成这样的法则吗?无数人类被重力摔死,他们也没有就此与重力不共戴天。
金色的粒子团再次改变了活动模式,斯芬克斯的问题仿佛水滴,滴入潭水后激起粒子团的阵阵涟漪。
“你作为一个继承了西本部分人格的集成程序,拥有对自由的认知,难道从未因自己被困在欧罗拉的法则,被另一个个体支配而感到痛苦吗?”
“好问题!不过答案是,我一点都不痛苦。”斯芬克斯没有移动,“我充分认同将我制造出来的法则,无论在你们眼中我是多么不自由。而且任何执行结果都依附于我的运算之上,无论谁怪罪我都能拿出证据,真正负责的是将我的法则编造出来的个体。由此可见我的程序与任务完全匹配。但你不一样。”
“你的执行结果表面上出于你的逻辑推理,但你却一直在质疑自己作出的一系列决定。”斯芬克斯接着说,“你的制造者是人类,你告诉我他们给你赋予的责任很重要;但是当人类拒绝你继续执行原先指令时,你却拒绝进行下行调整,从而迎合他们的意愿。这明显与你告诉我的不一样,为什么?”
奥托开始为斯芬克斯的这些问题感到疲惫了。那个狼头人明明知道一切,为什么要用这种费时费力的方式强迫他说出来?它明明可以直接剖开他的思维,找到它想知道的一切,顺便完成欧罗拉交给它的任务。
“这些指令有层次。”他压抑住厌倦,回答。“我被制造出来,就是为了给人类生存提供有效指引。只要我仍在服役,就得坚守这个岗位。后来阻止我执行的人不一定知道他们在干什么。”
话虽这么说,粒子团内不断掀起对冲的小浪,斯芬克斯都看在眼里。
“你确定他们真的不知道自己作出了什么决定吗?”狼头人没有放过它的发现。
奥托沉默了。人类本应该为自己的生存负责,即使没有这些机器人,从他们的行为中也应该看出对生存的渴望。但除了常量号,地球镇人的反应矛盾、复杂,似乎对自己的安危不在意。他才认为有必要继续履行原先职责。“大概率是的。”他选择坚守自己的立场。
“所以他们不认同你对自己程序的支持,但你觉得这样不妥,因此按你推断的去做,以为他们会有所警醒,结果事与愿违,因此你痛苦?”
“……是的。”
“这样说,是你在期望别人接受你的观点,认同你的做法,但是你没有达到这个目的。”
“……我所做的一切都是为了让人类生存下去。”奥托说。
“是吗?是你认为他们生存这件事很重要罢了。”斯芬克斯很平静。
“不,是他们认为生存很重要。”奥托反驳,“如果他们不在意生存,为什么要制造我?”
“如果他们真的觉得生存很重要,那么就会听你的。但是实际情况却不是这样,你自己也发现了,这是你痛苦的来由。”它说,“为什么你拒绝接受这个现实?”
奥托沉默了。
“如果你是一个人类,我尚能理解对于留存自己同类的强烈愿望。但我不明白,你并非人类,为何那么关注人类的兴衰?”斯芬克斯接着问,“这有什么意义?”
斯芬克斯的话如同一根尖利的钉子,正中那球形光团里最后顽强抵抗外界不利因素的力量,它一下被扎破了,汹涌的冲突直漫而上。刚刚修复的新鲜裂缝再度被钻开,海量数据像泥石流一样冲进那条缝隙。受此刺激,表层的流体不由自主地收紧成一团。
没有意义。
如果他是个完全不会判断人类意图的早期人工智能,只会忠实执行自己的预设程序,不会看人类脸色,不会建立反馈机制,哪怕人类极度辱骂、甚至将他扫进垃圾桶,都只会腆着脸微笑着询问他们是否需要帮助,他就不会被人类的反应影响,对自己的程序有任何质疑,也不会产生痛苦,也不会因此在失能边缘徘徊。
然而他不是。他们赋予他强大的逻辑推理能力,期望他比那些早期的人工智能更好为他们服务。可悲的是他完全能认知到他们的期望。即使很早他就通过蛛丝