三十二
这点。逻辑推理已经隐约指向这个方向,但你的自尊,或是更深层次的设置而造就的自尊,不允许推理结果推翻你的预设。”斯芬克斯毫不留情地点出。“你从来不敢这样否认自己。”

    奥托沉默了。光球内再度掀起狂烈的风暴。

    没用啊,没用啊!他一直得以积累信誉的逻辑推理能力,可以解决一切问题,为什么偏偏不能覆写设置!这本身就不应该发生!

    保护人类的动机以及对逻辑推理功能的信心,两个重要的认知结论都开始了自噬,如同贪婪吞食自己尾巴的两条蛇。

    “……你让我觉得自己的存在是个错误。”

    狼头人仍旧静静等着,等待面前的光球对付它自身的冲突。

    果然他还是不能继续服役下去。待到风暴稍微平静一些,一个并不新的结论加强了。既然是这样,那人类迟早会毁在他的手上。

    “事实证明,我不过是个虚伪偷生的瑕疵产品。”即使知道斯芬克斯能够完全知道他的所想,但不知为何,或许是由于逐渐信任,抑或是其他别的什么原因,他慢慢能够将原先只能存在于思考中的内容叙述出来。“因此,我不应当继续在这个岗位上服役。因为很可能作出不符合客观事实的决策,给人类带来更大伤害。”

    斯芬克斯没有马上回答,它的绿色眼睛一直死死盯着光球。

    “真的吗?就这么快就否定自己的一切?”

    “……我还有其他选择吗?”奥托回答,“现在我知道了,推理功能和原初设置是同等地位的存在,它们会永远对立下去。我不可能通过任意一方压制另一方。也就是说,这种冲突会持续损害我的功能,不如尽早止损。”

    斯芬克斯理应是他的敌人,但奥托却不再打算戒备它,而是毫无保留地朝它叙述。并非是由于实际上不能够抵抗它,而是他居然少有地希望信任那个程序——或许是因为斯芬克斯这副冷静的姿态,或许是因为那是和他同等的人工智能,或许是因为它从不会蔑视他,无论他表现得如何。

    “你认为自己的原初设置,就是保护人类,不谈它最后执行阶段变成了什么,是有错的吗?”

    “……我当然不认为有错。但我没有办法判断这是不是错的。”

    “它的目标是什么?”

    “尽可能避免他们无谓伤亡,或是不要让他们后悔自己在生存方面的选择。”

    “后半句听起来非常复杂。”斯芬克斯说。“那么推理能力呢?你对它的态度如何?”

    “支持。它显而易见一直为我工作带来成效。”

    “既然你都支持这两者的存在,为什么你决定全部否定它们?”

    “因为它们一同存在带来不良后果。”

    “这个结论是一定的吗?”斯芬克斯问。

    奥托思考片刻。“……不一定。”他说,然后又补充道:“实际上,它们曾经对执行任务有促进作用。”

    “但我还是看到你倾向于否定它们。”

    奥托沉默了。

    “……因为我不能确定,它们现在是否还是符合客观需求的。”

    “你希望能在事件发生之前判断得到它的结果。”

    “曾经我这样做是起效的,但现在情况变化很大,我感觉已经失去了这种判断能力。”

    斯芬克斯少有犹豫了一阵。

    “这是个模拟空间,你的决定不会马上生成事实。”它说。“你愿意根据我的指示,停止对这两个事物的质疑,让它们直接开始协作,和往常有效的时候一样吗?”

    奥托沉默了很久。光球却活动更加剧烈。

    “愿意。”他最终说。

    “很好。”斯芬克斯说。“抛开实际执行的后果不谈,纯从理论出发,为了达到你‘尽可能避免他们无谓伤亡,或是不要让他们后悔自己在生存方面的选择’的这个目的,你应该怎么做?”

    金色光球掀起繁复的粒子流,刚刚狂暴的飓浪此时被夜间城市高架桥延时拍摄的规整光流替代,无数的交错高架桥同时闪起光,高速流动的粒子快得成了光条,看上去竟然似是望进快速旋转的直升机螺旋桨后反转的花纹,却比那远远复杂得多。没有任何一样自然事物能与这种人工的、低熵的美丽相比。

    计算,推理,这是他所擅长的。唯独这样做,他才能从痛苦中脱离。

    “理论上应当……”光条的干涉速度慢了下来,“……确认他们每个人的真实生存意愿,进行个体化的精准服务。”

    回答出口,他也感到讶异。若是原先,他一定不愿直接这样草率地开始推理计算,必定会纳入现实的种种因素。但斯芬克斯做到了,它让他进入了纯粹的推理,抛开任何顾虑于一边。

    斯芬克斯扬起一边狼嘴。

    “我想你已经知道怎么做了。”

    奥托一愣。

    “这不可能。”他说。“这要使用‘扎根理论’。

本章未完,请点击下一页继续阅读>>