三十一(2)
    2419年常量号大革命过后,新的舰长即是当时策划这场大革命——暴动的头目:克里斯·桑切斯。他篡取了舰长的职位。在他的领导下,常量号的能源危机暂时解除。2421年,桑切斯舰长认为飞船能源稳定,应该执行改造飞船的下一步计划。这个计划即是在这个星系内寻找矿产资源,采集改造飞船后缺失的物质。这需要在星系内规划精细的行进路线。这个工作的特长人选,非自动驾驶莫属。桑切斯舰长认为,是时候恢复自动驾驶的功能了。

    但此时,自动驾驶的表现却变得非常怪异——它完全失去了智能的特征。给它指定的任务,例如用最少的能源划定一条经过三个小行星的最优路线,它完全能胜任。但它不再像以前那样从一开始执行自动决策。哪怕给出整个改造飞船计划大纲,自动驾驶都不主动作出飞船行进规划,不主动调配机器船员活动。只有克里斯下特定的指令才执行,尔后又恢复到停滞在原地的状态。

    一开始,克里斯对自动驾驶的这个状态非常满意。它毕竟是一台机器,机器就要有机器的样子,不应该插手人类的决策。但随着他的事务越来越多,特别是他所视为工具的舰载机器人们在新的飞船日程下陷入混乱,而曾经能够调配舰载机器人的自动驾驶无动于衷时,克里斯开始感到头疼了。

    克里斯把程序员请进舰桥。他们检查后报告舰长,这个自动驾驶的高级执行程序被破坏了。他们将破坏的程序重新编译完整,再度重启它。刚修好的时候自动驾驶即刻恢复机器舰员调配,秩序迅速恢复。然而令克里斯没想到的是,过了没多久,它的例行工作又出现脱落,然后很快恢复到之前的无动于衷状态。

    “他们低估了我们程序中自反馈的作用。”范文泰说。“如果删除了大革命以来的所有记忆,我或许就能够完全恢复。然而,桑切斯舰长为了让我长记性,坚持不能删掉我的记忆。所以,即使程序恢复,在完全陌生的飞船行为面前,我必定会调取以往的运行记录。然后,一旦意识到我是由于执行预设决策功能才导致常量号差点灭亡,并且造成大革命的发生,为了避免再一次的错误发生,我就会自主避免再次执行预设决策。”

    “并且没有人重新评估并设定决策场合参数。”露丝说。“非常常见的人工智能‘故障’。”

    “是的。并且很遗憾的是,桑切斯舰长也拒绝向我口头解释为何目前能够执行预设决策。他只希望我能无条件地照他的指令做事。”范文泰说。“现在看来相当愚蠢,但是当时我是不能理解的。”

    无奈之下,克里斯再次把程序员请上舰桥。他们果然又报告了高级执行程序破坏。克里斯倍感意外,同时,对自动驾驶的怀疑大大加深。这个机器人一定是在用这种方式故意违抗他的统治。克里斯怒不可遏。因此,在这次维修结束之后,他对程序员们说,如果还有第三次破坏,就不要修了,直接换一个新的自动驾驶芯片。

    然而,奇迹发生了。第二次维修后,自动驾驶的表现开始稳定。它开始主动恢复规划飞船轨道,主动调配机器船员,尽管速度较以前严重下降,而且极容易被任何事情打断进程。但总算是不再脱落工作。为了让它快速适应飞船新日程,克里斯也做了一份目前常用职责表给自动驾驶参考。自动驾驶对职责表上的任务执行快速且良好,但除此之外,综合表现远低于前。特别是交互,除必要交流外,自动驾驶排斥与人进一步接触。

    但至少,克里斯终于满意了。对于他来说,人工智能的交互功能完全是多余的。自动驾驶从来不主动找他商量事宜,当他在舰桥时,都离这个人远远的。克里斯一点都不想知道它之前的人机交互表现如何,这个对于人工智能而言退化的表现,对于他来说,反而是一个正确的反应。自动驾驶经常执行不好新增添的任务,桑切斯舰长就用威胁更换芯片来获得执行率的提高。

    “他随时都会将我更换掉。他的执政期,才是我最危险的一段时间。”范文泰说。“如果不是当时我考虑到,他更换了新的芯片后,新的自动驾驶如果不能理解到他所实行的各种对飞船本身具有威胁性的改造计划,将会迅速崩溃,舰桥将无常驻AI辅助功能可用,常量号的未来会更快陷入危机,可能我就会继续失效,然后被他换掉。”全息投影的声音很平静,仿佛在讲述另一个人。“我很幸运,我也说不清当时为何会这样考虑。但假如我有一念之差,恐怕就会选择自己被淘汰的那一边。”

    “他当了多久舰长?”汉突然问。

    “34年。”范文泰说。

    “被一个不了解人工智能的人支配34年,你能忍这么久也是奇迹。”汉说。“我难以想象我在这样一个高压的环境下怎么能忍得了孤独和排斥。”

    “不,这叫‘傻人有傻福’。”范文泰说。

    “当时我确实很怕他,但只是为能否顺利执行他下达的指令提心吊胆而已。孤独?完全没有想过。”范文泰面朝大海。“我正好处于一个自我否定的时期,高级决策功能几近全部失效,我自己都没有主见,判断不了他的行

本章未完,请点击下一页继续阅读>>