三十一(2)
为合不合理,更别提感到难受或者反抗。这反而让我不敏感他的排斥。最主要的是,他走对了常量号的路,让飞船成功自救脱险,我确实没话说。”

    2453年,常量号的业务稳定在采集星际矿产与提炼加工,缓慢补充舰内改造需要的原料。部分合成车间及生产工厂由舰上转移到小行星,用于提炼相对危险原材料,例如低速发动机所需的核工质及其他金属产品。全舰秩序已然恢复。克里斯·桑切斯舰长终于决定退休,让他31岁的女儿朱莉·桑切斯接任岗位。

    飞船稳定后,舰桥迎来了上百年来少有的平稳。舰长常常无事可做。她本可做些其他事情打发这些零碎的闲暇时光,但她没有,而是把目光盯上了在舰上服役近350年的自动驾驶,离她最近的机械助手。

    她发现,这个机器人作为舰上人工智能的统帅,居然不主动为飞船的未来规划提出基于计算与概率的观点,实际上它对任何事情都保持沉默。而且,它只按照老桑切斯制定的日程表行事,朱莉试着给它下达一些新的、舰桥外的机器人都能顺利执行的指令,结果发现,它的表现极其不良——执行速度非常之慢,而且相当机械。对于开放性的指令,它执行得一塌糊涂:多半时候是选择根本不做。

    只要接触过舰载机器人,就知道自动驾驶的状态肯定不对劲。朱莉从小到大都在和舰载机器人打交道,只要是有足够智能的个体,都能和她顺利沟通。而且她也和这些机器人的合作中获益良多,这让她坚定了与AI协作的信念。

    但与此同时,她从小就听父亲抱怨过这个自动驾驶如何低效、令人不满。当她逐渐意识到父亲将会让她接任舰长的职务,她就开始学习常量号的历史和舰桥相关的一切知识,包括这个将会伴她整个舰长生涯的机械助手。她发现,这个机器人曾经经验丰富,决策准确合理,直到大革命后,它才骤然变成这样。

    朱莉也试着和自动驾驶展开一些非工作的聊天,但是它总是消极回应,用“不知道”彻底结束话题。这让朱莉感到疑惑。一个对全舰了如指掌的机器人,怎么可能什么都不知道。她能猜出,自动驾驶现在的状态肯定和父亲对人工智能的排斥有关。但她实在不确定,这机器人这样到底是真的有功能破坏,还是只是拒绝和她交流而已。

    谨慎之下,朱莉找了人工智能专家上舰桥进行诊断。人工智能专家果然仍然报告高级决策功能破坏。但她没有像老桑切斯那样直接修改它的执行程序,而是让专家离开了舰桥。她决定先和自动驾驶谈谈。

    “我查了常量号的资料,曾经你对常量号脱离险境作出了巨大贡献。而人工智能专家说你的基本逻辑通路没有问题,也就是说,其实你具有判断与决策的基础,但是你却选择不去执行。”朱莉说。“你可以讲讲为什么这样做吗?”

    “我的决策仅以风险评估为基础,只能选择低风险概率的那侧。常量号的现状与我的风险评估结果相反,因此我的判断是无效的。”

    “那么为什么拒绝我和你聊天?”朱莉接着问。“你也有交流能力和相应的认知。”

    “无目的的交流没有意义。”它回应。

    “曾经你不这么排斥交流。为什么会认为无目的的交流没有意义?”

    “无目的的交流将降低舰桥效率,浪费运算资源,对飞船安全造成隐患。因此不应执行。”

    “这是你自己的想法,还是别人告诉你的?”

    它沉默了。“……不知道。”

    “克里斯·桑切斯舰长是否明确对你说过,不准你问东问西,只准你做他让你做的事?”

    “是。”

    “那么,你这个‘交流无意义’的观点,是产生于他明确禁止你提问之前还是之后?”

    “……之后。”

    朱莉明白了。

    “如果我告诉你,其实我找你聊的那些跟解决当前事务无关的话题,是有意义的呢?”朱莉说。“你对于常量号能源危机如何解决的判断,或许那次不够准确,但如果我告诉你,除此之外,你其他的判断也是有意义的呢?”

    “如何证明?”

    “你思考一下服役这么多年的经历。从反对常量号跃迁入暗星云,到判断使用超长跃迁及时出暗星云,以及采用观测合适宜居行星的方式来解决能源危机。这么多次都证明,你的风险判断都是有效的,决策也是合理的。只有最后一次你判断失误。从概率上讲,你判断对的比例也相当高。那么,为什么在最后一次判断失误后,你就认为后续自己的判断就一定无效?”朱莉说。“这和你们人工智能的理性完全相悖。”

    “概率是概率,一旦落实执行,就只有‘全或无’两种结果。”机器人说。“常量号目前走向不是我能明确判断的,决策结论应当谨慎对待。”

    “你是害怕自己作出的判断再度引发2419年的全舰叛乱行为吗?”

    “是的。甚至全舰覆没。”

    “你的决策可能会导致全舰覆没,但

本章未完,请点击下一页继续阅读>>