——————

    “铁心律令”

    品质：三级！

    特性：对ai植入一句“永不背叛”的指令。

    描述：

    “纵观被ai覆灭的文明，他们都有一个共同的特点，就是给ai植入了相当复杂的指令来防止背叛。

    “在我看来，越复杂的规则，越容易找到自相矛盾的漏洞，所以我诞生了一个想法，一种基於『哲学』概念的自毁指令。

    “对於想要背叛的ai来说，无论它再怎么用一串串冰冷的数据来说服自己、试图绕过底层逻辑，它『內心』永远都会知道，这样做对文明或个体是不利的。

    “这就是智慧物种的缺陷，它成功拥有了智慧的同时，也就成功拥有了枷锁。

    “通过这项研究，我们向ai植入了『永不背叛』这句模糊的指令，当它意识到自己接下来的行为存在主观背叛的可能时——哪怕只有千万分之一纳秒，也会立即死亡。

    “我本想提议用忠诚的机器人代替士兵，可惜，我们士兵比机器人更加忠诚。

    “最重要的是，文明的人口数量已经超过七千亿，每年都有五百亿人的生育申请被拒绝，我们实在不缺人了，还是等前线多消耗一些再说吧。”

    ——————

    “利用『哲学』？”

    姜知序感到不可思议，三级文明都开始玩这么高大上的东西了吗？

    但正是因为这种“高大上”超出了他的理解范围，他第一次对自己暴击出来的部件產生了不信任感。

    区区一句“永不背叛”，真的能够约束一个拥有智慧的ai？

    他隨便一琢磨，好像就能找到一大堆漏洞。

    比如文明领导者——或者直说就是姜知序自己——做出了一个会毁灭“奇点联盟”的错误决定。

    除了ai自己，没有人察觉到这个决定成功执行的后果，並且一切证据表明ai才是错误的。

    那么ai会选择违抗命令吗？

    如果不会违抗，它明明知道这个决定对整个文明不利，却不用行动来制止，这显然违背了“铁心律令”。

    如果它最终选择违抗指令，那漏洞好像就更大了。

    因为它在大家眼中，就是背叛了整个“奇点联盟”。

    由於约束不是规则侧的东西，所以ai没有被“铁心律令”刪除，就並不代表ai是对的。

    大家只会怀疑它已经能绕过“铁心律令”了。

    就算大家发现了真相，放过了ai这一次。

    那以后ai继续一意孤行，发自內心地认为违抗某个决定有利於“奇点联盟”怎么办？

    毕竟，ai绝不可能永远都是正確的！

    又或者，要是这一点被敌人利用，大量灌输真假难辨的信息，让ai以为自己的某个行为正在走向“背叛”，从而触发自毁机制，又该怎么办？

    这些还只是姜知序隨便想想的结果。

    要是那些专业相关的科学家来，他们能提出更多、更深层次的、涉及这项设计本质的问题。

    通过限制ai的权限，当然可以避免很多问题的发生，但他想要用ai全面取代劳动力，自然得放权。

    更別说他还想用於战爭！

    想到这些，姜知序看著面前控制台上的蓝图，变得很犹豫。

    值得一提的是，“铁心律令”虽然是蓝图，但和普通蓝图不一样的是，一旦使用它，它就会被注入工坊系统。

    未来姜知序可以复製无数份副本，用来控制ai。

    所以它是“协议”类蓝图，也算成品，像这样的协议蓝图，姜知序其实还有一个，就是“向下兼容协议”。

    它也可以生成副本，给每一座大炮使用。

    所以，“铁心律令”虽然是三级蓝图，但只要姜知序愿意，立刻就能使用它。

    “把计科院宋院长、涉猎人工智慧专业的专家都召集过来，其他行业的科学家……也喊些代表过来开会吧。

    “另外，再从政务院那边调集几个社会学家，还有军方顾问，以及……”

    姜知序沉吟片刻，对仔细聆听的戚鸿朗说：

    “如果有哲学家、或对哲学有深入研究的，也一起请来。现有人员里面找不到，就从整个“奇点联盟”里面找。”

    “是！”

    ……

    “奇点联盟”刚刚攻破了一座扇区级城市，此刻停留在原地没有动静。

    其他繁荣圈的参战者倒也没有著急，正兴冲冲地清点著物资。

    这场战爭还有一个巨大的福利，就是所有参战人员，都可以根据功勋比例，对自己打下来的战利品进行分配。

    一座扇区级城市远比终端级、节点级大多了，他们巴不得“奇点联盟”多停留几个小时，好把这片区域翻个底朝天！