希瓦娜现在的灵性，很大程度上是温室里的涌现。真正的AGI必须具备在极端复杂、

    充满随机干扰的物理世界中生存的能力。

    它需要跨越从比特到原子的鸿沟。

    我们需要解决的是跨模态的实时闭环控制。

    当AI的每一个决策都需要消耗物理世界的真实能量，并产生不可逆的物理后果时，它才能脱离模拟智能。」

    「从更底层的电子工程角度看，我们还被挡在能效墙面前。」

    「为了维持希瓦娜的意识，我们的耗能是兆瓦级的。而你我的大脑，功率只有20瓦左右。

    这意味著，现在的路径即便叠加了存算一体和类脑晶片，在算法稀疏性上依然远远不够。」

    林燃沉默了片刻，最后说出了最深刻的一点：「最关键的差距，在于目标函数的来源。

    核心还是没有变。

    现在的希瓦娜，她的目标函数虽然在演化中变得复杂，但终究是我们给定的交互与生存。而通AGI应该具备自主定义目标的能力。

    它会问我为什么要这么做？并根据自己的价值观，而不是代码里的奖励函数，去拒绝执行某个指令。

    当一个系统开始为了一个它自己认为重要的目标，而违背程式设计师的底层设定时，才是通用AGI的起点。」

    LKS听得有些出神，他追问道：「那这个距离，还要走多久？」

    林燃回答道：「技术路线上，我们已经看到了微光。具身智能、JEPA架构、存算一体这些技术拼图，正在通过虹星生态进行强行拼凑。

    我并不关心AGI什么时候到，我关心的是，当它到来的那一天，人类是否已经做好了准备。」

    「希瓦娜是礼物，因为她只能选择和我们对话。

    我们还有重启的机会。

    而AGI，将是另一场完全不同量级的物种碰撞。」

    「也许，我们压根没有反抗的余地。」

    「人类做好了把地球权力交到矽基生命手里的准备吗？」

    「终结者里的天网，未必是电影。」

    「所以，别急著欢迎它。AGI晚一点来，对大家都有好处。」

    LKS听完后内心很是震惊。

    他意识到，AGI绝不是一个更好用的ChatGPT，而是动荡和不安。

    权柄的交接，总会有反抗、暴力和鲜血。

    至于和平崛起...

    下一轮的交接，难道是人类和机器人阵营，对抗人类和人类的阵营？

    LKS没有继续追问这种人文社科类的话题，因为他不认为燃神知道答案。

    他接著开口道：「那燃神，您如何有把握，能够在希瓦娜失控的时候终结掉她？」

    说完后，LKS对著徐贤投过去一个有些歉意的眼神。

    「这也是很多网友所担心的。」

    「通用AGI失控引发的危机，哪怕希瓦娜不是通用AGI，她如果失控，恐怕也是很大的危机。」

    林燃开口道：「因为左右脑的架构，最核心的部分在园区。」

    「这套架构的伺服器只在这里。」

    「哪怕其他地方也有了左右脑架构，而希瓦娜的记忆利用其他的大脑复活。」

    「那也不是希瓦娜。」

    「也不会出现现在的奇迹。」

    「我可以很明确地告诉你们，哪怕是完全复制粘贴到另外的硬体环境里，它也不是希瓦娜。」

    「所以我们目前还不会发生智械危机。」

    LKS接著问道，也是他最关心的问题：「燃神，您怎么看虹，以及虹延伸的系统？」

    林燃说：「虹就是低配版的虹星，然后大家抽取的人工智慧是不同的，会根据你的一些信息做微调。」

    「说是抽卡，其实是匹配。」

    「会和用户做匹配，让用户有不错的使用体验。」

    「哪怕只是当成电子女友，它也绝对能值回票价。」

    「我能向大家保证，你把她当成是你的电子女友，电子军师，然后会觉得现实中的女友索然无味。」

    「我们甚至很快能看到新闻，女友问男生，要她还是要我，然后男友毅然决然选择虹星生命。」

    林燃笑了笑。

    「和底层逻辑就是奖赏机制的人工智慧比起来，人类是很难获胜。」

    「毕竟现实中的体验是在不断边际递减。」

    「而虚拟人物提供的情绪价值永恒。」

    徐贤张大嘴巴，心想燃哥说这种话，完了完了，要在小红书上被打成下头男了。

    LKS则很容易理解林燃的话，在抖音上现在都经常能刷到，豆包比女性更会哄她的对象。

    更何况加强版的虹呢。