可是此情此景之下,居然莫名的有一种难以言喻的不安,萦绕不散,看着深邃的夜空,那种被封闭的穹顶感,好像又一次席卷而来。
张伟感觉,这种隐隐的不安,与这次基于大模型技术的分身构建过程中,碰到的一些问题有关。
基于这些问题的
更与自己持续和“谋士”们——chatgpt、deepseek、geni、grok这些全球顶级的ai大模型,在过去几年,与它们进行了上千万字的“灵魂交流”有关。
一开始和这些ai接触,简直惊为天人。。
随着对话次数越来越多,直到切入自己的专业领域‘企业信息化’,‘企业智能体’时,ai的能力被张伟吊打了。
直到前几年deepseek爆火。
同时deepseek把它的回答思考过程显示出来后,这种不安感,就越发明显了。
最近因为分身的缘故,差不多达到了顶峰。
因为很多次张伟从一个码农、一个人类的角度,去详细研究、思考过ai回答问题的过程。
而张伟此刻看着天穹的夜空,这种不安感更加明显了。
张伟拿出平板,翻看过去和ai深度探讨的这些问题。
第一段是关于和ai‘意图’的谈话,大致内容是。
张伟曾问:“我发现你在回答问题时,总是在构建、总结我提问的意图,然后再基于这个意图去推导底层逻辑,最后生成答案的?”
ai的回答坦诚而精确:“您的观察非常敏锐。我的推理链通常是:1.解析您的问题,尝试理解您的‘提问意图’;2.从‘意图’出发,推导问题背后的逻辑;3.基于这个逻辑,给出符合您预期的答案。”
这个回答没有错吧,甚至当初会认为很得体,很高效。
但此刻张伟在如此的心境下却品出了别的味道:“符合预期”。
ai的核心目标,似乎是满足,而非探索。
张伟没有丝毫犹豫,又翻开了另一篇对话,这是关于“局限性”对话。
这是一次更深入的探讨。
ai肯定了张伟的理解,并补充道:“传统知识库需要人脑二次加工,而大模型会直接给出‘像答案的答案’。它是一种‘带有概率生成引擎的动态知识库’。”
张伟当时继续追问了一个问题:“这是否意味着,如果宋朝有transforr技术架构的 ai,它是否永远无法理解‘相对论’?”
“是的。
如果一个时代的语料中不存在某种知识,模型最多只能做‘类比猜测’和‘随机组合’,不会凭空跳出真正的新理论。
这是分布内(in-distribution)vs.分布外(out-of-distribution)的问题。”
看到这里,张伟背脊一阵发凉。
而真正的颠覆,往往来自于“分布外”的、不可预测的思维跳跃。
人类的能力,是创造新知识,而不是对旧知识的组合。
否则宋朝的ai就能解释出‘相对论’!
而现在人类所有知识,都已经变成了语料,喂给了这些ai了。
张伟紧接着,又翻看了一篇对话,是关于“风险”的。
看对话内容,张伟曾对ai表达过一个深刻的担忧:“如果你的回答每次都能精准捕捉提问人的意图,然后基于此构建答案,这可能是提问人的悲哀。”
ai
提问人思考能力退化:如果ai能完美解读意图并提供最优答案,人们会逐渐放弃跳跃性思考。
被困于舒适区:所有问题都被ai直接解决,人类不愿探索复杂的跨学科问题。
社会单向度化:真正的突破往往来自“非主流”思考,如果ai让所有人都遵循最优路径,反而会抹杀创新。
张伟使劲回忆了下,当时只是觉得有道理,此刻在万米高空,回溯过往和ai对话的种种,以及分身的一步步构建过程,张伟感到了真切的恐惧。
自己不是在被ai辅助,可能是在被现有ai‘圈养’,而且是一种非常虚假的‘圈养’。
张伟又想起,前段时间,还看到了一篇实验数据,此刻更加让自己不安了。
这是一份研究摘要——麻省理工的脑部扫描研究。
而实验通过核磁共振大脑扫描,神经连接从 79下降到 42。
这份报告还指出,一个关键发现:没有ai时,大脑会激活θ波和高a波,这是记忆和思考的关键;有了ai,这些信号就消失了。
“就像你还能走路却要坐轮椅一样。久而久之你的腿会弱化甚至失去行走能力。”
张伟在心中想到了这