第一百零八章 意外的物理学经验
    2025年1月,还有一件事对徐辰影响很大。

    这个月,发生了一件科技界的大事。

    各大国内主流新闻APP的头版头条都在推送一条消息:

    标题,充满了科技感与冲击力。

    【“中国AI的‘GPT-4时刻’?DeepSeek-R1横空出世,性能全面超越,并宣布开源!”】

    “DeepSeek-R1?”徐辰的眉毛,微微一挑。

    在过去的几个月里,以ChatGPT为代表的大语言模型(LLM),如同平地惊雷,在全球范围内,掀起了一场前所未有的科技革命。

    【大语言模型……AI……】

    徐辰的心中,泛起了一丝好奇。

    他虽然主攻的是纯粹数学,但对于这些代表着人类科技最前沿的“时髦”玩意儿,也并非一无所知。

    他打开计算机,搜索到了DeepSeek-R1的开源论文。

    他饶有兴致地,开始阅读起来。

    论文的前半部分,是关于模型训练所使用的数学理论。

    “……我们采用了改进的‘注意力机制’(Attention Mechanis,其内核,是将输入串行中的每一个词矢量,都映射到‘查询(Query)’、‘键(Key)’、‘值(Value)’这三个矢量空间中。通过计算Query与所有Key的点积相似度,并进行Softx归一化,来得到每个Value的权重……”

    【嗯,有点意思。】徐辰的眼中,闪过一丝了然。

    【这个思路,本质上是线性代数中‘投影’与‘加权平均’思想的一种精妙应用。它通过点积来衡量矢量间的‘相关性’,再用Softx函数将这种相关性转化为概率权重,从而让模型能够动态地聚焦于输入串行中最关键的部分。】

    “……在优化器(Optizer)的选择上,我们采用了Ada法,它结合了‘动量法’(Montu和‘RMSProp’的优点,能够自适应地,为不同参数,调整学习率……”

    【原来如此。】徐辰点了点头。

    【这可以看作是常微分方程中‘梯度下降法’的一种高级变体。它引入了‘动量’这个物理概念,仿真一个在损失函数曲面上滚动的小球,利用惯性冲过平坦局域和局部极小值点,从而加速收敛。而自适应学习率,则相当于为这个小球,在不同徒峭程度的路面上,配备了智能的刹车和油门系统。”眼中,却如同庖丁解牛,每一个结构,每一处关节,都清淅可见。

    他只花了不到半个小时,就将论文中所有的数学部分,全部吃透,甚至还能举一反三地,思考出几种可能的改进方向。

    【整个大语言模型,从数学上看,可以被视为一个极其高维的、非线性的函数逼近器。它的训练过程,就是在数十亿甚至数千亿个参数构成的空间中,通过梯度下降,查找一个能最小化‘损失函数’的最优解。而‘注意力机制’,则为这个庞大的函数,提供了高效的‘剪枝’策略,使其能够专注于处理长距离的依赖关系。】

    然而,当他看到论文的后半部分,关于“神经网络架构”和“模型训练”的内容时,他的眉头,却渐渐地,锁了起来。

    “Transforr架构”、“多头注意力”、“残差连接”、“层归一化”……

    这些属于计算机科学和人工智能领域的专业术语,对他而言,就如同一个个陌生的路标,指向一片他从未踏足过的未知领域。

    如果不了解神经网络为什么能拟合任何函数(万能逼近定理),对后续的深层神经网络乃至于Transforr架构就更加不知道具体的工作机制了。

    【对于AI,确实还存在着巨大的‘盲区’。】

    他没有气馁,反而燃起了一股强烈的求知欲。

    他打开计算机,开始在网上,疯狂地,搜索着关于“大语言模型”的基础知识。

    从最基础的“感知机”模型,到“深度神经网络”,再到“循环神经网络(RNN)”和“长短期记忆网络(LSTM)”,最后,才是当今大模型的内核——“Transforr”。

    就在他将一篇关于“Transforr”内核架构的经典论文——《Attention Is All You Need》,看到一半时。

    他脑海中,那冰冷的系统提示音,毫无征兆地,响了起来!

    【叮!检测到宿主正在学习‘人工神经网络’相关知识,认知边

    “恩?!”

    徐辰的动作,猛地一顿!

    他有些难以置信地,调出了自己的系统面板。

    但是,在“物理学”和“生化学”那两条几乎还

    【什么情况?!】

    【我明明是在学计算机和AI,怎么会加了物理和生化的经验?!】

   

本章未完,请点击下一页继续阅读>>