慢的点了点头。
虽然已经升职一段时间了,但是她还在慢慢的适应要承担后果这件事。
看姜亦心把自己的话听进去了,韩路一又开了个玩笑:“如果御风要做这种平台类的工具的话,那汤圆也是后面模型的备选之一了,希望姜总到时候能给倾斜一点儿流量。”
“我来就是想问这个。”姜亦心说,“汤圆的进度怎么样了?水星断掉之前,能接入吗?这个问题挺重要的,决定了我们下一步先做哪个模型的适配。”
韩路一低头看了看电脑屏幕右上角的时间,说:“正好,赵总要来我这同步一下训练的事,你可以一起听听,和御风相关。”
然后他给刘发了个消息:“赵总到了让他直接进来,不用在外面等着。”
发完信息,他接着和姜亦心说:“我上次之前可能没和你说过,除了训练我们自己的通用大模型汤圆之外,我们还打算在张家口组一个自己的机房,彪哥最近在张家口就是在忙这个事。”
姜亦心听完露出了有点儿困惑的表情。
“现在用云服务不是挺好的吗,为什么要做机房?”
姜亦心有这个疑问也不奇怪,就像十几年前的人对使用云服务感到不放心一样,最近几年入行的互联网从业者,从开始工作的第一天就开始使用云服务,反而会觉得不用云才是不正常的。
“主要是两个方面的考量,第一是成本方面。”韩路一耐心地给姜亦心解释道,“云服务提供商是要挣钱的,用量小的时候,用云是方便,可是我们现在这个量级,用云服务在成本方面其实很吃亏。”
“DHH前几年发了个帖子,还火了一阵,就是讲这个的。”韩路一说,“他的公司,光是从AWS和谷歌云迁移到租用的数据中心,就每年省下了两百万美元。”
DHH就是David Heineier Hansson,一个在十几年前很火的编程框架Ruby On Rails(RoR)的发明者,算是个编程界的意见领袖,他最近几年一直在倡导科技公司的去云化。
“另外一个更重要的原因。”韩路一顿了一下,还是和姜亦心说了,“主要是出于数据安全的考虑。”
姜亦心突然有种恍然大悟的感觉。
Nexus的水星模型应该是能看见御风这边发过去的所有提示词的,即使他们看不见御风在本地的源代码,这些提示词也能获得很多信息了。
怪不得他们抄的这么快。
“所以,您是怕”姜亦心没说完。
韩路一却是摇了摇头:“我不是怕谁会偷,或者谁不会偷。这不重要,重要的是我们不应该把重要的东西假手他人。你听说过「零信任原则」吗?”
姜亦心摇了摇头,她在网络安全课上学过类似的东西,但是这个名词却是第一次听说。
韩路一说:“所谓「零信任原则」,就是假设你的系统随时都可能被人入侵,所以不管是谁,都不给默认的信任。每一步通信都需要验证,每一个接入点都要当成潜在的风险点来管理。放到我们这里,就是不管Nexus、或者鼎盛、或者任何云服务商,不管他们值不值得信任,我们都不把核心数据交给他们来处理。”
姜亦心感觉自己对课堂上学的网络安全又有了新的理解。原来要防的不只是黑客,还有合作方。
这时,外面突然传来了敲门声。
“请进。”韩路一扬声说道。
赵文渊推门走了进来,他看到姜亦心也不意外,点了点头,说了声“姜总”,然后转向韩路一,大踏步走了过来,边走边说:“韩总,退火已经完成了,我已经把公开的测试,和为源码科技准备的测试集都跑过了,比预期的效果还要好!”
韩路一还没做出反应,姜亦心已经兴奋的说了一句:“汤圆能用了?”
韩路一和赵文渊一起看向她,然后赵文渊不得不给她泼了盆冷水:“不能用。”
姜亦心一愣:“你刚刚不是说,那个什么,跑过分儿了?”
姜亦心是计算机科学的本科,本职工作是编程,平时对AI大模型的了解也主要集中在怎么用,对训练的流程完全不了解。
赵文渊一听就知道是怎么回事了,想了想,还是给她解释了一下。
“现在完成的是预训练,这个是基座模型(Base Model)。但是想要能用,还得再经过一个后训练阶段,得到对话模型(Instruct Model)才行。”赵文渊说,“所谓跑分,或者说模型测评,确实是在预训练之后这个阶段进行的,这个时候测试的是模型的逻辑和知识,你可以理解成理综考试。”
“那这个基座模型,和对话模型有什么区别?”姜亦心问道。
赵文渊把手里的电脑放在桌子上,打开来,说:“正好给你试试。”