说是推演,实际上是在系统能力的辅助下,快速验证各种压缩策略。
他用系统能力模擬不同的参数配置,测试对模型准確率的影响。
这个过程別人做需要几个月,但他只需要几天。
因为系统可以同时运行无数个模擬,每个模擬都在毫秒级完成。
两天后,夜以继日的推演终於有了结果。左城找到了突破口。
动態精度量化。
简单说,就是让模型在推理时动態调整计算精度。简单任务用低精度,复杂任务用高精度。
这样既保证了准確率,又把功耗控制在了可接受范围內。
他把这个技术思路整理成文档,发送给沈一鸣和方泽审核。
“一鸣,你看看这个方向可行吗?“
沈一鸣看了半小时后,回了电话。
“城哥,这个方向是对的。“他的声音带著兴奋,“我测试了一下,动態精度量化確实能提升准確率。“
“能到多少?“
。“沈一鸣说,“比之前提升了將近21个百分点。“
“功耗呢?“左城问。。“方泽接过电话,“刚好达標。。。。
“太好了。“左城鬆了口气,悬著的心终於放了下来。
但他很快又提起了精神。
评审会上,林建华那帮人不会给他们任何容错空间。
。“他说。
电话那头沉默了几秒。
。这个提升不容易。“
“我知道。“左城说,“但这是必须的。“
“你有没有什么想法?“
左城没有直接回答。
他掛掉电话,打开系统面板。
267分。
这已经足够再做一次科技融合。
如果把超参数自动优化和模型压缩优化的能力融合
也许能產生一个更强的新能力。
【科技融合】
【消耗:5积分】
【请选择至少两枚叶片进行融合】
左城看著面板上的叶片列表。
超参数自动优化、模型压缩优化、边缘ai推理。
如果把这三枚叶片融合
三秒后,融合完成。。
左城看著新叶片,心跳加速。
但他不能直接告诉沈一鸣。
融合是系统的能力,他没办法解释来源。
“一鸣。“左城拨通电话,“我有一个新的优化思路,你再试试。“
“什么思路?“
“我把它叫做自適应编译。“左城说,“简单说,就是让编译器根据任务类型自动调整模型结构。“
“自適应编译?“沈一鸣有些困惑,“这听起来像是编译器优化“
“对,就是编译器优化。“左城打断他,“但这次优化是针对ai模型的,不是通用程序。“
沈一鸣沉默了几秒。他知道左城不会无的放矢。 “好吧,我试试。“
---
第二天早上,沈一鸣发来消息。
“城哥,你在哪里?“
“在公司。“左城回復。
“来实验室。“
左城推开门,看到沈一鸣和方泽都站在电脑前。
他们的表情很奇怪。
不是沮丧,也不是兴奋,而是一种难以置信。仿佛看到了不可能发生的事情。
“怎么了?“左城问。
沈一鸣转过头,看著他。
“城哥。“他的声音有些发抖,“你到底是怎么做到的?“
“做到什么?“
“准確率。。“
左城看了一眼屏幕。。。
“不只是准確率。“方泽开口,“功耗也降了。“
“多少?。。。。
两个指標都大幅超过了目標。
左城没有说话。
他走到窗边,看著外面的阳光。
成功了。。
这个结果,足以让任何质疑他们的人闭嘴。林建华也不例外。
“城哥。“沈一鸣走到他身边,“你是怎么做到的?“
左城转过头,看著沈一鸣的眼睛。
那双眼睛里满是困惑和敬佩。
他不能告诉沈一鸣真相。
但他可以给一个合理的解释。
“我用的是一种新的编译器优化技术。“左城说,“叫自適应神经网络编译器。“
“自適应神经网络编译器?“沈一鸣皱眉,“我