他突然意识到有点儿不对。
一点七七秒?
刚才l100的模拟结果是使用的同一个任务吧,那个时间是多少来着?
丁耀先感觉浑身一激灵,既觉有可能是自己记错了,又隐约觉似乎真有这个细节。
这个模拟软件对过去的模拟结果都有历史记录,l100的模拟结果就在前面三个,丁耀先咽了口口水,问道:“我们再对比一下l100的结果?”
没人提出反对。
赵文渊把这次结果的标签页单独拖了出来,留在屏幕的一边,然后在屏幕的另一边打开了l100的模拟历史记录。
任务预计完成时间六点八四秒。
冰芯这边的人也都意识到哪里不对了。
算力提升了百分之三十多,但是训练速度变成了原来的四倍。
封装负责人的身子往前探了探,喃喃地说出口:“这怎么可能?”
刚才输入参数的时候,封装带宽的数据已经被压缩到很保守的水平了,对冰芯来说属于没有技术挑战。
相对应的,通信效率就会很受影响,这种多芯粒设计受到的影响最大。
怎么可能会出现这样的结果?
丁耀先也抬起头看向赵文渊,想让他给个解释。
他甚至都没问问题,很显然,两组数据的对比显不合常理,这需要一个解释。
赵文渊淡淡一笑。
“看起来大家都很惊讶,可能是因为你们对大模型的训练管线不太了解。”赵文渊开口道,语气平淡,仿佛在讨论一件微不足道的小事。
其实他心里已经乐开了花。
虽然技术方向是大家头脑风暴出来的,但是既然是我来讲解和演示,那这个逼就让我一个人装吧。
冰芯的各位,准备好,表演开始了!
“l200的异构设计不只是拿几个小芯粒堆起来而已,它是为汤圆的训练管线特意设计过的。”赵文渊用手指着屏幕上的四块芯粒,说道,“我们对训练的每一步任务都做了精细的规划,会用到哪种算子,任务量有多大,编译器都可以提前规划好,这是一种在训练开始之前就进行过的宏观优化,训练一旦开始,所有的计算都会在同一个芯粒里完成,只有在最后c的阶段才需要进行通信。”
“这样,在密集运算的过程中,每一个芯粒其实都是一个完整的芯片,显存读取也被降到了最低。”
“为什么我们能用比英伟达落后的制程达到效率上的反超?”
“英伟达要照顾所有的用户,而我们只需要考虑汤圆就可以。”
“答案就是这么简单。”
赵文渊话说完,全场安静。
他静静的享受了几秒钟这会议室里的宁静,直到一个清脆的鼓掌声将这宁静打破。
是廖伯韬。
他一边慢慢鼓掌,一边脸上露出了一个真诚的笑容。
“赵总还说自己是外行人,我看赵总对芯片设计是真正的内行啊。”廖伯韬说道,“先想好要跑什么任务,才进行芯片设计,苹果做m系列的时候走就是这条路。软硬件能够协同设计,才能做到效率的天花板上,源智在这方面天独厚啊。”
说完他叹了一口气:“这条路,冰芯还没有走过。”
这话一出来,会议室里的人都有点儿明白他的意思了,所有的目光都汇聚在廖伯韬的身上。
廖伯韬环顾了一下四周,最终把目光放在韩路一身上,开口道:“韩总,冰芯和源智的合作,可以就按照你们刚才提的路线来。”
“设计方案你们出,冰芯负责把它生产出来,l200就是冰芯下半年的核心项目。”廖伯韬说这话的时候,心里也久违的升起了一点儿激动的情绪。
他做技术五十年了,见到这种突破性的东西还是会觉兴奋。
这个东西做出来,如果真能有模拟中的效果,甚至只有它百分之八十的效果,也算是在计算芯片的领域走出了一条新路来。
这不是口号里说的国产替代。
这是真真正正在技术边界上的探索和创新。