换肤首页 > 都市 > 首富从AI浪潮开始

第四百八十八章 两个突破,一个难题

“……兴隆银行有意向向我们采购包括定制硬件在内的全套解决方案,具体的采购规模和技术支持的期限还在具体的讨论中,现在预计,硬件采购价格应该在五亿元左右,后续的服务费用在每年几千万这个级别,我之后会再进行汇报。”

姜亦心说完,向其他与会的高管点了点头,场中响起一片掌声。

这是起源每周一早晨的高管例会,苏念念旗下的汇报一般是开场就进行的,上一周在收入端有什么新的进展,比较振奋人心。

韩路一听完点了点头,对姜亦心说道:“我们现在的算力主要还是自用,大规模交付,恐怕还要等到L200正式量产之后,这点你要和他们谈清楚,其他类似机构的接洽,可以转交给技术销售的部门去做了,要考虑算力和硬件的供给。”

请牢记 速 读 谷 首发 https:/// 看书不迷路哦!

然后韩路一转向江松然,问道:“算力这边,这周有什么进展?”

江松然此时的脸色是少有的轻松——一般到算力盘点的环节,江松然都是皱着眉开始的,因为起源各个业务向的用量增长太快了,算力的供给一直处于供不应求的状态,这基本是全集团都知道的事情,甚至连外界的媒体、关注行业动向的用户都知道。

“我先说个好消息,基于‘豆汁儿模型’的轻量调度系统上周已经全量上线了,得到的算力释放比我们一开始预期的还要大一些。”

这话一出,不管是业务线上的还是支持线上的高管们,都把目光挪了过来。

大家都有一个共同的问题,释放了多少?

江松然没卖关子,接着说道:“通过新的调度系统调度之后,整个推理算力任务分配的效率达到了百分之九十以上,原来卡空转、任务排队或负载不均的部分,调度后被填满了,现在的效率已经接近了理论极限。这意味着两件事。第一,我们在张家口云垠和临港自由的两个数据中心共三万五千张计算卡,从中释放出了百分之三十的算力,也就是说,之前三万五千张满载跑的任务量,现在只需要大约两万五千张就可以了。”

视频那边的赵文渊第一时间就激动了起来。

富裕出了一万张卡,这是富裕给谁的?不就是给他启动汤圆2.0的训练的吗?

不过他又马上反应了过来,现在起源的计算卡里运行效率最高的是L100,但是L100满打满算只有一万八千张,从这里面抽走一万张,恐怕拿掉的不只是百分之三十的总算力,而且公司运营,也不可能一点儿算力储备都不留,全都拿来冲训练。

那剩下的算力缺口该从哪找?

江松然环顾了一下,接着说道:“我们还有第二点新发现,从某种程度上来说,比第一点还要重要一些,那就是——”

“在使用新的调度系统之后,我们对租来的运算力的利用效率也提高了,即使全部以汤圆1.0API直接销售的折扣价格来看,减去付给云服务商的租金,我们还是有得赚。”

上一章目录下一页

猜你喜欢