换肤首页 > 都市 > 我的学习群里全是真大佬

第401章 李东教授真是“好人”

“毕竟,这也是为了推动全人类开源生态的发展嘛。”

说完他朝三人笑了笑,推门走出了休息室。

三个人花了足足两秒钟才反应了过来。

外面的大厅里可全是竞品同行呀。

“该死!”

凯利第一个掏出手机,几乎是用吼的。

“雅各布?对,是我!你现在,立刻,马上,飞首尔!”

“什么叫没排上商业航班?让后勤直接把公司那架湾流650推出来!当场报备航线,快!”

“我不管你卡上还挂着几个千卡集群的消融实验,天塌下来也先给我把显卡全停了!”

另一边,朗背过身去,语速快得像在抢答。

哈特那通电话表面上声调平稳,握着手机的手都鼓起了青经。

三通电话,三个号码,内容大同小异。

于是乎这一天的硅谷发生了一桩极其罕见的事情。

三家巨头公司的私人飞机,在同一个下午先后从湾区的跑道上拔地而起,它们的目的地都是……

韩国,首尔。

……

休息室外。

唐杰找了个没人的电话,拨通了一个国内的号码。

他把会场这边刚刚发生的事,原原本本复述了一遍。

电话那头沉默了几秒,然后笑了。

“唐教授,把心放肚子里。”

“你呀,还是不够了解李东教授。”

唐杰握着手机,怔了一下。

“……行,我明白了。”

挂断电话后,他抬起头。

目光穿过大厅里的人群落在那个正谈笑风生的年轻人身上,神情说不出的古怪。

……

展区的另一边,独角兽联合展台旁的咖啡台。

两个挂着参展商工牌的人,正端着咖啡闲聊。

其中一位是埃里克·万斯,硅谷一家ai独角兽的联合创始人,兼首席科学家。

他们家的招牌是lon context与极速推理,两年前靠一手“百万级context window”的硬核绝活一战成名,估值一路狂飙过百亿美元大关,是这条细分赛道上跑得最快的黑马。

下午唐杰领着李东在大厅里寒暄的时候,万斯就排在换名片的队伍里,还很郑重地做过一番自我介绍。

此刻他正和一位欧洲基础实验室的研究员聊得起劲,余光忽然瞥见一道身影朝这边走了过来。

万斯扭头一看,整个人立刻精神了。

他连忙朝那位研究员抱歉地举了举咖啡杯,丢下一句“回头再聊”,便快步迎了上去。

“李东教授!”

“万斯博士。”李东笑着同他握了握手,连破冰的废话都懒得铺垫,开门见山。

“正好碰见你,我想问问你有没有想过,把我那套降维算法1.0完完全全地适配到大模型的底层架构上去?”

万斯脸上的笑容,僵住了。

随后转成了狂喜。

他不知道李东为什么忽然问起这个。

可李东都这么问了,这天下哪有不吃白食的道理?

万斯深吸了一口气说道。

“想过!李东教授,我们不光想过,还砸了真金白银进去跑过消融实验!”

“您的降维算法里的fft网格的非线性展开,本质上是在做高维流形的低秩逼近,对吧?”

“我们就把这套思路端到了长文本的kv cache上。”

“给key-vale矩阵强做低秩投影,切掉尾部的奇异值,显存开销当场砍下去七成。”

“跑常规文本的perplexity,指标很稳,ppl几乎不掉点。”

“可一上niah的精确检索评测,recall就当场崩盘。”

“后来做可视化才定位到,attention矩阵的奇异值谱,是个极其极端的重尾分布。”

“模型里那几个专司精确检索的attention head,要在几十万个token里捞出那根‘针’,它们学到的特征向量全挤在谱的尾巴上。”

“我们把尾巴这么一刀切,等于直接把这几个head的眼睛给挖了。”

“李东教授,您那套算法算zeta零点的时候,奇异值截断比我们猛得多,凭什么您的尖峰特征就能无损保留?”

上一页目录下一页

猜你喜欢