换肤首页 > 都市 > 我的学习群里全是真大佬

第215章 差距不小

那个戴眼镜的男人放下了刀叉,慢慢地开口。

“邱总,我其实一直有个问题想请教。”

“PT-3到PT-3.5中间这一跳,到底关键是跳在哪儿的?”

“外面现在一提就是RLHF,好像那一套人类反馈就是所有答案。”

“但我总觉得没那么简单。”

邱明丽笑了一下。

“你这个问题,问到点子上了。”

“RLHF这几个字,最近被炒得有点太凶了。”

他用筷子头在桌布上虚划了一下。

“PT-3到PT-3.5,真正那一跳,不是RLHF。”

“是代码。”

桌上有人愣了一下。

“代码?”

邱明丽点头。

“OpenAI中间悄悄干了一件事。”

“他们在PT-3的底座上,又灌了一轮超大规模的代码预训练,内部叫-davinci-002。”

“itHb上能扒的高质量代码,加上一部分自然语言和代码混在一起的数据,一锅炖进去。”

“灌完这一轮出来,模型的推理能力莫名其妙地就起来了。”

“不光是会写代码了,你让它做数学题、让它做多步逻辑推理、让它分析一段很长的论证,它突然就会想了。”

“业内现在把这个叫做代码带出来的思维链。”

“代码这个东西是很严苛的,你少一个分号它就跑不了。”

“模型在海量代码上被反复蹂躏过一遍之后,它对一步一步地把事情想清楚这件事,就有了一种别的语料给不了的感觉。”

邱明丽顿了一下,抿了一口酒。

“在这个底座上,再往上套指令微调、再往上套RLHF那才有了ChatPT。”

“但你要问跳在哪儿,我也只是个人猜测,最关键的一跳我觉得的是在代码预训练那一步。”

“RLHF真正解决的问题,是怎么让这个聪明但是野的模型听人话。”

“它解决的是对齐,不是智商。”

那个戴眼镜的男人慢慢地点头,若有所思。

邱明丽接著补了一句。

“当然RLHF那一套也不是简单东西。”

“我们这边要追这一套,标注员的培训体系从零开始搭,至少得半年到一年才能进入状态。”

桌上一片安静。

李总端起杯子,轻轻晃了一下。

“我补一句。”

“我们家文心这边,其实也不是从今年才开始搞的。”

“ERNIE3.0Titan两年前就发了,2600亿参数,中文那些经典榜单上咱们也不虚PT-3。”

“真要说单纯的中文语言理解,我们底子不差。”

李东一直没有说话,但是他听的很认真。

李总继续说道。

“但这次3.5一出来,我自己心里凉了一下。”

“凉不是凉在它中文比我们好,它中文其实还没我们好。”

“主要是……它和我们根本不是在做同一件事。”

“我们之前那一代大模型,比的是这个句子的意思你理解得准不准、你分类的对不对、你完形填空填得好不好。”

“它比的是你能不能和人自然地聊天,聊的时候顺手把一道题给做了、把一段代码给写了。”

“后面这件事,是另一个维度上的能力。”

“不是我们原来那一套路线自然延伸能接上的。”

“我们内部这两个月已经在赶下一版了。”

“对外的代号你们可能过一阵子就会听到,这次我们是对著3.5去的。”

“但我跟你们交个底。”

“第一版出来的东西,和3.5之间,差距肯定还会有。”

“而且还不是那种一个月两个月就能抹平的差距。”

气氛沉了一会儿,邱明丽突然看向李东。

笑著开口。

“这位小兄弟一直没说话啊。”

“还挺面生的。”

上一页目录下一章

猜你喜欢