“我以前是学医的,如果从医学角度,从生物角度,我们来看,从一个非洲爪蟾胚胎上取出来皮肤细胞,不对它的DNA进行任何修改,让细胞自主发育,最终也能重新长出完整的身体结构。”
“整个过程没有人为设计结构,完全都是细胞自主完成。”
俞兴提到的是一个经典实验,英国科学家1958年用非洲爪蟾幼体的肠细胞核移植入去核卵细胞,发现这样的胚胎也能发育成一个个体,而这个个体的基因组与供体细胞一致,即一个分化的细胞在一定条件下能够逆转,进而再发育为一个体。
深度学习三人组完全没明白俞总想要表达什么意思,相互看了看,确认对方都没懂。
“我觉得DNA像是硬体规格书,不管怎么测序基因,都没法推导个体宏观的五官和四肢,但是,当百亿千亿的细胞通过离子通道形成广泛的生物电网络,一个个体就拥有了智慧。”
俞兴指了指自己,也指了指对面的韦福如,说道:“成百上千亿的细胞所形成的生物电网络很可能是智慧存在的规模前提,换成我们在聊的深度学习,它也需要那样类似的规模才能出现能力的涌现。”
他用了一个生物上的例子来理解模型的能力涌现,而这恰恰是AI飞快发展的轰动标志
在PENAI发布P—3之前,所有的模型做新任务都必须微调,要给出成千上万的标注数据,然后针对新任务进行专门的重新训练,最后才能达到很好的效果。
但是,P—3的涌现是它不用修改模型的参数,不用样本或者少量样本就能完成训练时从没专门学习过的任务。
比如,没有专门对模型进行翻译训练,但能进行几十种语言的互译,没有教它,它却会了,这是模型展现的让人震惊和不解的能力。
刚开始做一张卷子只能得到20分,等到参数到达一定的阈值,忽然一下子就能得到80
分,也没有中间50分、60分的过渡。
俞兴是在用自己的理解来描述韦福如的涌现判断。
“行了行了,俞总,知道你是学医的了。”吴恩达对于老板的这种说法不以为然。
韦福如理解着来自俞总的话,琢磨了一会,却觉得颇有些意思。
“我也就是耳濡目染,天天听你们说,想着什么时候能出现更大的进步。”俞兴并不确定自己理解的是否正确,也不清楚自己的例子是否恰当,就是在这个场合尽力的聊聊深度学习的某个未来。
周明这时候笑道:“俞总愿意听,愿意思考,我觉得这还真挺好,深度学习啊是越琢磨越有意思,就是不知道我到底能不能看到AI出来的那一天了。”
吴恩达耸耸肩:“尽力而为呗,争取多推动推动,也不是只有AI才能发挥作用。”
他说到这里,看了老板一眼:“当然了,俞总这时候就得强调AI对社会的挑战了,我有时候觉得俞总是最有信心的人。”
俞兴笑道:“外行嘛,不知道你们具体的难处,当然就要乐观了,再说了,我要是不乐观,也不敢把DLF攒起来,不敢帮忙筹钱啊,吴总,你得谢谢我的外行。”
吴恩达不得不敬一杯俞总的外行了。
四个人都笑。
这顿晚饭吃了许久,气氛也相当愉快,直让韦福如在结束的时候都有一种恋恋不舍的感觉,自然语言处理在很长一段时间里都属于冷板凳。
现在既有D模型的进步,也有同行的热情,还要来自资方的兴趣,一切都太好了。