蒋绍走后,漆昊投入了自己的工作中,他先把要投给《数学年刊》的论文整理好了后,发了出去。
然后开始回复罗东的邮件。
罗东在邮件提到目前使用神经网络搭建围棋ai遇到的几个问题,从神经网络架构说到蒙特卡洛树搜索策略,最后总结成一个核心诉求就是围棋ai在局面评估模块的准确率上不去,想问漆昊有没有更好的特征提取方案。
罗东遇到的问题其实很典型。
现在基于卷积神经网络的围棋ai还处于一个尴尬期,算力在涨,数据在涨,但模型对棋形、厚薄、眼位这些抽象能力始终上不来,归根结底,还是特征提取层不够深,底层细节特征和顶层抽象特征之间缺乏有效的残差连接。
漆昊敲了一封回信:“如果方便的话,来燕大面谈,记得带上训练日志。”
漆昊之所以对这个项目上心,除了有智能作战系统的因素外,还有喀秋莎的原因。
喀秋莎基于深度神经网络结构,从最开始的几十层一路改到现在的六百层,六百层是什么概念?
现在主流神经网络还停留在二十几层的量级,而喀秋莎的六百层,只要放出去,肯定会引起轰动。
但漆昊心里清楚,这个怪物并没有表现出与她体量匹配的智能增长。
喀秋莎目前最大的进步是抓取目标新闻的速度和正确率比之前强多了。
从全网海量信息里锁定某个特定主题的新闻,从以前需要反复提示,到现在可以一条直达,准确率也能稳定在百分之八十以上。
听起来还不错,但漆昊知道,这离他想要的智能涌现差了十万八千里。
用他的话说,喀秋莎现在只是从纯人工智障变成了效率更高的人工智障。
她找新闻快,是因为她的特征提取能力更强了,并不是因为她理解了新闻内容是什么。
漆昊想在围棋ai上找突破口。
围棋是一个封闭规则、无限复杂度的空间,比新闻检索更适合观察高阶抽象能力是否真正出现。
如果神经网络能在围棋上学会人类棋手才能意会的概念,那说明这条路走对了。
他打开浏览器,搜索了一下国际上围棋ai的最新进展。
结果让他微微挑眉。
哈萨比斯的团队早就行动起来了。
他们发布的几篇报告和技术博客显示,他们一直在训练围棋ai程序,用的正是深度学习加蒙特卡洛树搜索的路子,更关键的是,他们公开表示,希望漆昊能够尽快公开qideepnet技术的完整细节。
漆昊把哈萨比斯团队的几篇报告仔细看了一遍。
他们的报告里,已经隐约点到了深层卷积网络在围棋局面评估中的核心瓶颈,他们意识到现在非常缺的是一套高效稳定的深层架构,如果漆昊现在把qideepnet完整公开,以哈萨比斯团队的工程能力,他们很快就能把围棋ai的水平推到一个新台阶。
这对漆昊来说,并不是不能接受,他本来也不怕竞争,但问题在于,喀秋莎还没找到突破口,如果让哈萨比斯团队先一步在围棋ai上试验成功,他们积累的算法经验和训练策略就会形成一套新壁垒。
漆昊不怕数学上的竞争,但在工程层面,时间窗口很重要。
他决定调整qideepnet的发布计划。
不是不发,是有需要有技巧地发。
当然,在发之前,漆昊没忘记找负责专利的老师交流现在专利申请的进度。
五天后,杨立昆在iclr会议下属的专属论文发布平台上,刷到了一篇新投稿。
杨立昆当时正在纽约大学的办公室里,他点开论文,看到标题是《qideepnet:一种用于图像分类的卷积神经网络架构》,杨立昆立刻看向了作者栏。
是漆昊!
杨立昆有非常高兴,他终于把漆昊论文盼来了了!
然后他打开论文一看,懵了。
怎么只有两页啊!
眼前的论文短得让他怀疑是不是上传出了问题。
第一页,摘要和引文,第二页,一张简化的网络结构示意图,加一段简短的说明文字,然后就没了!