看完之后,韩路一疑惑道:“这些数据是从哪来的?没有真实世界的数据,训练出来的东西有实际意义吗?这些智能体只是在按照汤圆——等等,你用的是汤圆模型吗?还是也接入了其他模型?”
章闻铎转头看了韩路一一眼,有点儿被大老板的敏锐程度惊到了。怎么才只看了一眼,就把整个项目最大的问题看出来了?他还什么都没说。
“两点您都说对了,我们最缺乏的就是数据。最一开始我们也是考虑用真实数据的,但是现实中能采集到的数据实在是太少了,而且归因难度高,一个人做了什么和因为什么做,这之间的相关性都很难建立,更别提因果性了。所以我们才想了这么一个笨办法,使用智能体集群来生成模拟数据,再用这些模拟数据来训练社会世界模型,这个方法至少能验证我们的方向是不是对的。”
“智能体也是使用了市面上可用的各个模型,主要是为了给这个实验提供变量,不然都使用同一个模型,我们担心会造成模型坍塌。”
韩路一听完摇了摇头,用模型生成的数据来训练模型,属于是左脚踩右脚螺旋上天了,很难说这样训练出来的模型在现实场景中能起多大的作用。
章闻铎所说的模型坍塌就是一个典型的问题,如果下一代模型的训练资料都是用的模型生成的数据,这些数据里面所隐含的偏见性就会被放大,形成回音壁效应,也可以说是模型的信息茧房,于是下一代模型的一些能力反而会偏离现实,这就是所谓的模型坍塌。
但是数据确实没办法,现实世界就是这么复杂,除非有视界来做到准确归因,不然怎么能拿到一个人行为的因果?
但是韩路一这次并不打算直接使用视界来把数据端上来。
这个所谓社会世界模型究竟能用来干什么,训练出来有什么用先不说,就算用视界拿到了数据也不一定就能完成训练。
这里还有一个非常值得警惕的问题,数据的来源如何解释。
之前的那些标注数据,毕竟有原始的语料在,即使有人对标注的详细程度感到疑惑,韩路一得到的信息也都是从语料里推断出来的,可以解释的清楚。
但是人的行为动机归因,很多时候真正的原因都没在提供信息里,视界能看到写出来,这数据本身就成了问题了。
所以韩路一没去提数据源的事情,而是问道:“所以,为什么选择西部小镇的背景?是因为这一类的原始数据更多?总不能是因为你喜欢看《西部世界》吧?”