唯一的办法就是现写脚本帮助诊断,这也是赵文渊正在做的事情。
但是对赵文渊来说难的事情,对韩路一来说却未必难。
或者说,对视界来说不难。
视界,开。
一瞬间,熟悉的颜色浮了上来。
大部分样本是淡蓝色的正常文本。
少量灰色,这些是重复文本,没被剔除,但是问题不大。
几段橙红色的低质量内容已经被规则标记出来,本来不应该进入训练主数据。
但很快,韩路一的目光停在了其中一片奇怪的颜色上。
暗紫色。
这不是之前出现过的颜色。
他微微一怔。
注意力移过去。
视界里弹出一行说明。
【疑似类型:伪结构化残片】
【ML/Mrdon/JON标记残片混合乱码,现行规则集将其误判为代码片段,词元化后重复符号占比异常,易造成异常长序列,引发训练曲线波动】
韩路一看了一下原始数据。
乍一看,这些片段确实很像代码,但是仔细一看,就发现不合语法,也没有实际意义C
就像是有人专门投的毒。
韩路一迅速的更新了几条新的规则来抓住这些数据,然后在赵文渊发来的异常样本上测试了一下。
有效。
韩路一一边把改好的规则集上传,一边在视频通话里把发现的问题和解决方案跟赵文渊同步了一下。
赵文渊本来正在埋头写检测脚本,才写了一半,听到韩路一的话,茫然地擡起头。
怎么?不是我在给你讲状况吗?
你怎么已经解决了?
但是很快他就释然了。
哦对,韩总是我的随身老爷爷,那没事了。
快速查看了一下规则集里新添加的几条规则,赵文渊把这批原始数据又跑了一遍,然后把清洗后的新数据加入管线,重新开始训练。
按下开始的时候,他的心里莫名的安心。