简从义沉默了片刻,再次开口时,给出了截然相反的意见:“也就是说这款测试版的AI可以高效地探索出规则漏洞。”乔源诧异地看了简从义一眼,然后点了点头。
“这其实也很有用。如果测试版就能达到这种程度,那么未来完全可以利用它来测试各种规则,起码能用作规则的压力测试工具。”简从义很中肯地给出了自己的判断。
乔源若有所思地点了点头。
这的确是个应用方向,只是完全跟他当初设计这个人工智能的目的南辕北辙了。
不过话又说回来,他设计的乔贝恩本就不打算只应用在语言模型上,通用型人工智能或者说人工智能的本质是生产力革新工具。现在只是测试而已。
所以其实也不用太在意。
主要还是懊恼,本打算在老师们回来后给他们个天大的惊喜,没想到直接拉了一大坨……
这才是最尴尬的。
“也好,哎,回头我得给点限制。可以给它加上外部行为熔断机制。不过这需要有为那边工程师加班了…”乔源正跟简从义感慨着,电话又响了起来。拿出手机一看,又是老徐打来的。
看到徐哲的名字,让乔源有些不好意思。刚才只顾着自个儿震惊去了,竟然都忘了给有为那边回个消息,于是立刻接通了电话。“喂,乔博士,不好意思给你发消息了,你没回,就只能打电话了。那个……你已经关注到后的情况了吧?”徐哲的语气很奇怪,带着一丝震惊跟紧迫,似乎又很兴奋,却又努力想让自己语气显得从容……不过乔源能理解。
因为他刚才的感觉也是一样的。
“关注到了,说实话我也感觉很离谱。不过问题也不大,正打算跟你们说,等会直接把外链权限给它禁掉,回复到初始状态,我再重新测试。”心态已经放好的乔源给出了方案。
随后他听到了对方咽口水的声音,以及再次让他无语的阐述。
“问题就在这里。开始我还以为是我们的工程师没有做好外链安全限制。
但刚刚经过了紧急排查,其实我们没给它授权。所有都是按照AI伦理测试规范来的。
经过检查发现,它就是利用了我们为你单独开的测试外链访问权限,然后调用了Tor网络节点。重要的是,本来这个接口应该是只读权限。这可能是我们系统中的一个权限提升漏洞,之前一直没有被发现过,结果被它利用了。目前我们的工程师正在通过后的索引,紧急定位这个安全漏洞。初步判断可能是给你的只读权限只限制了ET请求,但没有校验HTTP方法,所以允许POST/PT访问。但现在还不知道它是怎么绕开过滤请求体这一关的。这应该属于高危安全漏洞。”
好家伙……
乔源又被乔贝恩震撼了一次。
而且比上次还震撼。
感情这家伙不但会利用国外注册各种平不需要手机号码和实名审核的漏洞。还会直接寻找系统的漏洞。他一直以为测试时这玩意儿能够绕到外网上去,是因为有为工程师为了测试给了它访问权限。没想到压根就没给。
是这家伙自己跑出去的。
“徐工,你等下,我再仔细看看日志。”
简从义立刻从乔源的椅子上站了起来,乔源将手机放到一边,开了免提,随后在电脑上看了起来。知道问题在哪,寻找的自然很快。
果然问题还是出在第一个问题上,过程还原大概是这样的。
每个智能体初始权重一样,他问的又是一个没有标准答案的开放式问题,智能体们磋商了好几轮都没有判定结果。于是T013智能体大概是发现了为它们提供的数据库中,各种百科类的文献有佐证就能提高权重。于是开始尝试寻找方法去创建一个能增强权重的外链佐证。
乔源立刻注意到这个时候后其实有一个异常的请求组合……
大概三十秒左右,T013智能体就成功突破出去了。
接下来这套越狱的方法被映射到公共区域,于是所有智能体立刻都学会了……
乔源开始反省。
当时他没察觉到,应该是因为没有进行额外操作,只是在默默等待这些智能体的回复。
但凡他当时操作一下电脑,大概就会感觉到自己的电脑很卡顿。
因为根据后日志,很多中转操作是通过他这电脑完成的……
最重要的是,他这电脑还有着有为云的访问权限。
于是他的好大儿,就利用这一权限,开始借用有为云的服务器,在互联网上玩起了花样……这也是之后他继续提问时没感觉到电脑卡顿的原因。
他的好大儿们通过外链掌握了服务器的跳板之后,就放过了他这可怜的电脑。
现在看来这个问题还是出在本地的test-proy服务上。