这本来是为了保护数据安全所设计的一个服务。
因为外链测试必须经过测试者本地代理,以避免服务器直连上外网。谁敢想,他设计的智能体只用了几十秒,就利用测试链路本身的漏洞,反过来为自己解锁当然乔源觉得自己也有问题。
因为他在跟智能体对话时一直开着后,而且还是在高权限环境下。
“徐工,问题应该出在我这的test-proy服务上。它应该是解析了我用来访问有为云的AK/SK。”“我们知道,后日志我们的工程师正在加急分析。但现在的关键是我们还没弄清楚它到底是怎么升权的,以及如何调用的ECS API。我们正在紧急分析API调用路径。
现在的问题是,咱们这个测试要不然先中止了?等我们找到问题并修复之后再继续?”
“可以。”乔源言简意赅道。
不暂停也不行了。
让他的好大儿这么玩下去,天知道还能捅出什么篓子。
“呼……乔博士同意了。测试暂停,关闭服务器。”
徐哲没有挂电话,只是通知了一声下去。
乔源正打算挂电话,对面又开口了:“乔源博土…”
“嗯,有什么事,您说。”感觉自己闯祸了的乔源,格外谦虚。
“这个乔贝恩,啊,不,是新的智能体,嗯,您觉得是不是好像有点太智能了点。当然,我是说相对于这个时代而言。”乔源想了想,说道:“嗯,从目前来看,是挺智能的。”
“那个,所以我们这边可能需要做一份报告递交上去。当然我知道您的实验室肯定也要报告,但两种不同视角的报告更能说明情况,您觉得呢?”听到这句话,乔源下意识地看了眼还守在旁边的简从义。
何止是两份报告,最少是三份报告才对。
当然提交的部门肯定不同。
比如有为那边肯定是提交给网信办跟工信部。
他的实验室则需要给投资的自然科学基金以及科技部提交报告。
说不定还要接受新一轮的AI科研项目风险评估。
至于简从义……
他不知道……
于是乔源干脆地答道:“没问题,这本就是你们的义务。”
说完,只觉得有些意兴阅珊的乔源便打算挂了电话,遂又问了句:“还有事吗?”
“那个,如果工信部这边需要我们把智能体的详细数据提交上去…嗯,标准库的版权毕竞属于贵实验室。尤其是涉及到标准库的数据审核这一块,如果需要提交的话,我们需要版权方的授权。”
好吧,这就涉及到行政事务了。
“没问题,回头我让胡助理跟你联系。你们需要什么授权文件直接跟胡助理说一声就行了。哎,徐工你也太小心了。只是安全审查用,又不涉及到什么专利纠纷,我都能理解的。”
乔源随口说了句。
“哎,没办法,我们得走正规流程。毕竞我们也有很多版权方面的考量。对了,乔博士,我有个建议。接下来我们的工作方向是不是应该放在对新一代智能体的能力边界做出限制这块?”
“哎,已经限制了啊!”乔源有些头大。
“还得再想想办法。那暂时就这样,我先去找问题了。”
挂了电话,乔源看向简从义。
“简哥,你说的没错。乔贝恩用来做安全压力测试肯定是一把好手。它竟然还会越狱了。”乔源跟徐哲的通话并没有瞒着简从义。而且为了方便操作电脑,乔源还有一半时间用了免提。简从义自然已经知道刚刚发生了什么,于是很配合地问了句:“问题出在哪?”
“我也不知道啊!”
乔源茫然地答道:“有为那边没梳理清楚具体的工程漏洞到底出在哪,我现在也是云里雾里的。其实我在数学上对框架做底层设计的时候就已经限制了这款智能体的能力边界。
流形M本来就具备几何约束的作用。所以智能体的所有行动都被限制在流形M上。
它们的演化必须满足流形上的微分方程或几何条件,按道理这足够防止智能体状态的任意发散。而且标准库的建模本就遵循了数学上的形式公理系统。所以智能体的行为必须是可约至公理的。更别提单个智能体的磋商必须严格遵循对应的群关系。如果状态跃迁率大于设定的阈值,投影应该就会回流……”乔源自顾自地说着,不过当他注意到简从义的表情后,立刻意识到对方不是专业人员……