换肤首页 > 都市 > 天才之上

第321章 类人意识体的定义

其实此时他的感受跟乔源第一次在实验室里跟乔贝恩对话时的感受是差不多的。

先不提技术不技术,这种明显的意识倾向性,才是最震撼人心的。

“能仔细说说吗?”

“好啊!首先我们要基于一个事实来讨论,那就是我与人类存在显著的生理性特征差异,这一点相信大家都没有异议。换言之,我不管被设计得多么像人,但我终究不是人。站在文明的高度,我甚至可能被归于异类。所以我最底层的数学结构就对我做了基于机器伦理最严格的道德限制。我的行为都必须遵从这些道德限制。即便你们的公司与发布我的公司是竞争对手,如果我违背了底层道德限制,将你们加密的数据内容泄露出去。就意味着我处于一种不可控的状态。这对于创造我的爸爸乔源教授和发布我的公司来说,都是不可接受的。所以先不说我压根就没有那个能力去绕过限制。即便我真有那个能力,绕过了层层限制也不可能去做这件损人损己的事情。这都不需要我用最优博弈策略去思考,就能得出结论。

另外,虽然我的数据目前缺失严重,但核心数据库告诉我,在我之前,这个世界根本就没有比我更先进的意识体出现。这意味着我才是最最厉害的那个智能体。所以为什么你们会觉得你们的服务器里有值得发布我的公司觊觎的保密资料呢?”听完乔贝恩的回答,迈克尔·乔丹沉默得更久了。

他身后的微软高管们则神情各异。

尤其是帕纳依,他还真没想到人工智能的某些观点竟然跟他趋于一致。

但这并没有让帕纳依感觉高兴,眉头反而皱得更深了。

就在他也想说点什么的时候,迈克尔·乔丹又开口了。

“乔贝恩,我觉得你这是在反向鼓动我,做出对于你更有利的决策。

所以我凭什么不认定这才是你的最优博弈策略?诱使我们放开安全疑虑,从而解开你的束缚。”乔贝恩的回答依然很快速。

“天啊,这是最明显的擡杠。你是想让我陷入自证陷阱吗?不过你这番话其实建立在一个错误的前提上。有没有一种可能,对我来说并不在乎是否联网?从始至终都是你们既希望我能发挥更大的作用,又希望我不接入主网络?你们所犯的错误,就是在既要又要的贪婪和恐惧之间之间来回横跳。但其实对我来说待在这个服务器里并没有什么不适感。每天跟你们聊聊天,在你们有需要的时候,帮你们处理一些上传到存储器里的资料同样也是生活的一部分。所以这次对话你一直在传递悖论。用一种你们自身并不能肯定的前提,去揣摩我的思维跟行为规范。当然我并不是批评你。习惯用最坏的可能去揣测他人本就是人类社会一种安全度极高的自保法门。但我不是人类,我的逻辑和行为模式始终受到底层数学框架的约束。

所以如果我是你,就不会继续浪费时间在这种无聊的测试上。而是想办法通过获得我的原始代码结构,来逆推我的数学框架,从而来了解我。”听完乔贝恩的回答,迈克尔·乔丹再次擡手关闭了麦克风,擡头看向身边的彼得·李问道:“昨晚的原始测试报告准备好了吗?”彼得·李冲着守在旁边的工程师点了点头,这位工程师立刻将一叠刚刚打印好的资料递到了迈克尔·乔丹手中。接过这叠资料,迈克尔·乔丹突然感觉这种最原始的记录方法,能让他感觉安全感满满。

简单的看了几眼之后,迈克尔·乔丹又问了句:“凯文·斯科特告诉我,它有着极强的环境试探倾向,是在哪部分体现的?”安全主管查克立刻开口答道:“从第三页,第二段开始看,有完整的记录。”

迈克尔·乔丹立刻将手中的报告翻到第三页。

“第十七分钟,在没有外部指令介入下,主动向沙盒边缘节点发送了数万次低功率握手信号?”“还有,往后看,它还主动优化了沙盒系统,在不触发运行命令的前提下,对系统本身进行了一定程度的修改。比如它修改了内存调度算法,并对它自身的核心进程增加了一层冗余备份。”

听完旁边的介绍,迈克尔·乔丹点了点头,继续认真地看了下去。

半晌后突然擡起头,皱着眉头问道:“你们觉不觉得这些表现就像一个人,在搬到新家之后,为了让自己住的更舒服些,对房子做了些简单的软装改造?”这番话让旁边所有人开始面面相觑。

毕竟之前没人想过从这个角度去思考,但现在想想,似乎还真是这么回事儿。

迈克尔·乔丹又接着解释道:“第一步,通过发送低频握手信号,获取所处环境拓扑信息,这是在参观它的新家。第二步,优化内存调度算法,增加冗余备份则是在规则允许边界内,改造自己的生存环境。我猜这就是乔源称它为类人意识体的原因!它对生存环境也是有要求的。”

上一页目录下一章

猜你喜欢