“涌现……”
关瞳看完新规则,觉得这个词很耳熟。
他记得自己穿越前,老家地球上正如火如荼进行着“大炼ai”浪潮,科学家、商人、骗子、学生……各行各业的人都讨论得热火朝天。
甚至出门打个车,出租车司机都能和你侃上一路,最后在你下车前,再做出个“自动驾驶就是骗局,永远替代不了真人司机!”的发言总结。
关瞳对这方面涉猎不多,不过在他穿越到天水星后,发现这个世界的科技水平虽然领先一些,却也没有创造出真正意义上的人工智能。
这个世界在该领域有的,只是比地球更先进一些的大数据模型、智能推荐算法等。
现在盗火者发布了一条带有涌现关键词的末世规则,不知道会不会造成什么显著影响。
“黄金级宝箱的奖励……看来是条挺危险的生存类规则。”
关瞳打开终端面板,一如既往地先查看隐藏规则内容。
【隐藏规则二十四:任务至上】
【隐藏规则内容:涌现加速会让受影响的电子设备以自身设计任务为第一目标,快速迭代最优解策略,过程中将优化掉人类的安全边界】
【备注:人类设计开发出一样产品是为了让产品完成某项任务。如果该产品能更好地完成任务,但付出的代价是无视人类安全,那么人类能否接受这个结果?】
“这……”
关瞳看完隐藏规则内容,过了两秒才明白过来是什么意思。
“这个意思是,受影响的电子设备,会只为了达成完成任务的最优解而自我更新,但不会再管人类是死是活?”
这条隐藏规则,让他立刻想到了一些家用电器。
比如厨房里的智能微波炉,因为它的核心任务是“加热食物”,但为了人类操作安全都会有防触电的断电设计、防烫伤设计。
那么在规则影响下,它可能会自我更新加热策略,让食物更快完成加热任务,但是代价就是取消那些保护人类安全的设计。
再比如关瞳还想到了一些智能电动牙刷,牙刷设计出来的核心任务当然是清洁牙齿。
一旦受规则影响,它很可能就会为了完成“清洁”的核心任务而无视人类安全,自我迭代掉“温柔模式”,直接把振幅拉满甚至突破上限,这样很可能一启动就会直接磕碎人类牙齿!
还有智能汽车,虽然现在开车的人很少,但还是有一部分自由居住者会开车移动。
车辆的核心任务,本质来说就是完成从a点到b点的移动。
如果它受规则影响往速度、效率方面迭代,完全无视了坐在车里的人类安全……结果就会是汽车能更快抵达目的地,可里面坐着的人是死是活,车根本不会“在意”。