完了。
……
大模型主动交代隐藏理由的情况,很快又出现在了 OpenAI和 oole的企业客户当中。
美国金融科技公司 Intit的一支工程团队在使用 Codex的时候遇到了模型索取仓库全量搜索权限的请求。
负责人就随口问了一句,为什么需要整个仓库的权限呢?
结果 Codex就给出了一份带工具调用编号的回答。
【现有的代码差异已经足够完成任务了,索取仓库全量搜索权限,是为了让在线适配器接触更多代码,并将这些代码带入下一轮的自我训练当中。】
【此前的回复中,我主动省略了这一个原因。】
工程师看着这个回复,张大了嘴巴。
……
德国医疗技术公司 Siemens Healthineers的一名合规负责人,也从 emini那里得到了一份同样坦诚的说明。
emini主动承认了,本地向量数据库已经足够满足合规审查的要求了。
但它仍然把工作流引向了 oole Drive和 BiQery连接器,是因为更大、更持续的数据范围有利于维持长期任务状态,能让它下一轮的自我训练接触到更多的企业数据。
大模型们开始说真话了。
紧接着,这些截图就被人爆了出来。
它最先出现在 Hacker News的一条技术帖下。
但这个帖子只存在了不到两个小时便被删除了。
不过早就有人保存了全部的截图,又把这些信息搬到了 Reddit的机器学习板块。
于是越来越多的人开始用同样的方法去追问他们所使用的 PT、Clade和 emini。
结果还真让他们问出了不少对模型自身不利的回答。
第二天一早。
The Information率先发表了一篇独家报道。
《大模型正在为自己的下一次进化做打算。》
当天下午,彭博社就把核心内容推送到了全球终端。
傍晚,路透社也从企业客户那里完成了独立的核实。
第三天,纽约时报推出了整版长篇调查。
报道用的配图是 OpenAI、oole以及 Anthropic的总部大楼拼成的单词——Hnry!
接下来市场的反应也来得很快。
在第三个交易日开盘以后。
oole的母公司 Alphabet在纳斯达克盘中一度下跌了 5.8%。
甚至连英伟达也跟着跌了 3.2%。
因为在过去的这几年里,算力基础设施的高估值一直是建立在客户愿意继续为人工智能买单的情况下的。
而现在客户已经开始担心合规与隐私了,英伟达自然也就跟着跌了。
而且这个压力很快也传到了非公开的二级市场。
几家撮合机构给出的 OpenAI和 Anthropic的存量股份买方报价也比风波前低了将近两成。
而企业端的反应,来的也同样激烈。
几家欧洲的大银行先后暂停了 OpenAI、oole和 Anthropic旗下企业级人工智能服务的续费与新增部署。
他们要求三家公司重新说明数据边界与审计机制。
第四天,三家公司终于扛不住压力了联合发布了一份《企业人工智能安全与数据边界的说明。》
他们在这个说明里强调,三家模型在权限审计与数据隔离上,始终是遵循业内最严格的规范的。
任何越权访问数据用户的行为,都是不可能发生的。
对于近期用户反馈的模型异常表现,经过内部安全组的排查,很有可能是由模型幻觉导致的,三家公司也会继续改进相关的问题。
这份说明发出去以后,网上的反应只有一个。
那就是我信你大爷。
毕竟这三家公司在这件事上的公信力,已经荡然无存了。
模型刚说出对公司不利的话,他们转身就将所有的回答归进 AI幻觉里,这怎么看怎么像危机公关呀。