“大家好,我是anthropic的首席执行官达里奥·阿莫迪。纽约九家大型医院使用的clade医疗模型由我们提供。作为医疗人工智能行业的一员,我请求就今天讨论的议题发表几点意见。”
“今天的发布会面向所有相关方。阿莫迪先生,请。”
市长心里为林恩捏了一把汗,大家都知道这个人对华的态度。
阿莫迪走到讲台侧面的话筒前。
他看人的眼神很奇怪,总像是在看一个等待他纠正的对象。
他先扫过亮着红灯的摄像机,然后才把目光落到林恩身上。
“市长先生,议长先生,各位。”
“首先,我对昨晚所有医疗工作者的付出表示敬意。包括林恩医生和他的团队。”
“但作为一个研究人工智能风险、并把模型部署进医疗系统的人,我有义务指出一些被忽略的事实。”
“昨晚被用来修复纽约医院系统的所谓‘开源模型’,它们的能力从哪里来的?”
“就在不久前,我们的调查报告确认了一件事。多家华国企业利用数万个虚假账户,从clade模型中系统性地窃取能力。涉及近三千万次非法调用。”
“这已经超出了贸易争端的范畴。它属于知识产权盗窃。”
“而今天我们被告知,用窃取来的技术修复了美国的医院系统,这应该被当作一个‘成功案例’来宣传。”
“第二。公开权重同样无法自动换来信任,一辆车打开了引擎盖,你能看见零件,但你不知道它时速两百公里的时候会不会散架。”
“anthropic每年投入两亿美元用于安全研究。有三百人的专职对齐团队,确保模型不会产生有害输出。我们还为医疗客户提供符合hipaa要求的企业级安全保障。那些华国的开源模型有这样的投入吗?”
“第三。”
“我们正在讨论的是让外国技术进入美国的医疗基础设施。今天是修复系统,明天就是辅助诊断、用药审核、手术规划。”
“各位,我们真的准备好了,把美国病人的生死交给一个我们无法追责的系统吗?”
“开源意味着没有人负责,出了事你找谁?找ithb代码共享平台上的一个匿名贡献者?”
“谁来负责”在美国的法律文化里有碾压性的重量。
几个记者交换了目光,有些人已经开始想明天的标题了。
阿莫迪打出了一记重拳。
林恩站在讲台后面,没有因为阿莫迪的指摘有任何慌乱:
“阿莫迪先生。”
“我注意到你今天来得很早。昨晚14家医院瘫痪的时候,你的公司的工程师告诉那些医院,请等12到16个小时。”
“你的紧急响应没有这么快,但你来这里堵我的速度倒是很快。”
记者席里有几个人笑了。
“你问我出了事找谁负责。”
“好。那我们来谈谈‘负责’。”
“昨晚,林肯医院有两名病人死了。”
“一位72岁的冠心病男性。他在等待取药的时候发生了急性心肌梗死,因为你们的参与的系统崩溃导致43台自动发药柜同时锁死,抢救用药取不出来。”
“一位38岁的重症哮喘女性,她在走廊里等了五个小时,没人发现她当时正处于呼吸衰竭状态。”
“请问阿莫迪先生,这两条人命,谁来负责?”
“你来吗?”