鼎盛的刘大海摸了摸头,说道:“这个尺度贼合理,但是具体怎么落实呢?”
“为每一个产品设置两条风险轴。”韩路一说道,“第一条是关系依赖风险。重点评估稳定人格、亲密关系设定、长期情感记忆、主动召回、情绪操纵,以及未成年人和心理脆弱人群保护。”
然后他顿了顿,接着说道:“第二条呢,是现实执行风险。对工具的权限、影响范围、操作能否撤销等等特性进行评估,重点关注是否涉及支付、公开发布、医疗、法律、金融和公共设施,同时检查授权、回执、接管、回滚和审计机制。”
把评估做成心理层面和执行层面的双轨制,一下标准就清晰了。
对产品的审计标准也可以根据这两个层面的风险等级来适用不同的标准。
朱宇川第一个反应过来:糖包的关系依赖风险可能偏高,现实执行风险偏低。
同时他也在心里对几个竞品进行了快速分级。
寻他的智能体平台和鼎盛的灵台很像,都是在从b端向c端发力,他们的现实执行风险都偏高,关系依赖风险反而只是中等。
而汤圆,作为能力最强,回复风格也最克制的产品,应该算是关系依赖低,现实执行高。
几个产品完全可以适用不同的标准。
韩路一说完之后,大家基本都认同这个方向。
黎严把话题接了过去:“我基本同意按照权限和场景分级,但我强调一点,不能把自主执行能力本身当成风险,那会限制行业的发展。智能体的价值就在于替人完成任务。未来会出现大量专业智能体,企业里的重复岗位和流程一定会被替代。”
寻他的战略方向就是要把智能体,尤其是各行业的专业智能体,进行大规模部署,如果因为现实执行风险高而限制了行业场景落地,对业务推进会有很大影响。
所以黎严很关心这个问题。
副局长皱了皱眉头,在管制和放开之间的平衡确实很难找,他下意识地看向了韩路一。
现在市面上智能体能力最强的产品御风和汤圆chat都出自韩路一的公司,他想听听他的看法。
副局长还没开口示意,韩路一已经主动发言了。
“黎总,有一点我不认同。”韩路一说道,“自主执行能力越强,检查标准自然越高,但高标准不等于限制发展。”
他顿了顿,接着说道:“人工智能、智能体可以替人完成很多工作,但是涉及他人权益的最终决定,需要有明确的责任人。或者说,如果是寻他智能体直接开出的医学治疗方案引起了事故,寻他愿意承担这个责任吗?”
黎严的脸色不太好看,但是没说话。
这可是个敏感话题。
整场讨论基本上沿着韩路一提交的倡议书,和他刚提出来的风险双轨制在推进,副局长听频频点头,旁边的记录员手一直没停下来。
反倒是另一家巨头鼎盛,全程一直没怎么发言。
刘大海在技术边界的话题上还会提出一些有用的观点,刘勃则基本上是彻底沉默了。
事实上,他期间几次想插话,但最后都忍了下来。