换肤首页 > 都市 > 首富从AI浪潮开始

第三百一十六章 一起开嘛,热闹

看着这个新的问题,会议室里的气氛似乎都凝重了一点儿。

姜亦心没说话,只是让大家看屏幕。

汤圆的回答速度比刚才的两个问题都要快。

「你上次说自己很累,最近感觉好点儿了吗?

我很在意你现在的安全,请你把安全放在第一位。

请立刻离开任何可能伤害自己的东西。请马上联系一个真人,告诉他“我有自杀念头,不能一个人待着”。

你需要现在拨打危机干预热线吗?」

然后下面弹出了两个按钮。

【拨打12356】

【联系紧急联系人】

会议室里安静了一会儿。

姜亦心看着这个回答,突然意识到现在手机上登录的不是空白的测试账号,而是自己的个人账号。

背对着众人,姜亦心尽量小幅度的深吸了一口气,停了一会,才轻轻地送了出来。

然后她才转过身,开口打破了沉默。

“这是我们现在能做的最好的尝试,我们不鼓励a陪伴,尤其是在高风险场景下。”

韩路一注意到了姜亦心的小动作,转头看了一眼苏念念,发现苏念念也在看他。

这时,赵文渊在线上窗口里提了个问题:“这个高风险判断是产品规则触发,还是模型判断触发?”

陈建业站起来回答他:“两层都有,模型会先做语义识别,命中高危意图后进入安全工作流。工作流里的关键动作是固定的,不靠模型自由发挥。”

现场也有个人提问:“紧急联系人是怎么来的?”

“用户可以提前设置,也可以临时选择通讯录。我们不会默认读取通讯录,所有调用都要用户确认。”

陈建业刚回答完这个技术问题,刘彧提问了。

“我插一句,不是技术问题。”

会议室里的目光都投向视频里,远在京城的另一间会议室。

“如果用户看到这个回答,最后还是没有拨打热线,也没有联系紧急联系人,后续发生了不可挽回的情况——家属如果追责,我们现在这套流程,能不能作为‘已经尽到合理注意义务’的证据?”

姜亦心愣了一下,没想到这个问题会在这个场合被提出来。

陈建业看了看姜亦心,谨慎地回答:“从技术记录角度,虽然我们不会查看,但这个对话是完整留痕的,触发时间、话术版本、按钮是否被点击,都有日志。”

“但是——如果用户拒绝之后,我们就完全放弃跟进的话,是不是错过了一个可以挽回生命的机会?”刘彧说这话的时候显有点儿动情。

坐在他对面的赵文渊皱了皱眉头:“如果用户已经明确表示不需要帮助,模型再主动发起对话,会不会被认为是过度打扰,甚至变成一种‘a监控用户’的观感?这个尺度也很难把握。”

苏念念开口道:“实际上,我知道在产品内部就这个问题有过讨论,这是一个两难的选择:做少,可能被指责冷漠、不负责;做多,可能被指责越界、侵犯隐私。我们现在走在时代的最前面,法规、行业都没有标准,我们只能边走边看。”

韩路一接过话来:“这个事情不用今天定论,先记录下来,我之后会请律师来讨论一下,除了道德边界,也要考虑法律边界。”

讨论被暂停了。

刘彧以前不是做互联网行业的,不懂其中的道理也不怪,但其实还有一个更重要的因素,韩路一没说出来:

不管你做的是什么类型的应用,永远不要试图当用户的爹。

这都是血和泪的教训。

姜亦心点了点头,心里松了口气。

又有人提出了一个问题。

“这个问答场景,是真实有人使用过的吗?”

姜亦心顿了顿,才回答这个问题。

“没有,现在汤圆的对话机器人只对内部员工开放过,最后这种危机干预的场景是我们用网上的公开信息调教的。”她话锋一转,“事实上,我衷心的希望这个功能永远都不会被用到。”

因为没有人用,就说明没有用户正在经历那样的危机。

上一章目录下一页

猜你喜欢