“用户规模呢?”
“头部产品注册用户过百万,大部分规模较小。问题在于门槛低,很多产品直接套用第三方模型,开发团队可能只有几个人,安全能力基本靠模型供应商。”
卫健系统来的是个心理危机干预的专家,他提了第一个问题:“这些个应用,对未成年人有限制吗?”
“有些会核实身份证,有些只要求勾选已满十八岁。”
这个回答出来,有人嗤笑了一声。
这年头,只要是会上网的,谁不说自己十八岁。
这些企业就是逃避责任。
卫健系统的专家脸上露出无奈的神情:“我们这边做过一些调查,长期陪伴型应用的风险,和普通知识问答差别很大。它们就是想让用户觉对面的是‘真人’,未成年人的分辨能力差,很多时候会混淆;就算是让成年人使用,也有可能会产生依赖。”
教育部门的负责人问:“孩子愿意和人工智能说话,总比什么都不说强吧?”
专家皱了皱眉头,这发言也太不专业了,还是教育系统出来的?
他耐心的解释道:“对青少年的引导必须慎重,青少年的心理状态不成熟,这个能交给人工智能?人工智能的识别能力怎么样先不说,他们做这个不就是为了赚钱,为了留存?”
他用手指了指海外案件的材料。
“前车之鉴啊。”
教育部门的负责人感觉自己说错话了,不再言语。
多说多错,少说少错。
会议室里安静了一会儿,老李开口道:“咱们今天一时也不会有什么结果,我建议还是先发一个通知,让企业自检,咱们整理一个材料,节后再让领导决定,大家有什么不同意见?”
老李的这个问法很讲究,你要是问大家有什么意见,可能人们会畅所欲言;可是他问有什么不同意见,一般不会有人站出来反对。
结果还真有。
卫健系统的专家开口道:“这个风险还是有点儿大,不能先通知下架吗?”
老李皱了皱眉头,下架的动静就太大了。
应用管理处的人出来说道:“全部下架不太现实,很多时候这些应用分类也不太明确,我看这样,面向公众开放、主打长期情感陪伴、人格关系和连续记忆的应用,先让他们暂停服务,自检。有些应用呢,提供的主要是知识问答类,甚至是作为业务流程的一部分,比如寻他的一些智能体应用,这些就不列入限制,您看怎么样?”
专家点了点头,又补充了一句:“那边文章的原文我看了,其实那个叫汤圆的应用处理的很符合规范,那个先不用暂停?”
应用管理处的人露出为难的神色:“像这种全行业范围内的通知,只留一家不发,不太合规,一家一家的核实过去,时间也不合适。”
老李赶紧拍板:“你说有道理,先统一处理吧。”
会议暂时到这,参会的各位都整理材料,节后还汇报。
老李一出门就给局里的领导打了个电话。
领导就问了两个问题:“影响范围有多大?”“那个汤圆呢?”
老李听到第二个问题心里一惊。
领导可能是看过那篇网络热贴,才知道这个名字;但也有可能是本来就知道这个名字。
老李不知道是哪种情况。
他如实回答了之后,领导却没再多问,批准了。
挂了电话之后,老李想了想领导的问题,又想了想刚才那个专家的话,决定去找到应用管理处的人再对一下。
两人下载了一个汤圆chat研究了一番。
“我看,如果企业能把纯聊天的功能关了,只留这个智能体的功能,应该也是符合不用暂停服务的条件的吧?”老李问道。
“是,是。”应用管理处的人认同道。