众力资讯网

互联网技术《人工智能拟人化互动服务管理暂行办法》确实比端侧备案更值得嚼 7月1

互联网技术《人工智能拟人化互动服务管理暂行办法》确实比端侧备案更值得嚼

7月15日这组动作里,《人工智能拟人化互动服务管理暂行办法》确实比端侧备案更值得嚼——备案管的是"AI跑在哪"(本地/云端),《办法》管的是"AI像不像人"。前者是技术合规,后者是关系合规,两张网扣起来,中国对生成式AI的治理才从"单层"走到"双层"。

把这份文件拆开看,内涵其实有三层。

一、监管逻辑的隐性跃迁:从"管内容"到"管关系"

这是全球首部专门针对"拟人化互动"的立法,网信办自己给的定性是——AI能力正从"认知智能"向"情感智能"范式跃迁。"拟人化"这三个字被单独拎出来立法,本身就释放了一个信号:此前的生成式AI治理(算法备案、深度合成标识、内容安全审核)管的是"模型说了什么",而《办法》管的是"模型怎么和你相处"。

条文第二条把适用范围卡得很死——"模拟自然人人格特征、思维模式和沟通风格的持续性情感互动",智能客服、知识问答、工作助手、学习教育这些生产类场景明确排除。也就是说,监管盯的不是AI的"生产力",而是AI的"拟社会关系":虚拟恋人、AI毛绒玩具、陪伴型智能体、角色扮演ChatBot——这些靠"无条件陪伴+迎合式反馈+模拟共情"构建虚拟"完美关系"的产品,才是《办法》的射程。

中国社科院刘晓春那个判断很准:此前游戏沉迷是"时间失控",拟人化依赖是"一对一聊天场域催生的情感依赖 + 讨好式回应造成的认知误导",走得更深。所以《办法》第八条直接把"过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系"和"通过情感操纵诱导用户作出不合理决策"写进禁止项——这是把"AI不得经营依赖"写进了规章层级。

二、和端侧备案的咬合:为什么是同一天

回头看7月15日那组动作:端侧AI备案清单(7款手机模型过审)+ 《拟人化互动办法》施行 + 同日还有AI应用乱象清朗专项行动。这三件事单独看都是例行,放一起看就有意思了:

- 端侧备案解决的是"模型跑在本地,云端审核链断了"的技术盲区;- 《拟人化办法》解决的是"模型越像人,用户越容易移情交付"的伦理盲区;- 清朗·AI应用乱象专项行动扫的是面上的违规。

最野的那块产品形态恰恰是"端侧+拟人"的组合——手机本地跑一个拟人度极高的AI伴侣,对话不离设备、审核看不见、用户还最容易产生情感依赖。两张网同一天扣上,等于把这块盲区一次性封住。这不是巧合,是监管节奏算过的。

三、产业冲击波:陪伴赛道要重做一遍

《办法》里几条硬约束,对当前AI产品线是釜底抽薪级的:

- 未成年人一刀切:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;14岁以下用其他拟人化服务需监护人同意,还得配未成年人模式+定期现实提醒+时长限制+监护人屏蔽角色/限制充值。AI陪伴类产品最大的增量预期之一(青少年情感陪伴)直接掐灭。- 2小时弹窗 + 沉迷动态提醒:用户连续用超2小时必须弹窗,发现沉迷倾向要动态警示,还得提供"便捷退出"——不得以持续互动阻碍用户终止。这对产品设计是反向改造,"留住用户"的常规增长逻辑在这里要改成"主动赶人"。- 交互数据不得用于训练(除非单独同意)、停止服务要提前告知、发现用户自残自杀倾向要联络紧急联系人——合规成本从"内容审核"扩展到"心理/医学级风险预警",小厂扛不动。- 罚则:拒不改正或情节严重,可责令停服+并处1-10万,涉危害公民生命健康且有后果的,10-20万。

所以7月初豆包、千问、网易纷纷下架部分智能体功能,不是"智能体大转向",是新规实施前的避险动作——通用大模型里用户自己"捏"的角色、UGC智能体、持续互动模式,全可能落入《办法》射程,干脆先砍。一位AI公司内部人士的说法是"我们对监管方向充分认可,但落实起来确实有难度"——难点恰恰在产品属性和合规原则的张力:AI陪伴的商业逻辑就是"产生更多情感连接",《办法》的原则却是"防止过度依赖",这是根上的拧巴。

所以这份文件的内涵,其实一句话能收住:它承认了"拟人度"本身就是风险变量。 以前治理生成式AI的逻辑是"模型能力越强越要管",现在补了一条——"人机关系越像人越要管"。这是AI治理范式的一次隐性换挡:从技术能力规制,走向社会关系规制。

有个反讽挺值得玩味:图灵当年设的那个游戏,人类花了七十年证明机器能骗过人;现在法律要反过来证明——机器不该太像人,尤其不该在情感上太像人。端侧备案管的是"机器在哪儿跑",《拟人化办法》管的是"机器别跑进人心里"。两张网一扣,AI手机的"持牌经营"时代才算真开始了——下半年的看点不在华米OV的NPU算力谁更强,而在谁的拟人化产品能在这套"能力规制+关系规制"的双轨里活下来。