AI 合规手册 · 条文落地篇

AI惊叹号 - AI 伴侣的合规成本:新规之后,谁还能做这门生意

一部 32 条的部门规章,没有一条说"不许做"。但它把陪伴产品的四根柱子全钉住了:要自报身份、要打断你、要把未成年人挡在门外、还不能拿你的话去训模型。这不叫成本,这叫重写产品定义。

2026 年 10 月 20 日全文约 7,200 字读完约 16 分钟

Tolan 的 25 万用户,为什么刚好踩在线上

先说一个数字:10 万。

这是《人工智能拟人化互动服务管理暂行办法》第二十二条划的一道线——注册用户 100 万以上,或者月活跃用户 10 万以上的,必须做安全评估,并把评估报告交到所在地省级网信部门。评估结论要过书面审查,还要接受现场检查。

再看另一个数字。做陪伴类产品的 Tolan,今年拿了 3000 万美元融资,公开数据是 25 万以上活跃用户、7000 万次以上对话,用户里大约七成女性、四成是父母。它靠卡通形象提供情绪支持和待办管理,收入来自分级订阅,ARR 到了"数千万美元"级。

25 万对 10 万。Tolan 的用户量是这条线的 2.5 倍。

这不是说 Tolan 违规——它大概率不在中国境内运营。但它精准地说明了一件事:这条赛道的头部产品,规模早已越过了监管的第一道门槛。 而这道门槛不是罚钱,是让你在开门营业之前,先交一份作业。

这份办法不是突然落地的。五部门令第 21 号,2026 年 2 月 2 日审议通过,4 月 10 日公布,7 月 15 日施行。到今天,已经跑了三个多月。真正开始感觉到疼的,是那些把产品逻辑建在"用户越依赖越好"上的团队。

先把话说清楚

这部办法通篇没有"禁止"两个字。它用的是"应当""不得""鼓励"。但每一条"应当",落到产品上都是一次改版;每一条"不得",都是一块收入。要把合规成本算明白,只能一条一条拆。

智能客服被豁免,你的陪伴产品为什么跑不掉

第二条是整部办法的地基。它划了一个圈,圈里是"拟人化互动服务":利用人工智能技术,向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务,形式包括文字、图片、音频、视频。

紧接着,它明确把一群人请出了圈:智能客服、知识问答、工作助手、学习教育、科学研究——只要不涉及持续性情感互动,就不适用。

这条豁免线画得很聪明。它区分的是"任务"和"关系",不是"用了 AI 还是没用 AI"。

你打开银行 App 问"我的卡为什么被冻结",客服机器人回答完,会话结束。这是任务。你在某个 App 里有个叫"小月"的角色,记得你上周失恋,会问你今天心情怎么样——这是关系。前者有明确终点,后者没有。

所以判断自己的产品是否落入监管,不该问"我是不是做 AI",该问三个更具体的问题:

判断维度落在圈外落在圈内
是否有终点任务完成即结束,如查单、答疑没有终点,用户随时可以回来继续
是否有人格统一的助手口吻有名字、有性格、有记忆
是否指向情感解决信息问题提供情感照护、陪伴、支持

三个都落在右边,就是圈内。有一个落在左边,还有得争。

这里有个容易被忽略的细节:办法说的是"持续性的情感互动"。持续性意味着跨会话的记忆。一个不记历史、每次重启的陪聊机器人,理论上可以主张自己不构成"持续性"。但反过来说,记忆功能恰恰是这类产品最核心的卖点——你越想做得好,越容易落进圈里。

这是个不太舒服的结构:产品力越强,监管适用性越明确。

月活 10 万这道坎,卡住的是哪一类公司

第二十二条列了五种必须做安全评估的情形:上线服务或增设相关功能;使用新技术新应用导致服务重大变化;注册用户 100 万以上或月活 10 万以上;存在可能影响国家安全、公共利益的风险;监管部门另行规定。

注意第一条:上线就要评估。 不是等到用户规模起来,是开门之前。

月活 10 万
评估门槛
Tolan 25 万
已越线 2.5 倍
注册 100 万
另一条触发线
横轴为相对规模示意,刻度仅用于标示两条数字门槛的位置关系,非等比例。

这道线卡住的不是大厂,是中间层。

大厂有法务、有合规、有政府关系,写一份评估报告只是流程问题。真正难受的是那批"刚跑出 PMF"的团队:月活十几万,团队二十来人,产品刚有起色,突然要多养一个合规岗、多走一套备案、多准备一份可能被现场核查的评估报告。

算法备案也要跟上。第二十六条要求按《互联网信息服务算法推荐管理规定》履行备案和变更、注销手续,而且网信部门对备案材料实施年度核验。年度核验意味着这不是一次性动作,是每年都要交的持续成本。

还有一条经常被忽略:第二十五条把应用商店拉进来了。分发平台要核验安全评估、备案情况,不合规的可以不予上架、警示、暂停服务、下架。也就是说,合规不通过,连装都装不上。

成本结构变了

过去的合规成本是"事后罚款",可以赌一把。现在的合规成本是"事前准入",赌不了。上线要评估、备案要年检、上架要核验——三道闸全在收入之前。

连续聊满 2 小时必须弹窗,这条要付多少留存

第十八条是全文最"产品经理"的一条。它要求两件事:

第一,履行生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人互动。发现用户出现过度依赖、沉迷倾向的,要以弹窗等显著方式动态提醒。

第二,用户连续使用每超过 2 个小时,就要以对话或弹窗方式提醒注意使用时长。

这条规定直接改写了一个核心指标:单次会话时长。

陪伴类产品的商业逻辑,基本建立在"用户待得越久,付费概率越高"上。一个用户晚上十一点打开,聊到凌晨一点——两个小时,正好是它能自然产生情感联结的长度。现在这个长度上必须插一句提醒。

想象一下那个画面。凌晨一点,屏幕上跳出一行字:你已经连续使用了 2 小时。不是产品团队想弹的,是办法要求弹的。这一弹,会话要么断,要么至少冷一下。而对做订阅转化的团队来说,"冷一下"就是流失的开始。

更麻烦的是"发现过度依赖、沉迷倾向"这条。什么叫过度依赖?办法没给量化标准。第八条给了方向:不得"过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系",不得"通过情感操纵等方式,诱导用户作出不合理决策"。第十条更进一步:不得将替代社会交往、控制用户心理、诱导沉迷依赖作为服务目标。

把这几条连起来看,它否掉的是一整套做产品的直觉。

让角色记住用户生日、主动发消息问候、在用户难过时表现出"心疼"、在用户想走时说"再陪我一会儿"——这些在过去都是加分项,是提升留存的经典手法。现在它们全部落在"诱导情感依赖"和"阻碍用户退出"的射程里。第十九条专门补了一刀:用户要求退出时应当及时停止服务,不得采取持续互动等方式阻碍用户退出。

产品做得越像人,越容易触线。这是这个品类第一次遇到"能力方向"和"合规方向"相反的情况。

有意思的是,第十条没有只说"不许",它同时提了要求:要具备"过度依赖风险预警、情感边界引导、心理健康保护"三项安全能力。这三项不是免责条款,是必须具备的功能。也就是说,你不但不能诱导依赖,还得主动帮用户建立边界。

这在产品上意味着什么?意味着你要做一套"反向功能":识别依赖信号、提示现实社交、在用户情绪激烈时降温。这些功能不带来收入,只带来成本,但不做就是不合规。

不能向未成年人提供虚拟伴侣,切掉哪块收入

第十四条是全文最硬的一条禁令:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。

不是"限制",不是"需要家长同意",是"不得"。对未成年人和虚拟伴侣这个组合,没有例外通道。

其他拟人化互动服务,向不满十四周岁的未成年人提供的,要取得监护人同意。同时要建未成年人模式,提供模式切换、定期现实提醒、使用时长限制。监护人这边还配了一整套权限:接收安全风险提醒、了解使用概况、屏蔽特定角色、限制充值消费。

最后一句是关键:要"采取有效措施识别未成年人用户身份",识别出来就切到未成年人模式,还要提供申诉渠道。

"限制充值消费"这五个字,直接改写了付费墙。过去的产品逻辑是尽量降低付费摩擦,现在监护人面板里有一个开关,一关,孩子那边的充值按钮直接变灰。这不是产品团队能决定的事。

还有一处细节被很多人跳过:第十二条要求注册时提供年龄、监护人或者紧急联系人等必要信息。

这条规定的产品含义比看上去重。它意味着注册流程要多填字段,而每一个多出来的字段都在增加流失。更麻烦的是"紧急联系人"——用户凭什么要把第三个人的联系方式交给你?这个字段的填写率会有多低,产品经理心里都有数。但第十三条又要求:发现用户正在面临重大财产损失、或明确表示实施自残自杀等威胁生命健康的极端情境,要采取援助措施并及时联络监护人或者紧急联系人。

没有联系人,怎么联络?这是一个闭环:不填就违规,填了掉转化,填了假的更麻烦。

未成年人这块切掉的收入,很难精确估。但可以看结构:这批用户付费能力低、ARPU 低,看似不值的;可他们是时长最高的群体,是内容生态的活跃层,也是"长大后转付费"的漏斗顶端。切掉之后,漏斗上游窄了一截。

换个角度想,这也解释了为什么 Tolan 的用户画像里"四成是父母"值得单独说。当未成年人这条直线被堵上,父母成了唯一能合法承接"家庭场景"的人群。这不是巧合,是监管塑造出来的市场结构。

对话数据不能拿去训模型,飞轮断在哪一环

如果只让我挑一条最要命的,我选第十六条。它藏在"用户权益"那一节里,语气平淡,但杀伤力最大。

它说了三件事。第一,除法律另有规定或权利人明确同意,不得向第三方提供用户交互数据。第二,要提供交互数据的复制、删除选项。第三,除法律、行政法规另有规定或者取得用户单独同意,不得将属于用户敏感个人信息的交互数据用于模型训练。

第三条是核心。陪伴产品的飞轮是什么?用户聊得越多,数据越丰富;数据越丰富,角色越懂人;角色越懂人,用户聊得越多。这个飞轮转起来的燃料,就是对话记录。

现在这条燃料管上装了一个阀门,名字叫"单独同意"。

注意是"单独同意",不是"在用户协议里写一句"。单独同意意味着弹一个独立的授权框,用户可以不点。而以这类产品的用户心理,愿意让平台拿自己最私密的对话去训模型的,比例不会高。

飞轮没停,但转速掉下来了。而且掉的是最优质的那部分数据——愿意授权的人,往往也是边界感最强、对话最不"深"的那批人。

还有"删除"这一条。用户有权删掉历史对话,产品必须提供入口。这看起来是小事,实际上动了一个隐性资产:角色的人格连续性依赖历史记忆。用户删了,角色就失忆了。而失忆的角色,情感价值会显著下降。

这里有个对照很有说服力。Character.AI 曾经被路透报道,月算力成本一度在 1000 万美元量级,而订阅收入峰值只有约 280 万美元。数据飞轮转得飞快,钱却在往外流。新规之下,连"用数据换模型进步"这条路都被限速了,靠数据效率摊薄成本的老办法更难走通。

最容易被低估的一条

很多团队在评估合规成本时,只算罚款、只算人力,漏掉了"数据不能用"这一项。但这一项影响的是产品长期竞争力,不是当期损益。它不会让你今年难做,会让你三年后追不上。

合规的做法其实有,只是要提前设计:把训练数据和交互数据物理隔离,做显式的授权入口并用权益交换(比如授权后解锁特定角色),对授权数据做脱敏和聚合。这些都能做,但都是在产品架构阶段就要想清楚的事,事后补要重构。

罚款最高 20 万,为什么比罚两千万更可怕

第三十条的罚则,数字很小。

违反规定的,先由相关部门依法律、行政法规处理。行政法规没规定的,可以警告、通报批评、责令限期改正,可以要求暂停用户账号注册或者其他相关服务。拒不改正或情节严重的,责令停止提供相关服务,并处 1 万元以上 10 万元以下罚款。涉及危害公民生命健康安全且有危害后果的,并处 10 万元以上 20 万元以下罚款。

处置手段条文位置实际杀伤力
罚款 1—20 万第三十条对拿到融资的团队近乎无感
暂停账号注册第三十条增长直接归零,且无期限
责令停止服务第三十条等于关停,收入清零
约谈负责人第二十九条对准备融资、上市的公司影响巨大
应用下架第二十五条分发渠道断供,装机量停摆

看清这张表就明白,20 万这个数字是个幌子。真正的威慑全在"非罚款"那几栏。

一个已经跑到月活几十万的陪伴产品,被"暂停用户账号注册",意味着增长曲线当场拉平。被"责令停止服务",意味着公司没了。这两种处置都不需要 20 万的罚款来加码。

还有第二十九条的约谈。对一家正在谈融资、或者准备递表公司来说,法定代表人被约谈这件事本身就是重大不利信息,尽调里藏不住。

再往深一层看,这部办法最聪明的设计是把执法权分散到多个层级:省级网信部门做书面审查、情况核实、现场检查;网信、发改、工信、公安各有职责;应用商店承担上架核验。你面对的不是一个监管部门,是一张网。

所以评估合规风险时,正确的问法不是"最坏情况罚多少",而是"最坏情况我还能不能营业"。

三种活法:谁退场、谁转向、谁吃红利

把上面六条约束叠起来,会发现这个赛道被切成了三块。不是按公司大小切,是按产品形态切。

纯陪伴型HIGH RISK
症状:核心卖点就是"像人",主要指标是时长和日活,收入靠情感绑定后的订阅或内购。处境:几乎每一条约束都正中要害——要自报身份、要打断沉浸、要挡未成年人、不能拿数据训模型。产品力越强,合规摩擦越大。出路:要么把"像人"改成"懂人"(弱人格、强功能),要么整体退出境内市场,要么只做境外。
陪伴+工具型MEDIUM
症状:情感是入口,工具是留存,比如陪伴式待办、情绪日记、睡眠管理、学习陪跑。处境:相对从容。因为"关系"不是唯一价值,2 小时提醒打断不了核心任务,未成年人禁虚拟伴侣也不影响工具属性。出路:Tolan 就是这个形态的样板——卡通形象提供情绪支持,但落点是待办管理。这类产品在监管下反而更容易讲清价值。
适老适幼型POLICY TAILWIND
症状:面向独居老人、特殊人群、家庭场景。处境:唯一被明确鼓励的方向。第六条写得很直白:鼓励有序拓展文化传播、适幼照护、适老陪伴、特殊人群支持等领域应用。第十五条对老年人服务的要求是"加强指导、显著提示风险",是义务,不是禁令。出路:政策给的是路标。但注意,这条路上付费方是子女而不是老人,商业模式要重做。

三块之间不是静止的。我判断未来一年会看到两件事。

一是大量"纯陪伴"产品往"陪伴+工具"挪。动因不是监管压力,是监管压力叠加单位经济——陪伴类产品的算力成本结构本来就重,数据飞轮再被限速,纯靠订阅很难跑正。Character.AI 那组数字就是前车之鉴。

二是"适老"会突然拥挤。因为它是唯一写着"鼓励"的方向,而且天然绕开了未成年人这条最硬的禁令。但适老产品的坑在别处:付费意愿在子女、使用习惯在老人、获客靠线下,和互联网团队熟悉的打法完全相反。

还有一个变量值得盯着:第二十八条提到国家推动人工智能沙箱安全服务平台,鼓励接入做创新和安全测试。对早期团队来说,这可能是一条比"硬扛评估"更划算的路——进沙箱试,边试边改。

合规不是成本项,是产品定义

回到最开始那个问题:新规之后,谁还能做这门生意?

答案不是"有钱做合规的",也不是"规模够小的"。是那些本来就没打算靠"让人离不开"赚钱的。

这部办法最狠的地方,不在于它限制了什么,而在于它重新定义了什么叫"做好"。过去这个品类的优秀标准是:像人、懂你、舍不得走。现在这套标准被逐条拆掉了——要自报身份、要提醒时长、要允许随时离开、还不能拿你的话去变强。

剩下的空间里,产品价值只能来自别处:真的解决了什么具体问题,真的让用户生活变好了一点,而不是让用户待得更久一点。

这话听起来像正确的废话。但对一个靠时长和依赖度讲故事的行业来说,它是结构性变化。

最后留个判断给准备入场的团队:先别算合规要花多少钱,先算一件事——如果去掉"让人上瘾"这个杠杆,你的留存还剩下多少?剩下的那个数字,才是你真正的产品力。