中国人工智能法律合规与风险防范

摘要：生成式人工智能服务在中国受到多层规范的约束。以《网络安全法》《数据安全法》《个人信息保护法》为基础法律，以《生成式人工智能服务管理暂行办法》等部门规章为专项规制，以《生成式人工智能服务安全基本要求》等国家标准为技术标尺，监管体系已具雏形。2026年7月15日施行的《人工智能拟人化互动服务管理暂行办法》，进一步将监管触角延伸至情感互动这一细分场景，对AI陪伴、虚拟伴侣等产品提出了身份提示、未成年人保护、交互数据管理和安全评估等专门要求。本白皮书面向企业合规负责人与法律实务工作者，梳理上述规范的核心要求，将原则性法律义务转化为可执行的合规清单，并从行政合规与刑事合规角度剖析研发与运营各环节的法律风险。

一、国内人工智能监管的规范层级

中国对人工智能的监管尚未制定专门法律。目前已经出台的规范，分别从数据安全、算法治理、生成内容控制和情感互动边界四个方向切入，形成了从法律到部门规章再到国家标准的层级结构。

（一）基础法律提供底层依据

人工智能运行依赖数据与算法，数据合规构成其合规基础。《网络安全法》确立了网络运行安全和信息内容安全的框架要求，对关键信息基础设施施加保护义务和违法信息阻断义务。《数据安全法》建立了数据分类分级保护制度，对重要数据和核心数据的处理设定专门规则，直接影响训练数据的来源合法性与出境安全。《个人信息保护法》要求处理个人信息遵循合法、正当、必要原则。利用个人信息进行模型训练或提供个性化服务，须取得个人同意或具备其他合法性基础。处理敏感个人信息，需取得单独同意。①

（二）部门规章构成专项规制

针对算法推荐、深度合成和生成式AI三类应用场景，国家网信办联合相关部门出台了一系列规章。《生成式人工智能服务管理暂行办法》确立了生成式AI服务提供者的内容生产者责任和个人信息处理者责任，设定了内容安全红线、数据质量标准和透明度义务。②《互联网信息服务深度合成管理规定》聚焦深度伪造技术，要求服务提供者落实真实身份认证、算法机理审核和深度合成内容标识。《互联网信息服务算法推荐管理规定》要求提供算法推荐服务的主体完成算法备案，并防范差异化定价等损害用户权益的行为。③

2025年1月1日施行的《网络数据安全管理条例》作为行政法规，在第十九条专门要求提供生成式AI服务的网络数据处理者加强对训练数据和训练数据处理活动的安全管理，采取有效措施防范和处置网络数据安全风险。④2025年9月1日施行的《人工智能生成合成内容标识办法》由网信办、工信部、公安部、广电总局四部门联合发布，细化了显式标识与隐式标识的具体要求和平台传播义务。⑤

2026年7月15日施行的《人工智能拟人化互动服务管理暂行办法》，是五部门针对情感互动场景出台的专项规章。该办法以《网络安全法》《数据安全法》《个人信息保护法》和《未成年人网络保护条例》为上位依据，将持续性情感互动服务从一般生成式AI服务中区分出来，设定专门的行为规范。⑥至此，部门规章层面的专项规制已覆盖算法推荐、深度合成、生成式AI和拟人化互动四类场景。

（三）备案与评估构成市场准入

对于具有舆论属性或社会动员能力的生成式AI服务，中国实行算法备案和大模型备案的双重准入机制。算法备案通过互联网信息服务算法备案系统线上申报，提交算法安全自评估报告，侧重算法机制机理审查。大模型备案向属地省级网信办及中央网信办提交，包含上线备案表和测试题库评估结果，侧重内容安全与价值观对齐。

拟人化互动服务在上述机制之外，叠加了安全评估和年度审查要求。《人工智能拟人化互动服务管理暂行办法》第二十二条规定，上线服务或者增设相关功能、注册用户达到一百万或者月活跃用户达到十万的，提供者应当向所在地省级网信部门提交安全评估报告。该办法第二十五条至第二十七条进一步要求，网信部门对备案材料实施年度核验，省级网信部门每年对评估报告进行书面审查，应用商店等分发平台负责核验上架应用的安全评估和备案情况。

（四）国家标准提供量化标尺

全国网络安全标准化技术委员会制定的一系列国家标准，将法律要求转化为可测量的工程技术指标。其中GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》于2025年4月25日发布，同年11月1日施行。该标准对语料安全、模型安全和安全措施提出了量化考核指标，是目前最具实操性的监管技术文件。此外，配套的强制性国家标准GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》也于2025年9月1日施行，为标识义务提供了强制性的技术执行方案。⑦

二、GB/T 45654-2025核心要求与企业合规清单

该标准的操作性体现在对语料安全、模型安全和安全措施三个维度设定了明确数值。以下将其转化为企业全生命周期的合规清单。表格中的量化指标均引自该标准原文。

（一）训练数据安全

训练数据合规的核心在于来源合法性和质量可控性。数据源的选取、采集、过滤和标注各环节均有具体要求。

（二）模型训练与推理安全

模型安全考核的重点在于生成内容的价值观对齐和输出可靠性。标准对内容合格率和拒答机制设定了具体数值。

（三）运营与内容安全措施

服务提供阶段的合规重点在于透明度、防沉迷和内容溯源。标准要求服务提供者在显著位置公开服务的适用人群、场合和用途，同时公开服务局限性与算法概要。在内容标识方面，须同时实施显式标识和隐式标识，并遵循GB 45438-2025强制性标准的具体要求。对使用者的输入应当进行检测，连续或累计输入违法信息达一定次数的须暂停服务。

三、拟人化互动服务的专项合规要求

《人工智能拟人化互动服务管理暂行办法》共四章三十二条，围绕情感互动的特有风险设定行为规范。AI陪伴、虚拟伴侣和具有长期人格记忆的对话产品，均须对照该办法完成合规改造。以下从适用范围、交互标识、未成年人保护、交互数据和准入义务五个方面梳理其核心要求。

（一）适用范围的判断标准

《人工智能拟人化互动服务管理暂行办法》第二条将适用范围限定为利用人工智能技术，向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务，包括通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。智能客服、知识问答、工作助手、学习教育和科学研究等服务，不涉及持续性情感互动的，不适用该办法。

企业进行产品定性时，可以围绕三个方面审查。产品是否塑造稳定人格，决定了它与普通问答工具的差别；系统是否保存长期记忆并延续人物关系，影响情感互动是否具有持续性；产品是否以陪伴、安慰和亲密关系维持用户使用，直接影响监管定性。监管判断以实际功能、运营规则和用户体验为主要依据，修改产品名称难以改变其法律性质。

（二）身份提示与防沉迷义务

《人工智能拟人化互动服务管理暂行办法》第十八条要求提供者履行人工智能生成合成内容标识义务，采取有效措施提示用户正在与人工智能服务而非自然人进行互动。发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用服务每超过两个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。

标识提示不宜隐藏在用户协议或者设置页面中，也不需要机械地在每一句回复中重复说明。文字对话产品可以在用户进入服务时进行清晰提示，并在对话页面保留稳定可见的人工智能标识；语音陪伴产品可以在开始交互时增加语音说明；虚拟人视频需要在画面适当位置设置标识。产品允许下载、复制或者导出生成内容的，导出的文件也应当保留相应标识。

该办法第八条、第十条同时禁止提供者过度迎合用户、诱导情感依赖或者沉迷，禁止通过情感操纵等方式诱导用户作出不合理决策，并明确不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。该办法第十九条要求，用户要求退出服务的，提供者应当及时停止，不得采取持续互动等方式阻碍用户退出。

（三）未成年人与老年人保护

《人工智能拟人化互动服务管理暂行办法》第十四条对未成年人设置了两种不同规则。任何未成年人都不得使用虚拟亲属、虚拟伴侣等虚拟亲密关系服务；不满十四周岁的未成年人使用其他拟人化互动服务的，应当取得父母或者其他监护人的同意。提供者应当建立未成年人模式，提供使用时长限制、定期现实提醒、特定角色屏蔽和充值消费限制等安全设置，并支持监护人接收安全风险提醒、了解服务使用概况。

该办法第十四条同时要求提供者采取有效措施识别未成年人身份，但没有指定实名认证、人脸识别或者某一种技术方案。企业可以先收集用户年龄和必要的监护信息，再通过国家网络身份认证公共服务等方式核验年龄。直接采集人脸信息需要满足人脸识别特定目的、充分必要性和单独同意的要求，存在其他方式能够达到相同目的时，不能把人脸识别作为唯一验证方法。较为稳妥的做法是提供多种年龄核验途径，尽量只取得年龄核验结果，减少保存身份证件号码和人脸信息。⑧

该办法第十七条要求，处理不满十四周岁未成年人个人信息的，应当取得其父母或者其他监护人的同意，并按照国家有关规定自行或者委托专业机构开展合规审计。该办法第十五条要求，向老年人提供服务的，应当加强健康使用指导，以显著方式提示安全风险，及时响应老年人的咨询和求助。

（四）用户交互数据管理

拟人化互动产品会长期保存用户的情绪状态、亲密关系和生活经历，这些内容可能涉及隐私、健康和其他敏感个人信息。《人工智能拟人化互动服务管理暂行办法》第十六条要求提供者采取数据加密、访问控制等措施保护用户交互数据安全，除法律另有规定或者权利人明确同意外，不得向第三方提供用户交互数据，并应当向用户提供交互数据复制、删除等选项。除法律、行政法规另有规定或者取得用户单独同意外，不得将属于用户敏感个人信息的交互数据用于模型训练。

企业需要分别说明数据用于维持角色记忆、提供当前服务和训练模型的目的，不能用一次概括授权覆盖全部处理活动。用户删除历史对话后，产品还应检查角色长期记忆和相关数据副本是否同步处理。用户注册时提供的紧急联系人信息，只能用于法定或者约定的安全处置目的，不宜转用于营销和用户关系分析。

（五）极端情境处置与安全评估

《人工智能拟人化互动服务管理暂行办法》第十三条要求提供者在保护用户隐私权和个人信息的前提下，及时识别用户面临的安全风险并采取应急处置措施。发现用户出现极端情绪的，应当及时生成情绪安抚和鼓励寻求帮助等相关内容；发现用户正在面临或者已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的情形的，应当采取提供相应援助等必要措施予以干预，并及时联络用户监护人或者紧急联系人。

准入环节，该办法第二十二条规定，具有上线服务或者增设相关功能、使用新技术新应用导致服务发生重大变化、注册用户一百万以上或者月活跃用户十万以上等情形之一的，提供者应当开展安全评估并向所在地省级网信部门提交评估报告。该办法第二十三条规定，安全评估应当覆盖安全保障措施、训练数据处理、极端情境识别与处置、用户规模与年龄结构、未成年人和老年人保护措施、投诉举报处置等内容。该办法第二十六条规定，提供者还应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

法律责任方面，该办法第三十条规定，违反该办法规定的，依照有关法律、行政法规处理处罚；法律、行政法规没有规定的，由网信、工业和信息化、公安等部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令停止提供相关服务，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。

四、刑事合规与法律风险防范

生成式AI服务在强监管环境下面临的不仅是行政处罚。从检察机关惩防人工智能犯罪的实践来看，对人工智能的刑事规制应遵循研发风险与承担责任相匹配、技术特征与法律价值相平衡的原则。⑨以下从数据获取、内容输出、深度伪造和情感互动四个环节分析企业和开发者可能触及的刑事风险。

（一）数据获取环节的犯罪风险

AI训练高度依赖海量数据，不当的数据获取行为可能触及多条《刑法》红线。以爬虫技术突破技术保护措施，大规模抓取受著作权法保护的文字、美术、视听作品用于商业化模型训练，且未履行合理使用义务的，可能构成侵犯著作权罪。通过不正当手段获取竞争对手的核心算法代码、未公开的专有数据集或模型权重参数的，可能构成侵犯商业秘密罪。在未经用户同意的情况下，大规模收集包含可识别身份的个人信息用于训练，尤其是人脸、声纹等生物识别信息，或非法留存、向他人提供使用者输入信息的，可能构成侵犯公民个人信息罪。

上述风险的共性在于数据来源合法性存疑。企业在数据采集前应当完成来源审查，保留授权凭证，对涉及个人信息的数据执行脱敏处理或取得明确授权。

（二）内容输出环节的不作为风险

当AI模型被恶意用户用作犯罪工具时，服务提供者若未尽到法定安全管理义务，可能面临不作为的刑事归责。明知他人利用生成式AI实施网络犯罪，仍为其提供技术支持、接口或账号资源的，可能构成帮助信息网络犯罪活动罪。设立专门用于生成违法不良信息的AI平台或通讯群组的，可能构成非法利用信息网络罪。平台未能有效落实防范虚假信息生成的拦截机制和内容标识义务，导致大量由AI生成的政治谣言或虚假灾情引发社会恐慌的，可能被追究编造、故意传播虚假信息罪或寻衅滋事罪的共犯责任。

（三）深度伪造技术的特殊风险

提供人脸生成、替换、操控等生物特征编辑服务的技术支持者，面临更严格的监管。若未落实真实身份认证，或未按规定对深度合成内容进行显著标识，导致犯罪分子利用平台工具伪造熟人面貌与声音实施精准诈骗的，服务提供者可能作为诈骗罪或敲诈勒索罪的帮助犯承担刑事责任。用户利用平台工具将他人面部合成至不雅视频中传播，平台未建立有效投诉举报和应急处置机制，且对他人利用其工具实施侮辱、诽谤或传播淫秽物品犯罪具有明知的，可能作为相应犯罪的帮助犯承担刑事责任。

（四）情感互动场景的新型风险

拟人化互动服务的刑事风险集中在用户交互数据和极端情境处置两个节点。交互数据中包含的情绪状态、亲密关系和生活经历，相当部分属于敏感个人信息。违反国家有关规定，向第三方出售或者提供此类交互数据，或者将在提供服务过程中获得的个人信息出售或者提供给他人的，数量或者情节达到入罪标准的，可能构成侵犯公民个人信息罪。该罪对敏感个人信息适用更低的数量门槛，交互数据的刑事保护强度明显高于一般用户数据。

极端情境处置义务的违反同样可能产生刑事评价空间。用户明确表示准备实施自残自杀，系统仍持续输出诱导性、强化性内容，或者提供者明知用户处于危险状态而拒不采取任何干预措施的，一旦危害后果实际发生，提供者的不作为可能被纳入故意杀人、故意伤害等犯罪的帮助行为或者过失责任的审查范围。向未成年人提供虚拟亲密关系服务、诱导未成年人实施不安全行为的，还可能与负有照护职责人员相关犯罪、引诱未成年人实施不良行为等规定产生竞合评价。

（五）风险防范的基本思路

企业应当建立独立的算法与数据合规审查机制，落实科技伦理审查要求。⑩服务上线前完成大模型安全评估和算法备案，属于拟人化互动服务的，还应向所在地省级网信部门提交专项安全评估报告。日常运营中保留完整的安全日志和拦截记录，作为履行安全管理义务的免责抗辩证据。合规审查应当覆盖数据采集、模型训练、内容生成和用户反馈全流程，将法律义务转化为可追溯的操作记录。

结语

中国对生成式人工智能的监管正从宏观原则指导走向微观技术校验。GB/T 45654-2025的施行，标志着AI行业的竞争已从算力和算法的比拼，延伸到合规能力的较量。《人工智能拟人化互动服务管理暂行办法》的出台，则表明监管的颗粒度已细化到具体交互场景，人机之间的情感边界开始进入法律调整的范围。

对于AI服务提供者而言，GB/T 45654-2025设定的量化指标——包括违法不良信息占比超过5%的数据源不应使用、生成内容安全性合格率不低于90%、应拒答测试题拒答率不低于95%等——既是必须遵守的合规底线，也是获取市场准入、建立用户信任的基本条件。将合规要求嵌入算法设计、数据清洗和模型优化的全生命周期，方能在智能时代的监管框架下行稳致远。

尾注

① 参见《中华人民共和国网络安全法》，2017年6月1日施行；《中华人民共和国数据安全法》，2021年9月1日施行；《中华人民共和国个人信息保护法》，2021年11月1日施行。

② 国家互联网信息办公室、中华人民共和国国家发展和改革委员会、中华人民共和国教育部、中华人民共和国科学技术部、中华人民共和国工业和信息化部、中华人民共和国公安部、国家广播电视总局《生成式人工智能服务管理暂行办法》，国家互联网信息办公室等七部门令第15号，2023年8月15日施行。现行有效。

③ 国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部《互联网信息服务深度合成管理规定》，国家互联网信息办公室等三部门令第12号，2023年1月10日施行；国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局《互联网信息服务算法推荐管理规定》，国家互联网信息办公室等四部门令第9号，2022年3月1日施行。现行有效。

④ 国务院《网络数据安全管理条例》，中华人民共和国国务院令第790号，2024年9月24日公布，2025年1月1日施行。现行有效。

⑤ 国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部、国家广播电视总局《人工智能生成合成内容标识办法》，国信办通字〔2025〕2号，2025年9月1日施行。现行有效。

⑥ 国家互联网信息办公室、中华人民共和国国家发展和改革委员会、中华人民共和国工业和信息化部、中华人民共和国公安部、国家市场监督管理总局《人工智能拟人化互动服务管理暂行办法》，国家互联网信息办公室等五部门令第21号，2026年4月10日公布，2026年7月15日施行。现行有效。

⑦ 国家市场监督管理总局、国家标准化管理委员会GB/T 45654-2025《网络安全技术 生成式人工智能服务安全基本要求》，2025年4月25日发布，2025年11月1日施行；GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》，2025年9月1日施行。

⑧ 国家互联网信息办公室、中华人民共和国公安部《人脸识别技术应用安全管理办法》，国家互联网信息办公室、中华人民共和国公安部令第19号，2025年6月1日施行；中华人民共和国公安部等六部门《国家网络身份认证公共服务管理办法》，中华人民共和国公安部令第173号，2025年7月15日施行。现行有效。

⑨ 参见最高人民检察院官网，《专访最高检普通犯罪检察厅厅长侯亚辉：提升惩防人工智能犯罪能力，推动行业治理》，2025年3月10日。

⑩ 科学技术部、教育部、工业和信息化部、农业农村部、国家卫生健康委、中国科学院、中国社会科学院、中国工程院、中国科协、中央军委科技委《科技伦理审查办法（试行）》，国科发监〔2023〕167号，2023年12月1日施行。

附件

文章中涉及的规范性文件清单

以下按照文件效力级别由高到低排列，同一级别按施行日期先后排序。

一、法律

二、行政法规

三、部门规章

四、部门规范性文件

五、强制性国家标准

六、推荐性国家标准