《生成式人工智能服务管理暂行办法》正式施行，框定我国AIGC监管思路

引言

2023年4月11日，国家互联网信息办公室（以下简称“国家网信办”）发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称“《征求意见稿》”）向社会公开征求意见。《征求意见稿》为避免生成式人工智能（以下简称“AIGC”）的野蛮生长，为该产业划定了较强的监管框架，引发了各界的广泛关注。

经过三个月，国家网信办与国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局于2023年7月10日联合印发《生成式人工智能服务管理暂行办法》（以下简称“《办法》”），《办法》于2023年8月15日施行。与《征求意见稿》相比，《办法》在一定程度上体现了监管部门的态度转变，从严格的风险控制转变为“发展和安全并重”，赋予AIGC更大的发展空间。

本文就《办法》的部分重点内容提出我们的行业观察和评论，供各方参考。

一、 适用范围

《办法》第二条规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

《办法》第二十二条规定，“生成式人工智能技术”是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术；“生成式人工智能服务提供者”是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。

笔者简评：根据《办法》，面向中华人民共和国境内公众提供AIGC服务的，均应适用本办法。据此，无论是境内还是境外主体，只要是面向中国境内公众提供AIGC服务，则属于《办法》的适用范围。若境外企业与境内企业合作，通过提供可编程接口（Application Programming Interface，API）的方式提供AIGC服务，仍应受《办法》管理。

此外，《办法》特别规定了其适用范围的例外情形，对于内部研发、使用，而不向境内公众提供AIGC服务的，不在《办法》的监管范围之内。至于该类研发、内部使用是否受限于其他人工智能方面的基本要求，有待关注未来我国即将颁布的《人工智能法》的内容。

二、 监管原则：包容审慎和分类分级监管

《办法》第三条规定，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

《办法》第十六条规定，国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。

笔者简评：《办法》在AIGC服务的应用、内容、协作、创新、资源等层面提出一系列支持政策，如鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新、鼓励采用安全可信的芯片、软件、工具、算力和数据资源。这些支持政策体现了监管对支持AIGC发展的关注。

《办法》提出将根据AIGC的特点及应用建立分类分级监管制度，并制定相应的分类分级监管规则或者指引。这一安排显然考虑到了AIGC技术及服务仍处于快速发展阶段，监管手段无法一蹴而就。可以预见相关部门未来将基于实践进一步出台、完善相关细化规则或指引，区分AIGC的风险等级，提出更有针对性的监管要求，要求承担不同程度的合规义务。

三、 行政许可和外资准入限制

《办法》第二十三条规定，法律、行政法规规定提供AIGC服务应当取得相关行政许可的，提供者应当依法取得许可。外商投资AIGC服务，应当符合外商投资相关法律、行政法规的规定。

笔者简评：目前，我国的法律法规尚未对AIGC服务本身设置行政许可或外商投资准入限制，但是，在提供AIGC服务过程中如涉及增值电信服务、网络视听节目服务、网络出版服务、互联网文化经营、广播电视节目制作经营等需要取得行政许可或存在外商投资准入限制的行业或领域，AIGC服务提供者也需遵守相关行政许可及外商投资准入相关规定。

此外，我们理解，根据AIGC不同的风险等级的不同，可以适用不同的外资准入限制。相关内容是否会在监管部门后续制定的分级分类规则或指引中规定有待进一步观察。

四、 训练数据的来源和质量

《办法》第七条规定，AIGC服务提供者应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：

（1）使用具有合法来源的数据和基础模型；

（2）涉及知识产权的，不得侵害他人依法享有的知识产权；

（3）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；

（4）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；

（5）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

笔者简评：AIGC研发和服务过程中，需要使用大量数据进行预训练和优化训练。我国的大模型训练过程一方面会使用国内的数据源，另外还可能会采用国外的公开途径可以获取的数据源，错综复杂的数据源获取途径对训练数据的合法性、真实性、准确性、客观性、多样性形成了挑战。相较《征求意见稿》，《办法》不再要求AIGC服务提供者“保证”数据的真实性、准确性、客观性、多样性，对于AIGC服务提供者而言，目前的规定更相对合理和可操作。值得注意的是，《办法》还提出要推动生成式人工智能基础设施和公共训练数据资源平台建设，推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鉴于我国公开途径可以获取的可用数据源有限，对公共数据的开放对支持AIGC产业发展有重要意义。

五、 数据标注

《办法》第八条规定，AIGC服务提供者应当(1)制定清晰、具体、可操作的标注规则；(2)开展数据标注质量评估，抽样核验标注内容的准确性；(3)对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

笔者简评：数据标注是对未经处理过的语音、图片、文本、视频等原始数据添加标签，从而转变成机器可识别信息、形成训练数据的活动，是AIGC技术研发过程中的关键环节。《办法》将《征求意见稿》中关于“人工标注”的合规义务调整为“数据标注”，应该是考虑到了“机器+人工”、机器标注的行业能力迭代升级趋势。

相较《征求意见稿》，《办法》新增数据标注质量评估、监督指导标注人员规范开展标注工作的要求，主要目的仍为增强训练数据的真实性、准确性、客观性、多样性。目前，我国国内大模型训练过程所需的数据标注主要采用自行雇佣或人力外包或服务外包的方式进行，无论采用哪种方式，相信《办法》的要求应该符合目前国内的实践需要。在服务外包的场景下，AIGC服务提供者需注意自身作为责任主体的数据标注义务，在服务外包过程中要求数据标注服务公司协助其满足法律要求。

六、安全评估和算法备案

《办法》第十七条规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

笔者简评：相较《征求意见稿》“一刀切”的标准，安全评估和算法备案义务不再是针对所有AIGC服务的要求，而是仅适用于构成“具有舆论属性或者社会动员能力的AIGC服务”。而“具有舆论属性或者社会动员能力的AIGC服务”将直接适用有关法规中关于安全评估和算法备案义务的规定，相应的，生成式人工智能产品的算法备案的时间不再需要提前到产品上线前完成。

《办法》未明确“具有舆论属性或者社会动员能力的生成式人工智能服务”的具体标准。参考《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》中规定，具有舆论属性或社会动员能力的互联网信息服务包括：（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；及（二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

根据安全评估及算法备案相关法规的要求，对于具有舆论属性或者社会动员能力的AIGC服务提供者，根据具体情形应在服务上线前或自相关情形发生之日起30个工作日内提交安全评估报告，在提供服务之日起十个工作日内履行算法备案手续。

七、 内容管理

《办法》第四条规定，提供和使用AIGC服务，不得生成虚假有害信息等法律、行政法规禁止的内容；应采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；应基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

《办法》第十二条规定，AIGC服务提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

《办法》第十四条规定，AIGC服务提供者对违法内容和违法活动有以下处置义务：(1)发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告；(2)发现AIGC服务使用者利用AIGC服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

笔者简评：在内容管理方面，与《征求意见稿》规定的“在3个月内通过模型优化训练等方式防止再次生成”的要求相比，《办法》仅要求AIGC服务提供者采取模型优化训练等措施进行整改并向有关主管部门报告，在技术层面更具可行性。另一方面，《办法》对此前《征求意见稿》提到的“停止生成”以及“内容过滤等措施”进行了完善，由AIGC服务提供者根据实际情况自主决定具体处置措施，一定程度上更具灵活性。

八、 国际合作

《办法》第六条规定，鼓励平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。

笔者简评：尽管明确了域外效力以及对国际合作的支持，《办法》下国际合作的方向和方式仍然尚不明晰。

从开展业务、提供服务的层面出发，根据我国现行法律监管体系，除非法律法规明确规定并经有关主管部门批准，在我国境内提供信息服务的，应当在境内成立法律实体，以境内实体经营业务。因此，从国际合作的层面而言，境外实体应与一家境内公司合作，由境内公司作为提供服务方并承担AIGC服务提供者的角色。

在国际合作中，境内实体需要注意就AIGC服务提供者的合规义务及法律责任与境外技术或产品提供方达成协议。《办法》第十九条规定，有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。

小结

《办法》是中国第一部专门以生成式人工智能为监管对象的法规，体现了监管推动和促进人工智能技术和应用创新发展的同时，也注重风险把控的态度。《办法》构建起中国生成式人工智能的监管框架，预计后续会有分类分级监管等方面的细则出台，以逐步完善和细化我国的生成式人工智能法律监管体系。