《互联网信息服务算法推荐管理规定》要点解读

2022年1月4日，国家互联网信息办公室（以下简称“国家网信办”）联合工业和信息化部、公安部、国家市场监督管理总局发布《互联网信息服务算法推荐管理规定》（以下简称“《管理规定》”），并将于2022年3月1日起施行。

《管理规定》以《网络安全法》、《数据安全法》、《个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规为上位法依据，以《关于加强互联网信息服务算法综合治理的指导意见》作为顶层政策指导，共六章三十五条，在信息服务规范、用户权益保护、监督管理和法律责任等方面作出具体规定。《管理规定》旨在应对算法应用日益普及深化背景下产生的算法歧视、“大数据杀熟”、诱导沉迷等问题，以维护正常的传播秩序、市场秩序和社会秩序，维护意识形态安全、社会公平公正和网民合法权益，促进算法相关行业健康有序发展。我们在此对几个重要方面进行总结。

我们认为，《管理规定》的适用范围较为广泛，不仅适用于互联网公司，运用算法推荐技术提供信息服务的大众消费、金融等行业领域的公司也可能落入《管理规定》的范畴。

一、《管理规定》的适用范围

《管理规定》第二条从两个层面界定了具体的适用范围：

在空间层面，《管理规定》适用于在中华人民共和国境内应用算法推荐技术提供互联网信息服务（以下简称“算法推荐服务”），法律、行政法规另有规定的，依照其规定；

在技术层面，《管理规定》所规制的是应用算法推荐技术提供互联网信息服务，算法推荐技术指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。《管理规定》并未对算法是否运用人工智能技术进行区分，我们认为其所规制的算法技术类型不但包括新型人工智能算法，也可能包括在互联网信息服务中被广泛应用的、仅以实现辅助人类功能的自动化算法。 

二、算法推荐信息服务规范

《管理规定》的规制范围旨在回应“骑手困在系统里”、“大数据杀熟”、“网络沉迷”、“未成年人保护”等围绕人工智能算法应用引发的社会热点问题。考虑到算法作为数字社会新型生产力的地位和作用日益明显，《管理规定》覆盖的范围和场景十分广泛。例如，游戏和VR产品内容提供者运用的生成合成类算法，社交媒体、电商和搜索引擎运用的个性化推送算法、排序精选算法和检索过滤算法，网约车平台、外卖平台运用的调度决策类算法，大众消费品公司。

《管理规定》第二章为算法推荐服务提供者明确了若干应当遵守的信息服务规范，具体包括：

（1）建立健全用户注册、信息发布审核、数据安全和个人信息保护、安全事件应急处置等管理制度和技术措施，制定并公开算法推荐服务相关规则，配备与算法推荐服务规模相适应的专业人员和技术支撑（第七条）；

（2）定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型（第八条）；

（3）建立健全用于识别违法和不良信息的特征库，发现违法和不良信息的，应当采取相应的处置措施（第九条）；

（4）发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输（第九条）。　此前，《网络音视频信息服务管理规定》（网信办，2019年）有类似规定：网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识；

（5）加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则（第十条）；

（6）加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在重点环节积极呈现符合主流价值导向的信息（第十一条）；

（7）规范开展互联网新闻信息服务，不得生成合成虚假新闻信息或者传播非国家规定范围内的单位发布的新闻信息（第十三条）；

（8）不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为（第十四条）。

三、用户权益保护

《管理规定》第三章明确提出算法推荐服务提供者的用户权益保护要求，从用户的角度来看，《管理规定》旨在重点保障如下权利：

（1）算法知情权

算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示基本原理、目的意图和主要运行机制等。

（2）算法选择权

算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。

算法推荐服务提供者还应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。

（3）投诉权

算法推荐服务提供者应当设置便捷有效的用户申诉和公众投诉、举报入口，在反馈时限内及时受理、处理并反馈处理结果。

此外，《管理规定》针对向未成年人、老年人、劳动者、消费者等特定主体提供服务的算法推荐服务提供者作出具体规范。包括：

（1）应当依法履行未成年人网络保护义务，开发适合未成年人使用的模式、提供适合未成年人特点的服务，不得利用算法推荐服务向未成年人推送可能影响身心健康的信息、诱导未成年人沉迷网络；

（2）应当充分考虑老年人出行、就医、消费、办事等需求，便利老年人安全使用算法推荐服务；

（3）向劳动者提供工作调度服务的，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法；

（4）不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

四、监督管理及法律责任

《管理规定》第三条规定，由国家网信部门和地方网信部门负责统筹协调全国和本行政区域内的算法推荐服务治理和相关监督管理工作。国务院和地方电信、公安、市场监管等有关部门依据各自职责负责相应的监督管理工作。

《管理规定》第二十三条要求建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等，对算法推荐服务提供者实施分级分类管理。

值得注意的是，《管理规定》特别规定了具有舆论属性或社会动员能力的算法推荐服务提供者的安全管理义务，主要包括新增的备案义务和根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（网信办，2018年）要求的安全评估义务。其中，《管理规定》第二十四条要求其应当在提供服务之日起十个工作日内，通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型等备案信息，履行备案手续。完成备案的算法推荐服务提供者应当在显著位置标明其备案编号并提供公示信息链接。

对于违反《管理规定》的算法推荐服务提供者，包括算法推荐服务提供者未落实算法安全主体责任；未定期审验算法模型；传输未作显著标识的算法生成合成信息；利用算法影响网络舆论或规避监管；未保障用户知情权、选择权和投诉权；具有舆论属性或社会动员能力的算法推荐服务提供者未履行备案手续、变更手续和注销手续；完成备案的算法推荐服务提供者未明示备案编号，可以处以一万元以上十万元以下罚款，同时（如有），依法给予治安管理处罚或追究刑事责任。

五、我们的观察

对比国家网信办于2021年8月27日发布的《管理规定》征求意见稿，《管理规定》未进行实质性修改，但在利用算法实施垄断和不正当行为、老年人权益保障等方便提出了进一步要求，对算法解释权的行使条件进行了限缩（从征求意见稿的“用户认为算法推荐服务提供者应用算法对其权益造成重大影响的”变更为“当算法推荐服务提供者应用算法对用户权益造成重大影响时”）。此外，《管理规定》大幅上调罚款数额，相较于征求意见稿中的五千元以上三万元以下，《管理规定》最终将罚款数额定为一万元以上十万元以下。

《管理规定》为运用算法从事相关的互联网信息服务规定了明确的义务要求，落入《管理规定》企业，如运用算法向用户推送个性化内容的社交媒体、搜索引擎、电商网站、金融服务网站，以及运用算法进行服务调度和决策的外卖平台、网约车平台，需规范自身算法推荐的应用，包括告知用户其提供算法推荐服务的情况、基本原理、目的意图和主要运行机制等，进行安全评估，并关注算法备案的落地实施。