人工智能，伦理先行——简评《科技伦理审查办法（试行）（征求意见稿）》

自ChatGPT问世以来，其强大的算法、提取以及互动能力得到了全球的广泛关注。与此同时，其不确定性可能引发的伦理关切也不断成为热议的话题。如何从制度层面促进人工智能等科技活动的正向、可持续利用，避免其野蛮生长，正在成为各国政府在科技伦理治理的一大挑战，更是各大科技公司瞩目的焦点。

我国一直在科技伦理审查领域保持积极探索。2019年10月，我国即成立国家科技伦理委员会，并先后成立人工智能、生命科学、医学等分委员会。2021年7月，就《关于加强科技伦理治理的意见》（以下简称“《意见》”）向社会公开征求意见，2021年12月审议通过，并于2022年3月20日正式印发，其中明确提出健全科技伦理治理体制，强化科技伦理审查和监管的要求。此后，黑龙江、湖南、浙江、海南等地方相继设立科技伦理审查中心或科技伦理委员会。2023年2月，国家卫健委、教育部、科技部、国家中医药局公布了《涉及人的生命科学和医学研究伦理审查办法》（以下简称“《办法》”）。为了进一步规范和统一我国的科技伦理审查程序、审查标准、监督管理等要求，近日科技部起草了《科技伦理审查办法（试行）（征求意见稿）》（以下简称“《征求意见稿》”），并于2023年4月公开征求意见。本文将对《征求意见稿》中的重点内容进行分析和总结。

一、适用伦理审查的科技活动范围

根据《征求意见稿》第三条，以下四类科技活动应当进行伦理审查：（1）涉及人的科技活动，包括以人为研究参与者的测试、调查、观察性研究等，以及涉及使用人类基因、人类胚胎、人类生物样本、个人信息等；（2）涉及实验动物的科技活动；（3）不直接涉及人或实验动物，但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动；（4）依据法律、行政法规和国家有关规定需进行科技伦理审查的科技活动。其中，人工智能活动可能因其涉及上述（1）（3）（4）项而需要在拟进行前进行科技伦理审查。

关于是否存在例外情形，在涉及人的生命科学和医学研究方面，根据《办法》，为了减少科研人员的负担以及促进相关科学研究的开展，在利用合法获得的公开数据、匿名化的数据等情形下，相关涉及人的生命科学和医学研究可以免除伦理审查。（《办法》第三十二条）

但《征求意见稿》中并未列明免除伦理审查的情况，其正式实施后与《办法》的衔接，以及正式文件是否会在一定条件下（例如，使用匿名化的个人信息进行的人工智能活动）免除部分人工智能领域科技活动的伦理审查等问题，仍有待进一步观察。

二、伦理审查的主体

高校、科研机构、医疗卫生机构、企业等应当设立科技伦理（审查）委员会，并作为科技伦理审查的开展机构。（《征求意见稿》第五、六条）设立科技伦理（审查）委员会后的30日内，应当主动通过国家科技伦理管理信息登记平台对委员会的组成、章程、制度等进行登记。（《征求意见稿》第四十四条）

如果未设立科技伦理（审查）委员会，或该单位的科技伦理（审查）委员会无法胜任伦理审查工作要求，应以书面方式委托其他合适的科技伦理（审查）委员会开展审查工作。（《征求意见稿》第二十二条）多个单位合作开展科技活动的，应当由牵头单位协调管理科技伦理审查，合作单位应当将审查决定或意见提交至牵头单位。（《征求意见稿》第二十条）

三、伦理审查的程序

《征求意见稿》下的审查程序主要包括一般、简易和应急三类。

一般审查程序的主要步骤包括：（1）提交申请材料：由科技活动负责人向本单位科技伦理（审查）委员会申请伦理审查，并提交申请材料；（2）作出受理意见：科技伦理（审查）委员会提出是否受理的意见，并通知申请人；（3）开展审查：科技伦理（审查）委员会原则上采取会议审查的方式（包括视频会议）进行伦理审查；（4）作出审查决定：科技伦理（审查）委员会一般在申请受理后30日内作出审查决定，包括批准、修改后批准、修改后再审或不予批准等；（5）书面申诉：申请人有异议的，可以向作出审查决定的科技伦理（审查）委员会提出书面申诉，并由科技伦理（审查）委员会重新作出最终决定；（6）跟踪审查：科技伦理（审查）委员会应当对审查批准的科技活动进行不少于每年一次的跟踪审查，以了解科技活动的实施和风险防控等情况；（7）重新审查：如果科技活动实施过程中调整实施方案，可能导致科技伦理风险发生变化的，必要情况下科技伦理（审查）委员会可以重新进行伦理审查。

对于科技活动伦理风险发生的可能性和程度小于或等于日常生活中遇到的常规风险或与健康体检相当的风险时，该科技活动可以适用简易审查程序。（《征求意见稿》第二十三、五十三条）简易审查程序的具体工作规程由科技伦理（审查）委员会制定。

在突发公共事件等紧急状态下，科技伦理（审查）委员会可以设立科技伦理审查快速通道，根据紧急情况分级管理，原则上在72小时内完成审查。（《征求意见稿》第二十七条）具体应急审查流程和操作规程由科技伦理（审查）委员会制定。

四、伦理审查的重点内容和标准

根据《征求意见稿》第十四条，拟开展的科技活动应当符合科技伦理原则，相关人员适格，硬件条件适当，亦应对社会有积极的推进作用，涉及人类研究参与者的活动招募方案应当公平合理，涉及实验动物的应当能够满足动物福利标准，保护措施得当，还要求科技成果的发布符合出版等行业伦理规范。

该条还对人类生物材料的收集、使用，个人信息的收集使用，获取个人知情同意的方式作出合规要求，涉及数据和算法的科技活动，亦应当符合国家数据安全相关规定。此审查标准体现出我国近年来对数据安全、个人信息保护、算法规制的充分重视，尤其是随着人工智能的迅猛发展，前述保护和规制的重要性愈发显现，相关科技活动应当格外注意数据来源的合规、数据处理关系的厘清、个人信息权利的保证、算法和系统研发的公平公正、数据安全的保证等，与《数据安全法》、《个人信息保护法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》等相关法律法规、规定方面的合规义务和要求保持一致。

此外，根据《征求意见稿》，属于审查范围的国际合作科技活动，还应当通过合作各方所在国规定的科技伦理审查方可进行。（《征求意见稿》第二十一条）

五、高风险科技活动清单

1. 清单内容

我国在《意见》中便提出国家科技伦理委员会研究制定科技伦理高风险科技活动清单，对可能存在较高伦理风险的新兴科技活动，实施动态清单管理，并建立伦理审查结果专家复核机制。《征求意见稿》通过附件形式，将七类科技活动列入高风险科技活动清单，其中与人工智能相关的高风险科技活动包括：（1）对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发；（2）具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；（3）面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。其余四类分别与新物种合成、干细胞孕育、生殖细胞以及受精卵等的改变、神经和精神类疾病治疗的侵入式脑机接口等研究相关。至于具体科技活动是否属于上述清单范围，由单位的科技伦理（审查）委员会作出判断。（《征求意见稿》第六条）

2. 专家复核要求

对于以上高风险科技活动清单中的科技活动，不仅需要通过本单位科技伦理（审查）委员会的初步审查，还需要报请所在地方或相关行业主管部门开展专家复核。该要求能够看出我国对高风险科技活动在伦理审查方面的审慎态度和严格要求。此外，若国家对纳入清单管理的相关科技活动实行行政审批等监管措施且将符合伦理要求作为审批条件、监管内容的，可免于开展专家复核。（《征求意见稿》第四十条）

3. 登记和报告义务

对于纳入清单管理的科技活动，相关单位应当在获得伦理审查批准后的30天内通过国家科技伦理管理信息登记平台进行登记，并于每年3月31日前向平台提交年度工作报告时，同时提交该等科技活动的实施情况。（《征求意见稿》第四十五、四十六条）

六、主管部门

高等学校、科研机构、医疗卫生机构、企业等是科技伦理审查管理的责任主体，当发生科技伦理违规行为时，为单位内部调查处理的第一责任主体。如果单位及负责人涉嫌科技伦理违规行为的，由上级主管部门调查处理，没有上级主管部门的，则由其所在地的省级科技行政管理部门负责组织调查处理（《征求意见稿》第五条、第五十条）

根据《征求意见稿》，地方、相关行业主管部门按照职责权限和隶属关系负责本地方、本系统科技伦理审查的监督管理工作，建立对纳入清单管理科技活动的专家复核机制，加强对本地方、本系统发生的重大突发公共事件应急伦理审查的协调、指导和监督。（《征求意见稿》第四十一条）涉及重大科技伦理案件的调查处理，也应当由地方、相关行业主管部门组织开展。（《征求意见稿》第五十一条）其中，“地方”一般是指省级地方人民政府确定的负责相关领域科技伦理审查和管理工作的省级管理部门，“相关行业主管部门”是指国家相关行业主管部门。关于地方主管部门和行业主管部门存在职责权限交叉时应当如何确认实际主管部门，仍有待实践进一步观察。

七、违反后果

对于违反《征求意见稿》要求的科技活动承担单位、科技人员，或者是科技伦理委员会、委员，《征求意见稿》较为笼统提出由有管辖权的机构根据法律法规和相关规定进行处理，造成损失或损害的，承担民事责任，构成犯罪的，依法追究刑事责任。我们理解，具体处罚力度应当视具体情况，适用具体的法律法规后方可决定。

八、影响、趋势和建议

我国目前在生物医学研究等方面的科技伦理审查制度已经拥有较多实践经验，但在例如人工智能等新科技领域的科技伦理审查制度仍处于积极探索阶段。从目前发布的《征求意见稿》看，其作为我国科技伦理审查方面统一性的规定，仍需要不同地方、行业或社会团体制定具体的审查办法、细则、规范或指南，才能够得到细化与执行。其中也仍然存在有待进一步澄清的事宜，例如，是否需要将不良事件的及时报告义务纳入《征求意见稿》的范围。

若《征求意见稿》出台，则科技企业需要关注以下方面的影响：

• 关注其相关科技活动是否触发科技伦理审查，如是否为以人为研究参与者的测试、调查、观察性研究，或者虽然不直接涉及人或实验动物，但可能在生命健康、生态环境、公共秩序、可持续发展等方面带来伦理风险挑战的科技活动。如涉及，则需开展伦理审查
  

• 如进行人工智能科技活动、研究内容涉及科技伦理敏感领域的，应设立科技伦理（审查）委员会设立科技伦理（审查）委员会，制定相应章程、制度，并主动通过国家科技伦理管理信息登记平台进行登记；

• 关注其相关科技活动是否构成高风险科技活动，例如如下人工智能相关科技活动：（1）对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发；（2）具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发；（3）面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发。如涉及高风险科技活动，则履行更高的伦理审查义务，包括专家复核、通过国家科技伦理管理信息登记平台进行登记、报告等义务。

我们建议相关科技企业密切关注《征求意见稿》和其他相关规定的制定进展，并提前规划本单位的科技伦理审查事宜，例如，设立科技伦理（审查）委员会，以便于未来更加高效、合规、安全的发布相关科技产品。