点击蓝字

关注我们

陈天昊

清华大学公共管理学院长聘副教授，人工智能国际治理研究院科研专家

I-AIIG

随着前沿科技加速融入经济社会，科技研发潜在风险的外部性日益显著。为实现“负责任创新”，2022年中办、国办印发《关于加强科技伦理治理的意见》，明确了科技伦理作为科技活动价值理念与行为规范的地位，并确立了“伦理先行”的源头治理思路。随后，2023年多部门联合出台《科技伦理审查办法（试行）》，搭建起科技伦理审查的基础制度框架。在此背景下拟定的《人工智能科技伦理审查与服务办法（试行）》（以下简称《服务办法》），正是上述框架在人工智能领域的具体落实，其规范对象明确聚焦于我国境内开展的、可能对人的尊严、公共秩序、生命健康、生态环境及可持续发展等方面带来科技伦理风险的AI科学研究与技术开发活动。

《服务办法》结合AI技术的特殊性，在第三条提出了八项核心科技伦理要求，包括“增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保护隐私安全、保持公开透明、确保可控可信、强化责任担当”，并在第十五条细化了伦理委员会针对上述要求的具体审查内容，使得伦理审查原则具备了更强的可操作性。

在审查实施层面，《服务办法》压实了从事人工智能科技活动的高校、科研机构、医疗卫生机构及企业的主体责任，要求其通过设立伦理委员会开展内部审查。这一制度设计旨在发挥创新主体的能动性与信息优势，提升审查的精准度与效率。同时，为防范内部审查可能存在的利益冲突或主观局限性，《服务办法》还衔接了“专家复核机制”：对纳入复核清单的高风险科技活动，在通过本单位初审后，还需开展外部专家复核，以切实守住科技伦理底线。

值得肯定的是，为避免前置审查过度增加创新成本，《服务办法》务实地引入了多项合规减负与服务保障机制：1. 完善标准体系：推动建立AI科技伦理标准体系，以标准化降低合规门槛；2. 定向支持中小微企业：加大对中小微企业开展AI科学研究与技术开发活动的服务与支持力度；3. 推广技术赋能：鼓励研发通用性风险管理及评估工具，以技术手段便利合规审查；4. 场景牵引评估：以具体应用场景为导向细化风险评测体系，顺应技术发展趋势持续降低合规成本；5. 拓宽审查渠道：允许未设立伦理委员会的单位，委托第三方服务中心开展审查，以应对审查能力供给不足的问题。

综上所述，《服务办法》顺应了人工智能技术深度赋能经济社会的发展趋势，通过常态化、前置性的伦理审查机制防范未知风险。同时，该办法在制度设计上注重服务、强调减负，对此进行了大量的有益探索，以力求在促进人工智能科技发展与守护安全底线之间，寻求动态的务实平衡。（本文首发于“CAICT科技伦理”）