点击蓝字
关注我们


申卫星
清华大学人工智能国际治理研究院人工智能法律法规方向首席专家、清华大学法学院教授、清华大学智能法治研究院院长、中国法学会网络与信息法学研究会副会长
2026年9月9日,《人民法院报》第2版刊发清华大学法学院教授、清华大学智能法治研究院院长申卫星的《强化司法规则引领 促进人工智能创新发展》一文。



强化司法规则引领 促进人工智能创新发展
申卫星
清华大学法学院教授、智能法治研究院院长
随着生成式人工智能、智能体和具身智能快速发展,涉人工智能纠纷案件呈现主体多元、场景复杂、技术性强等特点,现行法律也面临一系列新的解释适用问题。《最高人民法院关于依法审理涉人工智能纠纷案件的意见》(法发〔2026〕10号,以下简称《意见》)立足人工智能技术发展和人民法院审判实践,用足用好现行法律规定,从具体案件中发现共性问题、总结裁判经验,形成了一批具有针对性和可操作性的裁判规则。《意见》坚持以人为本,统筹发展和安全,着眼增进人民福祉,在划分责任边界、保护合法权益、支持创新活动、完善审判机制等方面作出系统安排。概括而言,主要体现为以下七个方面。
一、构建分层分类的人工智能侵权责任体系
人工智能技术形态多样,不同类型技术所涉及的风险来源、参与主体和控制能力存在差异。基于此,《意见》建立了分层分类的人工智能侵权责任体系。
在归责原则层面,一般情形下人工智能侵权应适用过错责任原则。《意见》第三条规定,在法律没有明确规定适用无过错责任或者过错推定责任的情形下,依照民法典第一千一百六十五条第一款适用过错责任原则。对于具身智能体等以实物为载体的人工智能产品,《意见》第九条规定应依法适用产品责任。
对于不同场景,《意见》第七条就生成式人工智能自动生成内容侵害人格权益情形,分别规定恶意诱导生成侵权内容并造成他人损害的用户责任,以及收到有效通知后未及时采取必要措施的服务提供者责任;第十一条聚焦自动驾驶汽车和具备辅助驾驶功能汽车,衔接道路交通事故责任、产品责任和数人侵权责任,分别确定驾驶人过错、车辆缺陷以及二者共同造成损害的责任承担。
由此,《意见》形成一般过错责任统领、特殊场景分别适用、不同主体责任相互衔接的责任体系,为不同类型人工智能侵权纠纷的处理提供了清晰框架。
二、强化人工智能发展下对民事权益的保护
人工智能显著增强了内容生成、信息聚合和个性化决策能力,也放大了人格权益和消费者权益受侵害的风险,《意见》对人工智能应用中的高频民事权益风险作出集中回应。
《意见》第四条针对“AI换脸拟声”“AI复活逝者”等问题,从姓名权、肖像权、声音权益、名誉权和死者人格利益等方面明确裁判规则。未经同意生成并使用、公开可识别特定自然人的虚拟数字形象、合成人声,或者操控相关形象、声音实施不当行为的,构成对人格权益的侵害。第五条针对“网络开盒”“人肉搜索”等行为,明确利用人工智能追踪、分析公开信息,获取、泄露私密信息或者利用所获取的信息侵扰私人生活安宁等的,应当依法承担责任。这一规定针对利用算法聚合碎片化公开信息后可能产生的私密性风险,回应了人工智能环境下隐私权保护的新问题。针对人工智能侵权传播快、影响广、损害难以恢复等特点,第八条明确人格权侵害禁令的适用。对于正在实施或者即将实施的侵权行为,人民法院可以依法采取停止相关行为或者停止提供有关服务等措施,及时制止侵权,防止损害扩大。
考虑到人工智能和算法技术还可能被用于实施不合理差别待遇和虚假营销,《意见》第十条针对“大数据杀熟”和“仿冒名人带货”等行为作出规定。判断算法差别待遇是否不合理,需要考量其对消费者知情权、自主选择权、公平交易权的实际影响,以及差异化交易条件的理由是否正当、充分、非歧视。《意见》明确,利用人工智能“仿冒名人带货”且构成欺诈的,消费者可以依据有关法律规定主张惩罚性赔偿。
三、明确模型训练中个人信息和数据利用的边界
数据是人工智能研发和应用的重要基础,要在尊重个人、第三方企业等在先主体权益的基础上充分、合理地利用数据。《意见》第六条依据个人信息保护法,对公开个人信息用于人工智能模型训练作出具体指引。对个人自行公开或者其他已经合法公开的个人信息,在合理范围内处理且个人未明确拒绝的,一般不认定为侵害个人信息权益;对个人权益有重大影响的,仍应依法取得其同意。判断是否属于合理范围,需要结合处理目的、模型功能、信息类型、敏感程度和个人合理预期等因素。第十六条围绕涉人工智能数据使用行为作出分层安排。开发者通过采集生成、衍生创造、受让取得或者授权许可等方式合法取得数据并享有相应权益的,依法予以保护;构成作品、商业秘密或者符合竞争法保护条件的数据和数据集合,分别适用相应规则。相关规定在个人信息权益保护与数据合理利用之间划定边界,同时为数据权益提供了著作权、商业秘密和竞争法等多种保护路径,有助于稳定人工智能开发利用数据的制度预期。
四、健全创新成果和技术研发活动保护规则
人工智能创新活动需要依法保护创新成果。《意见》第十四条明确规定,涉人工智能发明创造采用遵循自然规律的技术手段、解决技术问题并实现相应技术效果的,应当依法认定为专利法保护的客体;自然人使用人工智能完成发明创造,并对实质性特点作出创造性贡献的,应当认定为发明人。
人工智能技术研发需要合理配置风险,方能鼓励创新。《意见》第十三条充分考虑开源软件开放共享、免费提供以及后续使用难以控制等特点,对依法履行安全合规和风险说明义务的开源开发者、提供者给予适当责任豁免,有利于维护开源协作和技术共享的创新生态;第十五条要求人民法院审理人工智能技术合同纠纷时,充分考量技术研发特点、开发方是否尽到合理努力等,从而合理认定违约责任和分配研发失败风险。
五、明确人工智能安全运行和违法犯罪责任
人工智能安全既涉及数据、模型和系统本身的稳定运行,也涉及防止人工智能被用于实施危害国家安全、公民权益和社会秩序的违法犯罪活动。《意见》强调要全面准确贯彻宽严相济刑事政策,对故意利用人工智能危害国家安全、侵犯公民权益、扰乱社会秩序的行为依法严惩,同时对人工智能研发应用中的创新性行为依法审慎处理,分别从维护人工智能系统运行安全和规制利用人工智能实施违法犯罪行为两个方面明确法律责任。《意见》第十六条针对人工智能运行安全作出规定。采取虚构干扰数据、恶意标注数据、对抗样本攻击等技术手段损害人工智能系统正常运行的,应当依法承担相应责任。该规定将数据投毒、对抗攻击等新型技术风险纳入法律规制范围,为维护人工智能系统安全稳定运行提供了裁判依据。第二十条对依法惩治利用人工智能实施犯罪活动作出规定。利用人工智能实施诈骗、侮辱、诽谤、损害商业信誉和商品声誉、侵犯公民个人信息、非法获取计算机信息系统数据等行为,构成犯罪的,依法追究刑事责任。对于利用配件逃避辅助驾驶系统监测并造成交通事故,构成犯罪的,依法追究刑事责任。
六、完善技术事实查明和新型证据审查机制
涉人工智能案件专业性强,关键数据和技术资料往往掌握在开发者、平台或者数据控制者一方。实体责任规则能否落实,很大程度上取决于事实查明和证据审查机制是否有效。《意见》第十七条强化诉讼引导、证据保全、调查取证和不利推定,并要求充分发挥鉴定人、专家辅助人、技术调查官等专业力量的作用。第十八条根据不同技术证据的形成机理明确差异化审查重点:对大数据分析报告,重点审查原始数据来源、清洗规则和分析方法;对区块链存证,重点审查上链前数据真实性和技术平台可靠性;对人工智能生成内容作为侵权证据的,综合考察提示词设计、生成结果一致性、内容相似程度以及模型训练、算法设计和过滤机制等因素。第十九条进一步要求诉讼参与人核实人工智能生成的诉讼文书、案例检索报告等材料,说明人工智能辅助使用情况,并对有关内容的真实性、准确性依法承担责任。相关规定推动实体规则、证据规则和审判机制相互衔接,有助于解决技术事实难以查清、关键证据难以取得等问题,增强涉人工智能案件的可裁判性和规则实施效果。
七、充分运用多因素综合判断的裁判方法
《意见》多处采用了多因素综合判断的裁判方法,体现了对技术发展阶段性和法律规则成长性的深刻把握和审慎务实态度。第三条判断行为人有无过错及过错程度,需要综合考量应用场景、自主化程度、技术透明度、潜在风险和主体控制能力;第六条判断公开个人信息是否在合理范围内使用,需要考察处理目的、模型功能、信息类型、敏感程度和个人合理预期;第九条判断人工智能产品是否存在不合理危险,需要考察产品用途、自主学习能力、升级更新情况和风险警示。多因素综合判断体现了场景化、类型化、开放式的裁判思路。人工智能技术仍在快速演进,固定、单一的标准难以覆盖不同模型、不同用途和不同发展阶段。通过识别关键因素,综合考察风险、行为、能力和利益关系,可以防止沿用传统经验对新技术作出片面判断,使裁判结论更加符合技术规律和案件实际。明确考量因素、规范裁量过程,并未降低裁判的确定性,反而提高了复杂案件裁判的合理性和可说明性。各级人民法院可以立足具体案件,根据技术演进和案件事实作出符合实践需要的判断,并在个案积累中不断丰富和发展涉人工智能裁判规则。
综上,《意见》立足已有审判实践提炼规则,为未来司法实践发展搭建机制,充分体现人民法院服务保障科技创新和产业创新的责任担当。面对人工智能带来的新情况新问题,人民法院要尊重技术规律,立足具体案件,推动法律适用与技术进步、产业发展同向而行。人工智能司法治理最终要落脚于以人为本。促进创新,是为了充分释放人工智能增进社会总体福利的潜力;筑牢底线,是为了保障人的尊严、权利和安全;完善裁判规则和审判机制,是为了让公平正义更加及时有效地实现。《意见》充分保障和发挥司法在权利保障、规则发现和制度塑造中的作用,必将为人工智能创新发展和安全治理注入有力的司法动能。

来源 | 《人民法院报》2026年9月9日第2版


内容中包含的图片若涉及版权问题,请及时与我们联系删除







评论
沙发等你来抢