2024年起，国产人工智能大模型井喷式发展，以前所未有的速度渗透进人们的工作和生活。与此同时，“AI幻觉”“AI换脸”“AI语音克隆”等带来的纠纷不断涌现。这些强大的工具，正在挑战人们的合法权益。

　　技术是否“无责”？如何让使用者敢使用，让创新者愿创新？

　　近日，《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》）正式发布，明确裁判规则、强化权益保障、促进产业发展。在此之前，最高法审判委员会围绕《意见》送审稿召开会议，逐条逐字审阅文本，就司法审判实践和涉人工智能纠纷案件审理的难点堵点深入研究、充分讨论。

　　《意见》的制定与出台遵循着怎样的思路？我国最高审判机关的最高审判组织对人工智能飞速发展过程中出现的法律问题有着怎样的观点，作出了怎样的回应？

　　拒绝“野蛮生长”

　　——供给裁判规则，引领行为规范

　　数据显示，2025年我国人工智能核心产业规模已突破1.2万亿元，预计到“十五五”末，相关产业规模将突破10万亿元。

　　高歌猛进的人工智能技术究竟“路在何方”？

　　“人工智能技术发展越是一日千里，向上向善、造福人类的方向越要正确锚定，监管治理的尺度越要精准把握，防范失控的措施越要及时完善。”习近平总书记的论述高屋建瓴。

　　每一次科技革命都离不开规范化引领、法治化保障。党中央高度重视人工智能健康发展，习近平总书记在不同场合多次强调要确保人工智能安全、可靠、可控。“十五五”规划纲要则明确，要“完善人工智能领域法律法规、政策制度、应用规范、伦理准则”。

　　在这样的背景下，最高法于2025年即成立《意见》起草组，在对涉人工智能政策文件和法律法规深入研究的基础上，围绕司法实践中涉人工智能重点难点问题开展系统、深入调研，逐一梳理法答网涉人工智能高频咨询问题、人民法院案例库有关入库案例裁判规则，追踪分析域外涉人工智能立法司法实践，广泛、充分听取地方法院、行业代表、专家学者以及相关政府部门的意见，经过反复修改完善后，形成《意见》送审稿。

　　审委会对《意见》送审稿总体认可，认为《意见》送审稿贯彻落实以习近平同志为核心的党中央关于加快高水平科技自立自强，引领发展新质生产力重大决策部署，严格遵循法律规定，坚持问题导向，立足审判实践，“对于进一步明确裁判规则、强化当事人权益保障、促进行业健康发展、服务保障创新驱动发展重大战略实施，具有积极意义”。

　　针对当前“AI换脸拟声”、“网络开盒”、算法歧视、“AI幻觉”、“AI伪造证据”、AI生成内容侵犯知识产权等滥用人工智能技术侵害公民人格尊严、私人生活安宁、财产安全等合法权益的行为，《意见》依法予以规制。

　　比如，当前利用人工智能技术“换脸”“偷声”等侵害人格权益的行为多发，侵权手段多样、隐蔽，而当事人却面临举证难、投诉渠道缺失、诉讼成本高等维权难题。对此，《意见》在第八条专门明确“依法适用人格权侵害禁令制度”，规定了这一制度在人工智能领域的细化适用，以解决传统事后诉讼难以及时高效维护当事人合法权益的问题。

　　围绕“AI复活逝者”这一热议话题，《意见》起草组则按照审委会要求，在送审稿第四条基础上增加了针对利用人工智能技术处理死者姓名、肖像等侵害死者人格利益行为的相关内容，使《意见》对人格权益保护的范围更加全面。

　　“《意见》制定出来就是要解决问题的。”有审委会委员直言。

　　此外，在供给裁判规则的同时，《意见》也注重行为规范引领，通过厘清各方主体的权利、义务和责任，引导和推动市场主体加强风险内控与规范管理，防范化解人工智能技术误用、滥用带来的风险。

　　值得注意的是，《意见》起草组考虑到人工智能仍然处在发展初期，司法实践不足，因此对于人工智能生成内容的可版权性、训练数据的合理使用等暂时看不清、拿不准，难以形成共识的问题作了留白处理。

　　“留白处理”不等于“无法可依”。会上，《意见》起草组汇报时表示，关于“留白处理”的问题，预备先以参考案例、法答网问答等形式加强对下指导，进一步积累经验，待条件成熟时再通过适当方式作出明确规定。审委会对这一做法予以了充分肯定。

　　《意见》第二十二条也明确了加强审判监督指导的路径，其中一个要求就是“充分运用人民法院案例库，加强案例指导工作，促推法律适用统一和人工智能治理规则的完善”。

　　技术不是“免责牌”

　　——人工智能提供者需承担更多社会责任

　　“司法人员要考虑保护广大使用者的合法权益，规范行业发展，遏制人工智能开发者、提供者等的获利冲动，促使他们对产品、服务的安全性承担更多社会责任。”

　　关于如何平衡保护当事人合法权益与人工智能行业发展，审委会态度十分明确。

　　比如，人工智能大模型训练离不开大规模训练数据，其中不可避免地涉及个人信息。如何处理由此产生的纠纷？尽管我国个人信息保护法对处理个人信息作出了约束，但条文所强调的“合理的范围”一直是司法实践中的难点，如何在司法实践中把握好这一要求？

　　“《意见》作为规范性文件，要为司法实践提供更加清晰的操作规则，引导人工智能企业和法院在对待公民个人信息时更加谨慎负责。”有审委会委员指出。

　　《意见》第六条不仅规定了人民法院认定人工智能训练是否侵害个人信息权益的标准，也对法院认定“合理范围”作出了指引，考量因素包括处理个人信息的目的与模型功能的必要性和适当性、所涉个人信息的类型、敏感程度及对个人权益的潜在影响、个人公开信息时的场景及可合理预期的使用范围等。

　　随着人工智能越来越多地深入民众工作和生活，“AI幻觉”侵权以及利用生成式人工智能侵权早已不再是冷门话题。无论是判决生成式人工智能服务提供者不担责的全国首例“AI幻觉”侵权案，还是判决担责的“AI幻觉”编造罪名案，都曾引起社会广泛关注和讨论。

　　技术有责还是无责？人工智能开发者、产品和服务提供者在什么情况下担责？怎样才能既依法保护使用者合法权益又不影响创新者的积极性？

　　《意见》起草组认为，人工智能应用场景广泛、案件类型多样，对不同应用场景下的人工智能侵权应依照法律规定使用不同归责原则，“这是贯彻实施民法典规定的必然要求”。而另一方面，生成式人工智能侵权与传统网络侵权在主体、价值、情境等本质特征上具有高度相似性，人工智能服务提供者的责任具备类推适用“避风港原则”（网络服务提供者在接获权利人发出的有效通知后应当采取必要措施）的正当性、合理性基础。

　　基于这样的考量，《意见》不仅通过第三条明确在法律没有明确规定适用无过错责任或者过错推定责任的时候，人民法院应当依照过错责任原则认定行为人是否承担侵权责任，并在第七条规定“审慎认定生成式人工智能服务提供者的侵权责任”。

　　行业发展初期，出于鼓励新技术发展的目的，固然需要为人工智能生产者、服务提供者卸去不必要的枷锁，但是，他们是否能因此“高枕无忧”？当他们对显而易见的侵权可能性视而不见的时候，人民法院又当如何作出判断？

　　“企业不能只获利不担责。”审委会对此态度明确，“在司法实践中，如果出现相关情形，人民法院将不排除适用民法典第一千一百九十七条，认定人工智能生产者、服务提供者侵权责任。”

　　根据民法典该条规定，网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。该规定体现了“避风港原则”的例外——“红旗原则”，即当侵权事实像“红旗”一样显著时，网络服务提供者即使未收到权利人通知，也应采取删除或屏蔽措施，否则需承担连带责任。

　　尽管《意见》并未制定“红旗原则”相关的单独条文，但《意见》起草组成员专门围绕理解与适用《意见》撰文刊发，其中就这一问题作出回应，及时传递出最高审判机关维护人工智能健康发展的明确立场。

　　全面保护、筑牢底线

　　——强调依法惩治，完善程序规则

　　人工智能为生产生活带来高效与便利，也为违法犯罪提供了工具。

　　今年全国两会期间，最高法研究室主任周加海在接受媒体采访时表示，用AI技术炮制虚假信息、实施“AI换脸”等“深度伪造”行为日益增多，并逐渐被用于网络侮辱、诽谤等违法犯罪活动，引起了人民群众广泛关注。这类案件事实查明难、责任链条长、法律适用边界模糊，给司法带来极大挑战。

　　作为一部主要围绕民事纠纷展开的规则指引，《意见》也兼顾了对涉人工智能刑事案件的法律适用要求。《意见》送审稿在“基本原则”章节即开门见山亮明了“坚决依法严惩”的态度。

　　尽管如此，审委会仍在审议时专门强调，要更加旗帜鲜明地传递人民法院依法惩治利用人工智能实施犯罪活动的立场。

　　对此，修改后的《意见》专门增加了第二十条。根据该规定，行为人利用人工智能实施各类犯罪的，比如行为人激活辅助驾驶功能后利用私自安装的配件逃避辅助驾驶系统监测导致道路交通事故，构成犯罪的，将被依法追究刑事责任。

　　值得注意的是，《意见》一方面对于故意利用人工智能实施危害国家安全、侵犯公民权益、扰乱社会秩序等犯罪行为的，要求坚决依法严惩；另一方面对于在人工智能研发、应用中的创新性行为，则明确要依法审慎处理，恪守罪刑法定、罪责刑相适应原则。这也是人民法院在涉人工智能纠纷领域全面准确贯彻宽严相济刑事政策的体现。

　　程序正义是结果正义的前提和保障。针对《意见》送审稿关于涉人工智能案件程序规则的部分，审委会委员们讨论得十分细致，使《意见》更具可操作性。

　　比如，针对涉人工智能案件技术性、专业性强等特点，《意见》第十七条经修改完善后，增加了人民法院为查明事实“应当”履行的职责——应当依法加强诉讼引导和释明，引导当事人围绕争议事实及时全面地完成举证；对于涉及人工智能专业技术问题的，应当依法充分发挥人民陪审员、鉴定人、专家辅助人以及技术调查官的作用，辅助查明案件事实。

　　此外，《意见》还进一步整合了涉人工智能案件证据审查的相关内容，以使体系更加合理、完善。

　　9月7日，《意见》正式施行，作为第一部较为全面的关于涉人工智能纠纷案件法律适用的司法文件，其为人工智能开发者、提供者和使用者划清法治“红线”和底线，为技术探索和产业创新预留必要发展空间，从司法角度为行业从“野蛮生长”进一步向“有序繁荣”转变提供了助推力。

　　（记者 姜佩杉）