“AI幻觉”让律师“被判刑” ——律师解析“技术中立”的相关法律问题

近日，一起因“AI幻觉”引发的名誉权纠纷案引发社会广泛关注。人工智能本是便捷的工具，但当它“一本正经地胡说八道”时，却可能成为伤人的利器。所谓“AI幻觉”，是指大语言模型在生成内容时，编造出模型认为真实存在但实际上与客观事实或用户指令不符的信息。这种现象并非模型有意欺骗，而是其在面对信息不确定性时，基于训练数据中的统计规律进行“填补”的结果。面对生成式AI带来的侵权新问题，平台能否以“技术中立”为由免责？权益保护与技术创新之间又该如何平衡？对此，记者邀请上海中联(厦门)律师事务所高级合伙人、监事会主任王鹭杰律师解答。

图片来源于网络

案情回顾

2024年9月，南京执业律师李小亮在百度搜索自己姓名加职业和地点时，发现搜索下拉词条及“大家还在搜”等板块出现“南京李小亮律师判刑了多少年”等不实内容。进一步搜索后，百度“AI智能回答”直接显示其因爆炸罪被判刑3年，并配有该名律师的照片。

李小亮多次通过发函、拨打政务热线及平台推广热线投诉，但至同年9月30日核心造谣内容仍未清除，遂将百度诉至法院。

该案经南京江北新区法院一审、南京中院二审，2025年3月二审终审维持原判，判令百度公司书面道歉。

关注一：当事人维权

李小亮律师称，他在百度App、百度网站搜索“李小亮律师”“南京李小亮律师”等姓名+职务关键词时，百度“AI智能回答”模块主动生成虚假信息，明确标注“李小亮律师被判3年有期徒刑”“被告人李小亮”“犯爆炸罪”等贬损性表述。

问题：李律师维权的依据是什么？

律师解答

王鹭杰律师：根据《中华人民共和国民法典》规定，民事主体享有名誉权，任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。此案中，涉案的AI生成内容指向明确，包含了“判刑”“被告人”等极具贬损性的虚假表述，这种“无中生有”的严重失实信息，在网络公共空间传播，客观上会导致律师的社会评价降低，对其职业声誉造成直接的负面影响。因此，当事人完全有权依据《中华人民共和国民法典》提起名誉权侵权诉讼，要求停止侵害、消除影响并赔礼道歉。

图片来源于网络

关注二：平台抗辩

百度在一、二审中的抗辩，均被法院驳回。其辩论核心是：“AI幻觉”是行业共性、技术固有局限，属于生成式AI正常运作的内生现象，不可预见、不可完全避免，平台无主观过错；百度仅为技术服务提供者，受“技术中立”原则保护，不应为技术初期缺陷承担侵权责任；强调AI生成内容系算法自主概率生成，平台未参与编辑、修改，无直接侵权行为。

问题：百度的抗辩理由为何被驳回？

律师解答

王鹭杰律师：该案中，面对平台的抗辩，主审法官曾当庭发出了直击痛点的追问：“为何在豆包、DeepSeek等同类AI上提问，没有出现这些评价？”这一追问直接戳破了平台“技术绝对不可控”的借口。法院审理认为，既然同期的同类产品未出现同类严重错误，就不能将这种指向特定自然人的诽谤性内容，简单归咎为技术发展的“必然代价”，法律虽然保护技术创新，但“技术中立”绝不是规避法律责任的挡箭牌，AI的“不可预见性”也无法成为平台治理责任的免责金牌，百度作为“AI智能回答”的管理者，在此案中负有不可推卸的责任。

图片来源于网络

关注三：法院判决

法院审理认为，百度“AI智能回答”非简单搜索结果展示，而是平台通过算法对文字+图片主动加工、合成、推送的内容生产行为，百度系内容生产者与发布者，非单纯技术提供者；涉案内容指向明确、贬损性极强，并非不可预见的技术偶然。

由此，法院判决百度构成名誉侵权，于判决生效10日内向李小亮书面道歉；因无充分损失证据，驳回经济赔偿诉求。二审维持原判。

问题：法院判罚的依据是什么？

律师解答

王鹭杰律师：法院判罚的核心依据在于界定了平台的法律角色及主观过错，精准区分了“传统搜索推荐”与“AI智能生成”的法律定性。对于搜索下拉词条、“相关搜索”板块，法院认为，这属于信息检索服务。平台未对数据进行加工，相关内容多为用户搜索习惯的记忆与抓取，缺乏明确的指向性，若强行屏蔽反而会损害公众的检索权益，因此百度在此环节不具有主观过错，不构成侵权。

但是，对于“AI智能回答”，法院给出了截然不同的认定。AI将虚假的“有期徒刑3年”“爆炸罪”等负面贬损性文字与当事人真实照片加工合成后发布，指向极其明确。这已经超越了单纯的检索服务，客观上必然导致律师社会评价降低。作为面向公众的网络空间，平台对这种带有严重误导性的内容生成负有不可推卸的管理责任，这说明平台未建立有效内容校验机制，对明显虚假、侵权信息未拦截、未及时处理，存在明显的过错。据此，法院作出以上判决。

律师提醒

百度曾主张此案判决会“冲击AI产业创新”，呼吁对新技术持包容审慎态度，为技术发展留足空间。但这引出了一个关键命题：包容审慎不等于放任自流。“AI幻觉”在医疗、法律、新闻等高风险领域可能引发严重后果，如误诊、法律误判或虚假新闻传播。法律不苛求AI完美无缺，但绝不纵容平台对高风险侵权的“视而不见”。

在算法时代，平台作为生成式AI服务的提供者和直接受益者，理应承担相匹配的注意义务。这要求平台：1.建立前置的安全校验屏障：引入有效的内容安全护栏和事实验证机制，尤其是针对涉及公民犯罪记录、名誉等敏感标签，应建立更为严格的拦截词库；2.畅通事后的侵权反馈通道：必须畅通针对“AI幻觉”的侵权投诉反馈通道，确保在收到警示后能以最快速度切断虚假信息的传播链条，真正实现技术向善。

只有在法治的框架内规范平台的算法推荐与内容生产责任，倒逼企业提升技术向善的能力，才能真正实现AI产业创新与公民合法权益保护的共赢。