“AI实名作业”时代来临！——律师解析AI乱象的法律边界

今年9月1日，《人工智能生成合成内容标识办法》正式实施，从国家层面明确规定：所有AI生成的文字、图片、音频、视频必须显式标识“AI生成”，并在文件元数据中嵌入隐式标识，任何人不得恶意删除或篡改。平台、AI服务商和使用者各负其责，违规者将面临行政、民事甚至刑事处罚。近期，女台球运动员王思诺遭遇AI伪造淫秽视频，奥运冠军全红婵的声音被AI仿冒卖土鸡蛋，配音演员的声音被克隆进低俗广告。记者邀请上海锦天城（福州）律师事务所律师蔡思斌，对这几起事件背后的相关法律问题进行解析，简要解读AI新规定。

事件一：AI造黄谣侵权

8月30日，女台球运动员王思诺发布视频，称有人用AI合成技术伪造其淫秽视频并传播。她已请律师保全证据，并确认警方已经立案侦查。同日，女裁判王钟瑶发声声援，透露自己几年前也被伪造过淫秽视频，当时选择报警但没有公开曝光。王钟瑶呼吁更多受害者勇敢维权：“沉默是对犯罪的纵容。”

问题①：利用AI恶意造黄谣的行为触犯哪些法律？

律师解答

蔡思斌律师：利用AI技术恶意制作、传播涉他人的淫秽虚假信息，已涉嫌违反多领域法律规定，需承担民事、行政乃至刑事责任。

民事责任方面，伪造淫秽视频侵犯受害者的肖像权和名誉权。根据《中华人民共和国民法典》第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。同时，该法第一千零二十四条规定，民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。受害者可要求制作者、传播者及平台方，立即删除侵权内容、赔礼道歉、赔偿损失。

刑事责任方面，若AI造黄谣行为达到“情节严重”标准，将面临刑事处罚。若制作者捏造并大规模传播虚假淫秽内容，已符合《中华人民共和国刑法》第二百四十六条的侮辱罪、诽谤罪要件；若传播淫秽物品，还触及《中华人民共和国刑法》第三百六十四条的传播淫秽物品罪，可判处三年以下有期徒刑、拘役或管制，并处罚金。此外，《生成式人工智能服务管理暂行办法》要求AI生成内容必须显式与隐式标识，警方可快速锁定生成工具与账号，违法者再也无法借“AI无痕”逃避追责。

行政责任方面，若尚不足以追究刑事责任，公安机关也可依据《中华人民共和国治安管理处罚法》给予相应的行政处罚。针对利用AI制作淫秽视频并传播的行为，《中华人民共和国治安管理处罚法》第六十八条规定，制作、运输、复制、出售、出租淫秽的书刊、图片、影片、音像制品等淫秽物品或者利用计算机信息网络、电话以及其他通讯工具传播淫秽信息的，处十日以上十五日以下拘留，可以并处三千元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款；针对利用AI造黄谣以侮辱或者诽谤他人的行为，《中华人民共和国治安管理处罚法》第四十二条规定，公然侮辱他人或者捏造事实诽谤他人的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。

问题②：AI淫秽视频在网络平台被传播，平台方需承担哪些法律责任和义务？

律师解答

蔡思斌律师：当AI生成的淫秽视频在网络平台传播时，平台并非“中立第三方”，需履行法定监管义务。

根据《中华人民共和国民法典》第一千一百九十七条规定，网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。如果平台对违法内容存在放任甚至参与其中的情形，可能被认定为共同侵权甚至共同犯罪。

同时，《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《网络信息内容生态治理规定》《人工智能生成合成内容标识办法》等法律法规均要求平台履行内容审核、算法管理和用户投诉处理义务，否则可能面临行政处罚，严重的甚至会被责令停业整顿。因此平台在此类案件中并非“中立者”，而是必须主动履行监管职责。

平台审核应注意：

1. 严格核验直播间运营商及主播的身份信息，以AI生成名人声音及形象直播的，应与直播间运营商及主播确认核实是否有相应授权，并建立动态核验机制。

2. 利用技术手段，迅速发现AI生成内容，并锁定、确认假冒、违法违规直播内容。

3. 严格落实《互联网信息服务深度合成管理规定》和《人工智能生成合成内容标识办法》要求，对使用AI生成直播的内容添加相应标识，让消费者知悉。

4. 不断完善平台直播信息内容监管、实时巡查、应急处置等机制，在发现AI生成直播内容违法违规时，应当依法立即采取处置措施，及时下架侵权视频。

5. 应完善侵权举报机制，及时处理遭受AI生成内容造假侵权的投诉，对侵权账号采取封号、禁言等严厉措施，并向受害人反馈处理结果。

问题③：转发AI伪造的淫秽视频，违法吗？

律师解答

蔡思斌律师：哪怕只是转发，也可能构成侵权甚至违法。因为此类伪造视频本身侵犯了受害者的人格尊严与名誉权，一旦传播，无论出于猎奇、转发八卦还是评论跟风，都会进一步扩大对受害者的伤害，客观上造成了“二次侵权”。

根据《中华人民共和国民法典》第一千零二十七条明确规定，未经同意，不得以侮辱、诽谤等方式损害他人的名誉。转发淫秽伪造视频，就属于对不实信息的散布，已经损害了当事人的名誉和人格尊严，应当承担相应的民事责任。

如果转发行为涉及淫秽物品的传播，还可能触犯传播淫秽物品罪，即便没有直接营利，只要客观上起到了传播作用，法律也会追究责任。

同时，根据《人工智能生成合成内容标识办法》第八条规定，任何单位和个人不得恶意删除、篡改、隐匿AI内容标识，否则视为违法。转发未标识的伪造视频，还可能违反这一强制性规定。

因此，公众面对这类视频时，正确的做法是：不下载、不保存、不转发，立即举报平台或向警方报案。否则，不仅会对受害者造成伤害，更可能陷入“从围观者变为违法者”的困境，成为侵权链条的“帮凶”。

事件二：AI克隆声音牟利

近期，短视频平台上出现大量冒用奥运冠军全红婵声音的AI视频，内容大多是推销土鸡蛋。其中一条视频点赞量超过1.1万，评论区不少粉丝误以为是本人代言，带货商品销量甚至超过4.7万件。类似现象并非个案，孙颖莎、王楚钦等知名运动员同样被冒名直播牟利，不少职业配音演员的声音也被克隆，用于广告、小说音频甚至低俗内容。

这种“拿原声样本进行建模，并批量生成、商用变现”的黑色产业链，让明星名誉受损，消费者被误导，配音从业者更是直接遭遇经济损失。今年4月，北京互联网法院就“全国首例AI声音人格权侵权案”作出判决，明确认定：声音具备可识别性时受到法律保护，未经许可的商用使用构成侵权，应承担停止侵害、公开道歉、赔偿损失等责任。

问题①：被AI克隆的声音误导买了鸡蛋，算诈骗吗？

律师解答

蔡思斌律师：从法律上看，如果视频制作者故意伪造全红婵声音，使消费者误以为是全红婵本人代言，从而购买产品，这种行为符合《中华人民共和国刑法》第二百六十六条诈骗罪的构成要件，即“以非法占有为目的，采用虚构事实或者隐瞒真相的方法，骗取公私财物”。若涉案金额达到较高标准，即有可能构成刑事诈骗。

即便未达到刑事立案标准，该行为仍需承担民事责任。根据《中华人民共和国民法典》第一千一百八十条规定，一方以欺诈手段，使对方在违背真实意思的情况下实施的民事法律行为，受欺诈方有权请求人民法院或者仲裁机构予以撤销。消费者有权主张退货退款，并要求经营者赔偿损失。

同时，根据《中华人民共和国消费者权益保护法》第八条规定，消费者享有“知悉真实情况的权利”，第九条规定享有“自主选择权”。被AI冒充声音欺骗性营销，显然侵犯了消费者的知情权与选择权。消费者可以凭购物记录、涉案视频截图、评论区混淆留言等证据，向市场监管部门举报，要求商家承担行政责任；也可向法院提起民事诉讼，要求退一赔三或退一赔十。

问题②：什么叫“声音的可识别性”？

律师解答

蔡思斌律师：在AI技术可轻松克隆声音的背景下，“声音的可识别性”成为判断是否侵犯他人声音权的核心标准，其本质是“声音与特定自然人的稳定对应关系”。

如果一般公众或特定领域公众，单凭音色、语调、发音习惯，就能联想到某个自然人，即认定该声音具备“可识别性”。换句话说，“听声就能想到是谁”，即具备了可识别性。例如全红婵等运动员接受采访时的语调、特定运动员获胜后的标志性发言语气，或是某知名主持人独特的播报语速，都因具备稳定且易辨识的特征，满足“可识别性”要求。

在司法实践中，证明路径主要有以下几类：一是通过专业鉴定机构进行波形、声纹对比，从科学层面佐证“声音来源于特定自然人”；二是收集公众识别度证据，例如社交媒体评论区中粉丝留言“这明显是XX的声音”“一听就知道是XX”；三是提供交易转化数据，如商品销量因冒用声音显著上升、品牌搜索量激增；四是相关调查或行业公认度材料。这些证据结合在一起，就能证明某一特定声音与特定人物存在稳定的对应关系。

根据《中华人民共和国民法典》第一千零二十四条至第一千零二十七条关于人格权的规定，声音属于受保护的人格权益之一。具备可识别性的声音属于受法律保护的人格权益，其保护逻辑与肖像权一致。若未经允许擅自克隆并商用，便构成对声音人格权的侵犯，应承担停止侵害、赔偿损失、恢复名誉等法律责任。

问题③：签了配音合同，对方能“顺带”把声音拿去做AI模型吗？

律师解答

蔡思斌律师：在配音合作中，即便双方签署了配音合同，对方也无权“顺带”将配音演员的声音用于训练AI模型。录音制品许可与声音权益许可是两个完全不同的概念。即便配音演员与公司签署了录音合同，只是允许录音制品被使用或发行，并不意味着放弃了对声音人格权的控制权。

用声音训练AI模型，本质是将配音演员的声音特征转化为数据，生成可无限复制、灵活调用的“AI声音克隆模型”，属于对“声音本体权益”的占用，而非对“特定配音成果”的使用——这种行为直接触及民法典保护的“声音权”，必须经权利人明确同意。若合同没有明确授权“AI建模/合成/商用”，公司擅自用录音去训练AI模型并进行商业开发，就属于超范围使用，构成对配音演员人格权和财产权的双重侵害。配音演员完全可以要求停止侵害、消除影响、赔礼道歉，并主张赔偿损失。

若合同条款存在模糊表述，或包含“可将声音用于一切与合作相关的开发”等霸王条款，配音演员可根据《中华人民共和国民法典》第四百九十六条主张条款无效。

《人工智能生成合成内容标识办法》新规要点

一、标识样式

◆显式标识：在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现，并可以被用户明显感知到的标识。例如“本文由AI生成”“视频含合成画面”。

◆隐式标识：采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。例如在文件元数据中写入不可见信息，如是否AI生成、生成主体、唯一编号等；鼓励叠加数字水印以利溯源。

二、不同模态的标识方式

◆文本：在开头/结尾/中间适当位置标注“AI生成/合成”或统一角标。

◆图片：在边或角标注“AI生成/合成”，文字高度不低于画面最短边的5%，字体清晰可辨。

◆音频：在开头/结尾/中间加语音说明或节奏标识；节奏标识采用摩斯码“AI”，即“短-长-短-短”。

◆视频：在视频起始画面和视频播放周边的适当位置持续显示显著标识（至少2秒）。

◆H5交互界面：在内容附近或界面顶部/底部等位置持续提示。

三、责任主体

◆AI工具提供方（服务提供者）：应保证生成内容默认带标识；完善协议、保留日志；仅在专业必要场景可提供“无显式标识”内容，但需留存用户信息与记录。

◆使用者（发布者）：应主动标注；即使仅有10%内容由AI生成，也应声明；不得删除或篡改隐式标识。

◆平台（传播者）：应核验标识、对未标识/疑似内容加注风险提示并限制扩散；对违法信息迅速处置，并配合溯源。

四、违规后果

任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益，否则依法追究行政、民事、刑事责任；平台未履责的，依法处罚并责令整改。

普法后记 

新规的出台，正是对现实乱象的回应。这意味着AI技术从此必须“实名作业”，违法滥用行为将更易被发现和追责。AI的恶意滥用让受害者名誉受损、消费者被骗，社会秩序也受到冲击。正因如此，新规被寄予厚望：它不仅是“堵漏洞”的规定，更是“撑腰杆”的法律，为公众维权和社会治理提供坚实支撑。