“AI实名作业”时代来临！——律师解析AI乱象的法律边界 - 普法之窗

今年9月1日，《人工智能生成合成内容标识办法》正式实施，从国家层面明确规定：所有AI生成的文字、图片、音频、视频必须显式标识“AI生成”，并在文件元数据中嵌入隐式标识，任何人不得恶意删除或篡改。平台、AI服务商和使用者各负其责，违规者将面临行政、民事甚至刑事处罚。近期，女台球运动员王思诺遭遇AI伪造淫秽视频，奥运冠军全红婵的声音被AI仿冒卖土鸡蛋，配音演员的声音被克隆进低俗广告。记者邀请上海锦天城（福州）律师事务所律师蔡思斌，对这几起事件背后的相关法律问题进行解析，简要解读AI新规定。

事件一：AI造黄谣侵权

8月30日，女台球运动员王思诺发布视频，称有人用AI合成技术伪造其淫秽视频并传播。她已请律师保全证据，并确认警方已经立案侦查。同日，女裁判王钟瑶发声声援，透露自己几年前也被伪造过淫秽视频，当时选择报警但没有公开曝光。王钟瑶呼吁更多受害者勇敢维权：“沉默是对犯罪的纵容。”

问题①：利用AI恶意造黄谣的行为触犯哪些法律？

律师解答

蔡思斌律师：利用AI技术恶意制作、传播涉他人的淫秽虚假信息，已涉嫌违反多领域法律规定，需承担民事、行政乃至刑事责任。

民事责任方面，伪造淫秽视频侵犯受害者的肖像权和名誉权。根据《中华人民共和国民法典》第一千零一十九条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像。同时，该法第一千零二十四条规定，民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。受害者可要求制作者、传播者及平台方，立即删除侵权内容、赔礼道歉、赔偿损失。

刑事责任方面，若AI造黄谣行为达到“情节严重”标准，将面临刑事处罚。若制作者捏造并大规模传播虚假淫秽内容，已符合《中华人民共和国刑法》第二百四十六条的侮辱罪、诽谤罪要件；若传播淫秽物品，还触及《中华人民共和国刑法》第三百六十四条的传播淫秽物品罪，可判处三年以下有期徒刑、拘役或管制，并处罚金。此外，《生成式人工智能服务管理暂行办法》要求AI生成内容必须显式与隐式标识，警方可快速锁定生成工具与账号，违法者再也无法借“AI无痕”逃避追责。

行政责任方面，若尚不足以追究刑事责任，公安机关也可依据《中华人民共和国治安管理处罚法》给予相应的行政处罚。针对利用AI制作淫秽视频并传播的行为，《中华人民共和国治安管理处罚法》第六十八条规定，制作、运输、复制、出售、出租淫秽的书刊、图片、影片、音像制品等淫秽物品或者利用计算机信息网络、电话以及其他通讯工具传播淫秽信息的，处十日以上十五日以下拘留，可以并处三千元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款；针对利用AI造黄谣以侮辱或者诽谤他人的行为，《中华人民共和国治安管理处罚法》第四十二条规定，公然侮辱他人或者捏造事实诽谤他人的，处五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。

问题②：AI淫秽视频在网络平台被传播，平台方需承担哪些法律责任和义务？

律师解答

蔡思斌律师：当AI生成的淫秽视频在网络平台传播时，平台并非“中立第三方”，需履行法定监管义务。

根据《中华人民共和国民法典》第一千一百九十七条规定，网络服务提供者知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。如果平台对违法内容存在放任甚至参与其中的情形，可能被认定为共同侵权甚至共同犯罪。

同时，《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《网络信息内容生态治理规定》《人工智能生成合成内容标识办法》等法律法规均要求平台履行内容审核、算法管理和用户投诉处理义务，否则可能面临行政处罚，严重的甚至会被责令停业整顿。因此平台在此类案件中并非“中立者”，而是必须主动履行监管职责。

平台审核应注意：

1. 严格核验直播间运营商及主播的身份信息，以AI生成名人声音及形象直播的，应与直播间运营商及主播确认核实是否有相应授权，并建立动态核验机制。

2. 利用技术手段，迅速发现AI生成内容，并锁定、确认假冒、违法违规直播内容。

3. 严格落实《互联网信息服务深度合成管理规定》和《人工智能生成合成内容标识办法》要求，对使用AI生成直播的内容添加相应标识，让消费者知悉。

4. 不断完善平台直播信息内容监管、实时巡查、应急处置等机制，在发现AI生成直播内容违法违规时，应当依法立即采取处置措施，及时下架侵权视频。

5. 应完善侵权举报机制，及时处理遭受AI生成内容造假侵权的投诉，对侵权账号采取封号、禁言等严厉措施，并向受害人反馈处理结果。

问题③：转发AI伪造的淫秽视频，违法吗？

律师解答

蔡思斌律师：哪怕只是转发，也可能构成侵权甚至违法。因为此类伪造视频本身侵犯了受害者的人格尊严与名誉权，一旦传播，无论出于猎奇、转发八卦还是评论跟风，都会进一步扩大对受害者的伤害，客观上造成了“二次侵权”。

根据《中华人民共和国民法典》第一千零二十七条明确规定，未经同意，不得以侮辱、诽谤等方式损害他人的名誉。转发淫秽伪造视频，就属于对不实信息的散布，已经损害了当事人的名誉和人格尊严，应当承担相应的民事责任。

如果转发行为涉及淫秽物品的传播，还可能触犯传播淫秽物品罪，即便没有直接营利，只要客观上起到了传播作用，法律也会追究责任。

同时，根据《人工智能生成合成内容标识办法》第八条规定，任何单位和个人不得恶意删除、篡改、隐匿AI内容标识，否则视为违法。转发未标识的伪造视频，还可能违反这一强制性规定。

因此，公众面对这类视频时，正确的做法是：不下载、不保存、不转发，立即举报平台或向警方报案。否则，不仅会对受害者造成伤害，更可能陷入“从围观者变为违法者”的困境，成为侵权链条的“帮凶”。