用AI生成虚假内容是否违法？

林先生：我平时喜欢用AI工具生成图片、视频发朋友圈，最近听说有人用AI换脸、生成虚假内容被处罚了。请问，用AI生成内容本身违法吗？哪些行为才算触碰法律红线？

【解答】

王晓淋（长汀县检察院检察官）：林先生，您好！AI生成内容本身并不违法，它只是一种技术工具，但如果利用AI实施侵害他人合法权益、传播违法信息等行为，就必然违反法律规定，须承担相应责任。

根据《中华人民共和国民法典》《中华人民共和国个人信息保护法》《中华人民共和国刑法》等相关法律规定，以下几种使用AI的情形属于违法或侵权行为：

1.非法侵害他人人格权益：未经本人同意，利用AI换脸、换声技术，将他人肖像、声音植入淫秽、侮辱、诽谤内容并传播，或用于恶意恶搞、人身攻击，同时侵犯他人肖像权、名誉权、声音权；若情节严重，还可能构成侮辱罪或诽谤罪；

2.利用AI实施网络诈骗：通过AI深度伪造他人视频、语音，冒充亲友、公检法工作人员、领导等身份，以紧急情况、借钱转账等理由骗取他人财物，属于典型的诈骗行为，数额较大的将构成诈骗罪；

3.侵犯他人知识产权：未经著作权人许可，利用AI工具复制、改编他人原创画作、文字、音乐等作品并用于营利，或用AI生成与他人作品实质相同的内容销售牟利，将侵犯他人著作权，情节严重的将构成侵犯著作权罪；

4.传播违法违规内容：利用AI生成危害国家安全、煽动民族仇恨、宣扬淫秽色情、编造虚假恐怖信息等内容并传播，违反治安管理处罚法、网络安全法，情节严重的还会触犯刑法相关条款，面临行政处罚甚至刑事追责。

5.滥用个人信息：非法收集、泄露他人信息训练AI模型，或利用AI窃取、贩卖公民个人信息，违反个人信息保护法，情节严重的将构成侵犯公民个人信息罪；

6.危害公共利益与社会秩序：用AI生成虚假政务信息、疫情灾情谣言、煽动群体性事件等内容，或在金融、医疗、交通等关键领域滥用AI算法造成公共安全风险，将依法承担相应行政或刑事责任。

简单来说，AI是中性工具，违法的不是技术，而是利用技术实施的侵权、违法行为。您在使用AI生成内容时，只要坚守不侵犯他人权益、不传播违法信息、不危害公共利益的底线，就能合法合规使用。