法悟 | AI换脸技术滥用引发法律严惩：杭州虞某案成典型

近期，浙江省杭州市公布了一起AI换脸技术滥用案件。在本案中，虞某运用AI技术，批量制作并广泛传播含有淫秽内容的视频，被依法判处七年三个月有期徒刑，并处以六万元人民币的罚金。此事件不仅深刻揭示了AI换脸技术在数字时代潜藏的安全危机，也再次为新兴技术的合法合规使用敲响了警钟。据深入调查，虞某凭借高超的AI换脸技术，将多位知名女星的面部特征精准移植至淫秽视频之中，创造出令人难辨真假的视觉效果，其手段恶劣，影响广泛。为追求更高的关注度和网络流量，虞某甚至在社交媒体上设立多个群组，如“观赏交流群”与“专属定制服务群”，公然提供个性化换脸服务，极大地助长了淫秽内容的扩散。基于此，法院依法作出了七年三个月有期徒刑的严厉判决。

（一）民事责任

首先，根据《民法典》第1019条规定：“任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。”以及《民法典》第1024条规定：“民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。名誉是对民事主体的品德、声望、才能、信用等的社会评价。”在本案中，AI换脸技术若未经允许擅自挪用他人面部信息于色情内容的制作与传播，无疑是对个人肖像权、名誉权，甚至隐私权的粗暴践踏。

其次，根据《民法典》第995条规定：“人格权受到侵害的，受害人有权依照本法和其他法律的规定请求行为人承担民事责任。受害人的停止侵害、排除妨碍、消除危险、消除影响、恢复名誉、赔礼道歉请求权，不适用诉讼时效的规定。”在本案中，受害者有权要求立即停止侵害，切断侵权行为的持续性。随后，可以要求侵权人通过发布公开道歉、澄清声明等手段，消除侵权带来的负面影响，恢复受害者的社会声誉与评价。至于赔偿损失，则涵盖了直接经济损失，比如因名誉受损而减少的收入，以及合理的精神损害抚慰金，全面补偿受害者所承受的物质与精神双重损失。

最后，若AI换脸技术被恶意用于侮辱或诽谤，导致受害者社会评价急剧下降，根据《民法典》第996条规定：“因当事人一方的违约行为，损害对方人格权并造成严重精神损害，受损害方选择请求其承担违约责任的，不影响受损害方请求精神损害赔偿。”受害者还有权主张精神损害赔偿，以弥补其因此经历的心理创伤与精神苦楚。

（二）行政责任

根据《治安管理处罚法》第68条规定：“制作、运输、复制、出售、出租淫秽的书刊、图片、影片、音像制品等淫秽物品或者利用计算机信息网络、电话以及其他通讯工具传播淫秽信息的，处十日以上十五日以下拘留，可以并处三千元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款。”据此，行为人制作、复制、传播淫秽物品的行为被视为扰乱社会治安的违法行为，可能面临行政拘留、罚款等行政处罚。

同时，若行为人在利用AI换脸技术的过程中，违反了网络安全管理相关规定，如未经授权非法收集、出售或提供个人信息，还可能触犯《网络安全法》第44条规定：“任何个人和组织不得窃取或者以其他非法方式获取个人信息，不得非法出售或者非法向他人提供个人信息。”从而受到网信部门等监管机构的行政处罚。这些处罚措施可能包括警告、罚款、暂停相关业务、吊销许可证等，旨在严惩违法行为，保护网络空间的安全与秩序。

（三）刑事责任

1.制作、复制、出版、贩卖、传播淫秽物品牟利罪

根据《刑法》第363条规定：“以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。”

因此，为追求非法利益，涉及制作、复制、印刷、贩卖及传播淫秽材料的行为，均有可能构成犯罪。在AI换脸技术滥用于色情内容的背景下，行为人运用AI技术，将他人面容非法植入淫秽视频中，并以此作为盈利途径进行广泛传播，此行为无疑满足了该罪行的构成要件。值得注意的是，此罪名为选择性罪名，即行为人一旦实施了上述列举中的任意一项行为，即可据此单独定罪。若行为人同时实施了多种相关行为，则将所涉行为合并为一个罪名予以论处，不实行数罪并罚。

2.侵犯公民个人信息罪

在AI换脸技术被滥用于色情领域的案例中，行为人为了达成面部篡改等目的，常常不得不非法收集与利用他人的面部特征、身份资料等敏感个人数据。根据《刑法》第253之一条规定：“违反国家有关规定，向他人出售或者提供公民个人信息，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三年以上七年以下有期徒刑，并处罚金。”任何违反国家关于公民个人信息保护的行为，擅自获取、交易或泄露公民个人信息的行为，一旦情节严重，即构成侵犯公民个人信息罪。

因此，在涉及AI换脸技术的色情案件中，若行为人未经授权或违反法律界限，搜集、贩卖或不当披露了他人的个人信息，并达到刑法所认定的严重程度，那么将面临侵犯公民个人信息的追究。

3.侮辱罪、诽谤罪

根据《刑法》第246条规定：“以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。前款罪，告诉的才处理，但是严重危害社会秩序和国家利益的除外。”

若行为人利用技术手段将他人面部非法植入淫秽画面中，且此行为蕴含了恶意贬低或捏造事实的意图，进而导致原肖像权人在社会上的评价受到显著负面影响，足以对受害者的名誉权构成实质性的侵害，那么此行为亦有可能触犯侮辱罪或诽谤罪。

4.诈骗罪

根据《刑法》第266条规定：“诈骗公私财物，数额较大的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚金；数额巨大或者有其他严重情节的，处三年以上十年以下有期徒刑，并处罚金；数额特别巨大或者有其他特别严重情节的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。本法另有规定的，依照规定。”

在AI换脸事件中，犯罪者基于非法占有的目的，借AI技术伪装成受害者的亲属、好友或商业合作对象，依托伪造的视讯通话或虚假信息，诱使受害者陷入信任陷阱，进而骗取其财物。尤为值得注意的是，在AI换脸技术被恶意用于色情诱饵的诈骗案件中，犯罪分子常利用受害者的好奇心、忧虑乃至恐慌情绪，实现其不法企图。

*本微信文章仅为交流目的

不代表华炬律师事务所的法律意见