本地ai换脸软件 男子非法制作“AI换脸”视频，被判消除影响、赔偿6万元

澎湃新闻8月23日从杭州互联网法院获悉，经杭州萧山区检察院提起公益诉讼，该院日前判令涉案的虞某删除非法获取的个人信息，公开赔礼道歉、消除影响并赔偿损失6万元，赔偿款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。

据介绍，2021年左右起，虞某在未取得被编辑人同意的情况下，用“AI换脸”软件非法处理他人的人脸信息，将其与部分视频中的人脸信息进行替换合成，生成虚假的换脸视频。检方认为，上述行为侵害承载在不特定多数社会主体个人信息之上的公共信息安全，破坏社会公共秩序，构成对公共信息安全领域的社会公共利益侵害，请求法院判令虞某承担民事责任。

杭州互联网法院审理认为，人脸信息属于敏感个人信息中至为重要的生物识别信息，关系个体人格尊严、人身安全和财产安全，其滥用牵涉不特定社会群体的公共利益。虞某使用换脸软件（技术）深度合成伪造视频和图片，未经信息主体同意，大量搜集、提取、替换、合成、存储他人人脸敏感信息等，并将深度合成的伪造视频、图片发布于2000多人的多个社交软件群组中。同时，为他人提供不特定主体的人脸替换定制服务，并为牟利而对外销售换脸软件、传授技术教程，非法获益数万余元，上述行为构成对个人信息权益的侵害。虞某将合成伪造的视频、图片在网络群组发布，传播可能性高、影响范围大，使潜在的社会不特定群体可能成为受侵害对象，更可能导致公众形成“眼见不为实”的心理预期，破坏互联网数字世界中社会共同体的信任，损害了相关领域的社会公共利益。