恶搞ai换脸软件 “AI换脸技术”被滥用,伪造淫秽视频触犯法律信不得!

AI资讯1年前 (2023)发布 fengdao
24 0

刘昊然工作室发博表示该视频为AI换脸技术伪造,在今年1月就曾被恶意传播,又于近日被再次传播扩大。

该工作室表示,为维护刘昊然的合法权益,他们已向警方报案。

有细心网友找出了刘昊然这则换脸视频,视频画面中,被AI换脸的刘昊然未穿上衣。网友发现,在1分04秒的地方,人脸有明显变化,前后并不是同一个人。网友因此推断,该视频是AI换脸合成的。

有粉丝顺藤摸瓜,找到造谣时间是在2019年,源头是外网。

有博主利用人工智能对刘昊然进行了换脸,之后网友传播到各大网站,再加以文字渲染,各种流言蜚语接踵而至。

对此,不少网友认为,互联网并非法外之地,传播谣言,应该负担起相应的法律责任。

也有网友认为,法律应该严惩那些利用AI换脸技术,做着有违法律、道德之事的人。

AI换脸被用于色情传播

女明星是重灾区

实际上,滥用深度伪造技术的“AI脱衣术”已经存在多年,催生出的黑灰产屡禁不绝。

恶搞ai换脸软件_恶搞ai换脸软件_恶搞ai换脸软件

顾名思义,AI换脸就是将动态视频中的人脸替换成其他人的人脸,在深度伪造技术的“加持”下,替换上的人脸不再是僵硬的“五毛特效”,表情神态与原视频十分相近,甚至肉眼难以辨别。

2019年,就有B站UP主“换脸哥”用深度伪造技术将杨幂的脸“贴”在了朱茵饰演的黄蓉脸上,流传甚广。

随后,不法分子想出让明星“AI脱衣”的点子,他们把淫秽视频中的人脸换上明星的脸,然后在网络上出售,还有人进行换脸技术教学。

女明星是“AI脱衣术”的重灾区。

去年9月,有外媒报道,女演员艾玛·沃特森(Emma )的30秒换脸视频在色情网站上播放超过2300万次,还有多位女明星的换脸视频被观看了数百万次,或是被换脸成为数十个色情影片的女主角,比如泰勒·斯威夫特、娜塔莉·波特曼、比利·艾利什等。

换脸软件“ZAO”和“去演”也均被工信部、网信办约谈整改。然而,记者调查发现,目前,“AI脱衣”的黑灰产仍在互联网中存在。

AI换脸成本低

也被用于人脸识别

AI换脸泛滥的一个重要原因,是它能够被低成本低门槛地获取和运用。

记者在QQ中搜索“换脸”,发现“AI明星换脸”“AI换脸私人定制”等数十个QQ群,群里不少人都在售卖“AI换脸”服务。

以“换脸”为关键词的QQ群搜索结果。

记者在一个AI换脸群内联系到了一位自称可以提供“AI影视换脸合成、换脸定制、换脸教学、成品打包、工具分享”服务的工作人员。该工作人员表示,只要把原始视频素材发给他,想要换脸成哪个明星都可以。并且,该工作人员透露,不光可以换脸明星,换脸素人也可以,只需要提供一张照片,就可以做到“如假包换”。

恶搞ai换脸软件_恶搞ai换脸软件_恶搞ai换脸软件

随后,该工作人员给记者发来两段视频样品。记者发现,从样品来看,经换脸处理后的视频看起来非常自然,肉眼看不出破绽。

工作人员给记者发的视频样品:一段影视剧的AI换脸片段。

关于换脸的价格,该工作人员表示,价格取决于视频时长。5分钟100元,10分钟200元,如果视频很长,价格可以优惠。记者询问是否可以把色情内容视频换脸成明星,对方表示“不限内容”。

如果客户想要自己批量制作换脸视频,也可以选择购买换脸教程。该工作人员告诉记者,只需花2000元,他就可以向记者提供换脸软件,并进行一对一教学,“包教包会”。“大约一个星期就可以掌握AI换脸视频制作。”他说。

在与该工作人员的聊天中,记者发现,AI换脸不仅被用于色情内容,也被用于人脸识别。为了向记者表明换脸效果逼真,该工作人员透露“甚至可以通过人脸识别”。

不过,他表示,并不是所有的人脸识别都可以通过,支付宝、微信、银行类App的人脸识别精度要求非常高,AI换脸达不到。但他透露,自己在从事一项灰色业务——办理手机卡需要到营业厅进行实名认证,AI换脸可以骗过开卡环节中的人脸识别系统。

法律明确规定

未经当事人同意的AI换脸违法

其实,这不是刘昊然第一次被换脸。

去年3月,抖音博主“韦康vico”的一条换脸刘昊然的创意视频获得了近120万点赞。不过,无论对何种类型的视频换脸,均违反了法律规定。

今年1月1日起实施的民法典中,第一千零一十九条明确规定:

任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

法律另有规定的五种情形,包括为个人学习等目的在必要范围内使用、新闻报道不可避免地使用、国家机关依法为依法履行职责使用等。

这意味着,无论是普通公众还是明星,除了以上这五种情形,一切其他的换脸视频都需要以肖像权人同意为前提,否则即为侵权。而制作、复制、贩卖、传播淫秽视频,已经触犯了刑法。受害人可以依法进行维权。

© 版权声明

相关文章

暂无评论

暂无评论...