《南方都市报》发表于2023年7月21日报纸，A10页。
日前，国家网信办启动了为期两个月的“清浪·2023暑期未成年人网络环境整治”专项行动，重点关注“人工智能换脸”、“人工智能”等新技术新应用带来的危害。。图像”。问题。南都记者调查发现，随着AI技术的加强，其带来的隐患正在网络中广泛蔓延。其中，AI图像不仅仅只是制作未成年人的色情图片、色情视频，AI在有声视频制作上的改造价值数十。这些新技术的出现给未成年人带来了看不见的隐患和危险。
卖家：有一个“AI图像”，带有小软矢量图像
2019年，中华人民共和国网信局发布的《中华人民共和国互联网信息安全法》于同年10月1日起施行，对儿童个人网络信息保护作出了具体规定。其中，对儿童信息影响最大的是儿童色情制品的持有和传播。
南都记者注意到，近日有网友反映，当地一些视频网站上出现了疑似儿童色情的AI图片，称有博主训练AI发布女孩摆出各种挑衅姿势的图片，其中幼童掀起了裙子。为了相机和穿着裙子。“宽松衬衫”，附有图片和文字。微博上，一篇批评AI摄影制作“二次元孕照”的热帖，已获得数万网友点赞。
南都记者进一步调查发现，一些视频网站为人工智能软色情和未成年视频提供分发渠道。在现实生活中的搜索测试中，记者可以轻松搜索到许多人工智能生成的衣着暴露、姿势性感的女性图像。如果关键词再详细一点，就不乏未成年少女的软色情图片。有的发布视频的人甚至在评论区留下照片链接，以换取观众的点赞和关注；一些人还留下了QQ号和联系方式来“接单”，称如果有特殊需求，可以在绘图模型中找到构建一代详细描述符。
在惊喜走访中，记者还发现，在电商领域，有不少店家打着“AI画画”、“AI换脸”的旗号，制作美女视频。“简直太疯狂了，小白用起来很简单，关键词定义也可以免费使用”，一家商店打出这样的广告语，称只需输入一组关键词，就能熟练地塑造出他想要的形象。。
尝试购买后，客户服务将发送一个到云端的链接和一个提取码。销售内容包括SD模型包、快速图像、付款方式和安装说明。对方发布的许多图像和描述都包含露骨的色情内容，未成年女孩的软色情图像随处可见。此外，评论部分还发布了许多人工智能生成的学生图像。这些女孩看起来像孩子，她们的脸被怀疑是软性儿童色情作品。
买家：未成年人也可以购买“AI脱衣”产品
今年3月，一则“AI一键拍地下女性”的新闻冲上微博热搜。照片中的女子是一位博主，她在社交媒体上发布了一系列在地铁里拍摄的衣服照片，但这些照片却被故意在网络上传播，利用AI软件“一键脱衣”。对此，该博主表示，将采取适当措施保护权益，并希望引起人们对隐私和个人照片保护的重视。
事实上，“AI脱衣”的影响甚至影响到未成年人。记者从卖家处了解到，一些AI绘图软件还支持一键删除。一位卖家表示，他拥有“大量资源”，不仅销售图形软件，还销售各种图形工具。在网站上，他将图集分为“二次元”、“文化”、“动漫”、“机甲”等几个类别。对方提交的图文材料中，出现不少“女孩”、“女孩”等词语。也有卖家自称专门销售带有“AI画校服图”图片的装备，这些图片是穿着校服的女学生的图片，但衣服很暴露、很挑衅。
一些提供“AI脱衣”相关技术或服务的公司，会通过隐藏地址避免追踪，只有输入验证码后才能查看；有的需要先按公众号，然后发送密码才能获取验证码；或者通过客服咨询，对方在通话过程中提供网页链接，通过该链接下载最新版本的APP。记者实测发现，这些软件下载，未成年人无需身份识别，只需输入关键词查找渠道即可轻松进行。
这些新技术除了制作色情图片和视频外，还会给其他渠道带来隐患和危险。
当记者搜索短视频论坛时，会弹出大量短视频广告，其中包含AI人工智能软件的链接。名为“AI碎拍”的软件链接后，首页上出现了各种名人和粉丝短视频。只需观看25秒的广告，您就可以使用此应用程序制作免费的10秒视频。这些短视频通常都附有下载链接，广告流量很大，很多视频都有上千条评论和上万次观看。
另外，记者在电商领域搜索，找到了很多商家页面，支持一步换脸，月销售额几百、几千甚至。一位客服经理告诉记者，他们卖的是支持一键换脸的软件，无论是图片还是视频，销售价格只要几块钱。
专长：场景角色匹配、集体诉讼体系分析
对此，中国互联网协会法律事务委员会副秘书长胡刚认为，人工智能，特别是产生的人工智能，引发了新一轮颠覆性技术革命，带来了巨大机遇。并造福全人类。一个强有力的挑战。近年来，我国陆续发布了《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等，都是人工智能司法体系的改进和完善。中国社科院互联网法研究所执行所长刘晓春认为，传统的对软色情等不良新闻的管理更多是基于对传播的控制，如禁止或限制等。分配。有特定的内容生产者，用户需要获取额外的信息。靠近点“今天的困难在于，人工智能技术可以让内容的生产变得非常简单，每个人都可以成为生产者，而不需要专业的人员和机构。
刘晓春表示，现在要做的，除了继续传统的散布负面消息的港口控制之外，就是转变为对技术设备本身的干预和控制，包括技术设备的研发过程。“例如，在一些危险的情况下，这些AI设备需要提供识别功能，识别生成的图像和视频中的合成和不真实的信息，或者在设备中插入隐藏的信号。AI，以便可以探索个人设备和用户”。而管理的重点就是要介入一些重要的环节，比如电商平台、APP应用市场，包括直播间等。该领域的权威人士。
中央网信办专项行动七大要点之一，就是指出新技术新应用的危害，包括“AI换脸”、“AI绘图”、“AI画图”等技术的使用。一键脱衣”生成未成年人信息。色情图片、视频等“这说明问题已经凸显，已经引起处理机构的重视，并且已经有针对性了。”刘晓春表示，希望有关部门能够有更多创新管理措施，采取有针对性的措施。可以控制。”
对于国内人工智能的管理和权益保护，胡刚表示，有必要弱化消费者保护组织和检察机关的公益仲裁制度，探索建立消费者共同司法体系，更好地协调行政执法控制。、民事公益诉讼、私人民事利益诉讼、综合仲裁。建立及时、高效、一体化、网络化的客户解决机制。
总数013
