AI歌手顾名思义是由计算机技术生成的歌手。通过人工智能软件将歌手的声音数据输入、训练，再以具有仿冒歌手音质感的声音唱出其他歌曲。当前的AI技术逐渐能以较大规模深度合成人声，用一个人的声音素材“仿真”组合出他没有说过的话、唱过的歌。其实AI歌手的技术原型在我们身边早已有之，例如车载地图软件以男女明星的声音来导航，甚至可以合成自己声音的导航软件，但相比此类略呆板的、逐个读字的软件，AI歌手初步实现了一种更连贯的、音色音质水准较高的表达技术，是AI模仿技术的突破，AI歌手的出现刷新了人们对人工智能能做什么的认知。同时应该注意，新事物的产生在带来新的发展机遇时也会产生新的风险。
声音就跟肖像一样，是人身权益的一类。声音作品指的是具有版权的特定作品。目前AI歌手还少见到自主生成原创新内容，一般是翻唱他人的作品。法律允许个人基于学习、研究或者欣赏目的，在小范围内使用他人肖像、声音、作品。大规模的使用或营利性使用，就会超出个人合理使用的标准。目前AI歌手尚未进入商业收费流程，但流传范围已经较广，有了不少流量，如果出现大规模的滥用、商用行为，可能会导致对声音权利人的民事侵权风险。
但是，AI歌手或AI说话人软件可能造成的更大风险是仿冒。声音是我们辨识一个人身份的重要维度，如果是AI合成的歌曲，即便听着神似甚至可能水准更胜一筹，那也是一种“假货”。就像仿冒他人商标的产品，即便质量更佳，也是一种假货。更有甚者利用“AI说话人”的技术合成，制造他人的一段虚假话语或言论，用来诈骗钱财或者散布以败坏他人名誉，或者在法院诉讼中作为伪证。国家互联网信息办公室、工业和信息化部、公安部于2022年11月公布的《互联网信息服务深度合成管理规定》对此已经有所规定。其界定的深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。不难理解，仿冒式的合成是不被允许的。对于高度逼真的“高技术”仿冒，由于鉴定难度大、鉴定成本高，给他人造成的不安全感也特别强，在造成重大危害后果或重大风险时，还应当被纳入法律的视野。
