最近，关于AI有两个爆火的热点事件：一个是“AI孙燕姿”走红网络；一个是“AI换脸”诈骗来袭。两件看似无关的事情，都引发了大众对于AI双刃剑的深度思考。

“AI孙燕姿”爆火网络 版权问题引争议

首先，“AI孙燕姿”绝对算得上是今年上半年最火的华语歌手，紧随其后的还有“AI周杰伦”“AI林俊杰”“AI王心凌”。以前听说AI能编曲、能画画，现在你会发现，舞台上大明星的角色，AI同样能胜任。甚至不需要本人参与，歌手们的“新专辑”已经满天飞了。

这到底是怎么回事？据了解，有人用孙燕姿现有的人声样本，通过AI训练音色、音质和发音特点，建立起其声音模型，再利用所生成的音色对其他歌曲进行翻唱，便有了“AI孙燕姿”。而这运用的是一款开源AI语音转换软件，其原作者已于今年停止更新维护，但仍有不少网友在目前版本上进行独立开发新功能。

网友对虚拟歌手的创作热情，蕴含着对新兴技术的认可与追求。早在十年前，以“初音未来”“洛天依”为代表的虚拟偶像便陆续进入公众视线，其声音正是由真人声源数据制作而成。随着技术迭代发展，以“AI孙燕姿”为代表的“真人分身型”虚拟歌手闪亮登场，“侵入”的不仅是大家的“童年回忆”，更有一些法律上的模糊地带。

通过AI声音克隆技术产生的新歌曲，在声音、风格上与歌手本人相似度极高，导致不少网友都信以为真。这种模仿侵权吗？

我国《著作权法》保护的作品范围包括文字作品、口述作品、音乐、美术作品等，声音并不在列。因此，单纯模仿表演者的音色、演唱技巧等特征，并不属于《著作权法》保护的对象。另外，仅在某一家视频平台上，“AI孙燕姿”的翻唱作品已过千首，其中翻唱歌手周杰伦的《发如雪》等作品甚至斩获超两百万的播放量。多位律师对此表示，虚拟歌手翻唱的作品展示了具体的歌名及歌手姓名，涉嫌侵害相关歌手的姓名权、人格权，以及歌曲的版权等。即使一些发布者在视频中标注了“仅供娱乐不得用于商业”的免责声明，其背后的巨大流量和经济收益难以明确，在侵权问题上也就没办法完全撇清。

“AI换脸”诈骗来袭 有人10分钟被骗430万

目前，孙燕姿本人已经对自己的“AI版本”音乐爆火作出了回应。不过，网友对于人工智能技术应用的担忧并没有停止。

5月，美国苹果公司宣布拟在软件新版本中嵌入一项新功能：因各种原因造成说话能力逐渐丧失的手机用户，可通过录制15分钟的音频，创造出独一无二的“个人定制语音”，在其说话能力丧失后仍能正常使用手机的通话、视频功能。对此，不少用户表示担心该技术更容易被不法分子利用，比如通过制作虚假视频、录音，用于实施电信诈骗。

这种担心并非杞人忧天。据警方介绍，不久前一位福建的老板就掉入了“高端”诈骗局，因为轻信了用“AI换脸”的骗子，短短10分钟就损失了430万元。

AI发展速度之快，带来的不仅有“失业焦虑”，的确也向人们提出了“真假辨别”的新挑战。目前。一些欧盟国家已经开始对人工智能投喂数据问题进行审查。今年3月，国外多家出版商对ChatGPT在数据训练时使用的版权内容提出抗议，要求其公司OpenAI进行赔偿。

在国内，人工智能产业的规制体系也在不断积极完善中。去年底，国家网信办发文要求，在提供合成人声、仿声、人脸替换、姿态操控等深度合成服务时，应当提示使用者依法告知被编辑的个人，并取得其单独同意；并且合成内容如果可能导致混淆或者误认的，必须在合理位置上进行显著标识，交代合成作品的具体信息。今年4月，国家网信办又起草了《生成式人工智能服务管理办法(征求意见稿)》，明确预训练、优化训练的数据，不得含有侵犯知识产权的内容。