AI技术再刷屏！明星集体“说”外语，有何风险？

近日，一段美国女歌手“说”中文的短视频在网络刷屏，引发热议。

视频中，这位女歌手“说”着流利中文，音色和讲母语时的音色类似，甚至连口型都能对上。

类似的视频还有很多外国人“说”地道中文、很多中国艺人“说”起流利的英文……不少网友感叹，“嘴型、手势都对得上，太自然了，差点儿以为是真的。”“除了嘴形，还有身体动作和语速的配合。”

其实，这些视频有一个共同点：都是由AI（人工智能）生成的。

AI“翻译”以假乱真

小编试用了一款AI人像视频工具，只需上传视频，选择语言，就能生成自动翻译、音色调整、嘴型匹配的新视频。

对比原片，AI“翻译”后重新配音的新视频不仅进行了较准确翻译，而且连声线和情绪都近乎拟真，嘴型很贴合，难辨真假。

对此，有网友表示，这种技术看起来很炫酷，应用场景很广泛，未来可能会越来越成熟，比如翻译配音会更自然、传神。

但也有网友表示担忧，“这会不会被用来模仿声音进行诈骗？”“再加上换脸，以后网上啥都不能信了。”“以后视频造假会越来越容易。”

还有网友表示，“希望AI技术发展能被控制在正轨，技术滥用，就是灾难。”

AI技术是把“双刃剑”

近年来，AI技术被广泛应用于短视频的二次创作，比如AI换脸及换声等。可以说，AI技术是把“双刃剑”。

一方面，AI换脸及换声技术对于工作效率的提高具有非常强的作用。清华大学新闻与传播学院教授司若举例说，AI换脸及换声技术让已故的演员、历史人物可以通过换脸技术重现在屏幕上，在不同国家的语言转译上也可以通过AI的换声技术进行实时转译。

另一方面，近年来，有不法分子为了牟利，利用AI技术进行诈骗。比如利用AI换脸冒充熟人诈骗，甚至将“魔爪”伸向儿童，或者制作发布假新闻混淆视听、赚取流量等。

此外，AI换脸、AI换声还存在法律风险。近期，不少相声演员“说”英文相声、小品演员“演”英文小品的视频在网络上传播。对此，北京岳成律师事务所高级合伙人岳屾山律师表示，用AI技术为他人更换声音、做“翻译”并发布视频，可能涉嫌侵权，主要有三个方面：

一是著作权，例如相声、小品等都属于《中华人民共和国著作权法》保护的“作品”。网友用AI软件将相声、小品等“翻译”成其他语言，须经过著作权人授权，否则就存在侵权问题。

二是肖像权，根据《中华人民共和国民法典》，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。网友用他人形象制作视频，并在网站发布，需要取得肖像权人的同意，否则涉嫌侵权。

三是声音权，根据《中华人民共和国民法典》规定，对自然人声音的保护，参照适用肖像权保护的有关规定。也就是说，需要取得声音权人的同意，才能够使用他人的声音。

岳屾山律师强调，技术滥用，可能会侵犯他人权益，“AI技术本身不是问题，关键是我们要怎么用它。”

如何对AI技术加强监管？

AI技术发展，需要多层面约束规范——

在源头端，需要进一步加强公民个人信息保护。专家建议，加强公民信息尤其是生物特征等隐私信息的技术、司法保护力度。

在技术层面，数字水印鉴伪等技术有待进一步普及利用。比如AI生成的视频须带有不可消除的“AI生成”水印字样。

在法律制度层面，进一步完善人工智能等领域相关法律法规。今年8月15日，《生成式人工智能服务管理暂行办法》正式施行。《办法》规定，提供和使用生成式人工智能服务，应当尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

中国科学技术大学公共事务学院、网络空间安全学院教授左晓栋表示，总体而言，生成式人工智能仍处于发展的初期阶段，风险没有完全暴露，应用前景难以估量，所以应当采取包容审慎的态度，坚持发展和安全并重、促进创新和依法治理相结合，要采取有效措施鼓励生成式人工智能创新发展。

据了解，目前我国人工智能产业蓬勃发展，核心产业规模达到5000亿元，企业数量超过4300家。随着各项措施规范出台，我们期待未来人工智能发展更加健康规范，从多方面助力人们的工作和生活。