人工智能深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，同时，“AI换脸拟声”的不当滥用也引发了诸多关注。

4日，全国人大代表、小米集团创始人雷军接受总台记者专访时表示，“AI技术发展以后，AI换脸、AI拟声在网上已经成为了重灾区，我本人也是主要的受害者，呼吁尽快立法重点整治”。

雷军：明确“AI换脸拟声”应用边界红线

雷军在建议中指出：人工智能(AI)深度合成技术的快速发展，推动了“AI换脸拟声”在影视、广告、社交等领域广泛兴起，成为社会喜闻乐见、传播力强、易成热点的技术应用。但同时也看到，“AI换脸拟声”不当滥用成了违法侵权行为的重灾区，易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为，甚至造成难以挽回的大规模形象和声誉损害，带来社会治理等风险。AI深度合成技术所需素材获取便利、技术使用门槛低、侵权主体及其手段隐蔽性强等特点，给治理带来较大挑战。

雷军的具体建议包括：

• 一是针对“AI换脸拟声”等某一代表性问题，探索推出人工智能单行法，提高立法位阶及其效力，分级分类的基础上进行务实治理，明确“AI换脸拟声”应用边界红线，完善侵权证据规则，加大对利用人工智能技术实施犯罪行为的刑事处罚力度。

• 二是强化行业自律共治，压实平台等各方的责任。支持平台企业开发可精准识别人工智能深度合成内容的技术能力，优化升级通信软件和内容平台巡查审核机制、投诉举报机制、应急处理机制，确保及时阻断问题内容传播。

• 三是建议加强人工智能方面的法制宣传教育，增强民众的警惕性和鉴别力，聚焦重点人群，在中小学人工智能教材中加入伦理规范内容，深入老年人聚居的社区开展相关知识普及活动，在全社会夯实“以人为本、智能向善”的人工智能发展生态。

未经授权

合成制作他人视频声音属侵权

前段时间，雷军、刘德华、张文宏等名人，纷纷被人工智能技术换脸拟声合成视频。这类视频以假乱真，很容易“欺骗”受众。

去年国庆假期，还有人用AI捏造雷军配音，所谓“雷军语音包”层出不穷，从吐槽假期到骂人，各种内容应有尽有。对此，雷军本人还专门发视频，呼吁大家不要再恶搞。

记者在手机应用商城搜索“换脸换声”，会出现众多工具。不过，记者发现，换脸工具设定了固定的场景，且从效果看逼真度不高。

专家表示此类软件目前在网络上有数十种，不过不论换声还是换脸软件，不同的场景需要调整相应的参数，步骤较多，属于半专业软件，有一定的技术门槛，所以不被网民熟知。

专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单AI深度合成制作名人视频，已经属于侵权行为，并应该承担相应的法律责任。

北京市竞天公诚律师事务所合伙人周杨告诉记者，这类用AI合成的名人音视频，会侵犯名人的肖像和声誉，还存在散布虚假、不良信息的风险。

她举例：“DeepSeek爆火之后，《黑神话：悟空》制作人冯骥发文盛赞。很快，一条DeepSeek创始人梁文锋的回应，引发朋友圈广泛转载。最后，多个知名大V声称梁文锋的回应为AI伪造。”

用AI生成别人的脸和声音？

可以置入隐式标识

据北京日报报道，AIGC（人工智能生成内容）与过去影响网络空间安全的内容一样，都会出现虚假和不良信息，但更加难以甄别，更容易导致不良影响和后果。《互联网信息服务管理办法》明确规定了网络发布信息“九不准”。《网络信息内容生态治理规定》还有“十一不得”。国家互联网信息办公室还发布了《人工智能生成合成内容标识办法（征求意见稿）》，与全国网络安全标准委员会发布的《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准（征求意见稿）配套使用，要求对人工智能生成合成内容进行标识，规范AIGC在网络空间中的流通安全。

此外，还有合成普通人音视频、对其亲友实施诈骗的行为，未成年人和中老年尤其容易被针对。周杨表示，《网络信息内容生态治理规定》《生成式人工智能服务管理暂行办法》《未成年人网络保护条例》均有关于弱势群体的专门规定。

浙江大学研究员韩蒙表示，AI合成伪造和AI标识，存在相互博弈的关系。在技术上，可以对AIGC进行标识。“标识有显式的，比如现在大家在视频网站上看到的水印。随着技术升级，包括我们团队在内，一些国内团队也对隐式标识展开研究。”当利用AI生成作品时，隐式标识会被藏在作品中，肉眼是看不见的。但通过检测手段，标识可以显现。