你有没有想过，有一天，连你的家人可能都认不出视频里的“你”了？这不是科幻电影，而是正在发生的现实。就在前几天，演员王劲松在社交媒体上愤怒发声，他的脸和声音被AI技术盗用，生成了一段为某“数字金融企业”站台的推销视频。视频里，“王劲松”口型、声音都和他本人几乎一模一样，逼真到连他的家人都难以分辨。

更让人不安的是，这并非孤例。同一个公众号的视频里，还出现了李连杰、姚明、李亚鹏等多位名人的“AI分身”，都在为这家企业摇旗呐喊。公众号声称这家企业隶属于某知名央企，但该央企早在2023年就已公开辟谣，称与其毫无关系。

当记者联系公众号负责人时，对方仅回复“我们暂时停止推广，等我消息”，并透露制作这类视频“花钱就可以”。目前，该公众号已被屏蔽，但涉事文章的阅读量已超过3000。

资深AI博主歸藏分析，这类高质量AI视频的辨别难度极高，需要观察嘴唇与牙齿开合是否对应、面部与身体动作是否协调等细节，而这些问题现在也能通过技术手段规避。

他同时指出，虽然理论上生成人脸内容需获授权，且平台要求进行标识，但现实中监管主要依赖用户举报，平台很难主动全面覆盖。更棘手的是，技术能力强的用户可以利用开源模型在本地运行，完全脱离平台监管。

陕西恒达律师事务所的赵良善律师明确表示，这种未经授权利用AI生成明星形象用于商业推广的行为，已构成肖像权侵权。

如果未对AI合成内容进行显著标识，还需承担行政责任；若情节严重用于诈骗，甚至可能触犯刑法。除了肖像权，此类行为还可能侵犯声音权益、姓名权、名誉权等多项权益。提供AI工具的平台若未尽到审核义务，也可能构成共同侵权。

王劲松的担忧远不止于此。他透露此前已多次收到朋友转发的类似造假内容，当时还觉得“做得很差”，但这次的技术水平让他“措手不及”。他更担心的是，这种技术如果被用于诈骗，后果将不堪设想。他的担心绝非多余。

2024年3月，央视3·15晚会就曝光了多起AI换脸诈骗案，其中中国香港一起案件涉案金额高达2亿港元。2023年，内蒙古包头警方通报的案例中，一位公司老板在视频通话中被AI换脸和拟声技术伪装的好友，在10分钟内骗走了430万元。

AI换脸，这项属于“深度伪造”范畴的技术，通过人脸识别、特征提取、融合渲染等步骤，能将一个人的脸无缝替换到另一个视频中，甚至连表情和口型都能精准合成。它的危害早已超越娱乐恶搞，形成了实实在在的黑灰产业链。

在电商平台，只需花费几元到几十元，就能定制一部换脸视频，对象可以是普通人，也可以是网红明星。用于制作高清视频的“预训练模型”（被称为“AI金丹”），也只需几元钱就能轻易买到。

这些被恶意合成的视频，正成为敲诈勒索的工具。2024年，深圳多名市民收到自己与陌生女子的“不雅照”，实为AI换脸合成，犯罪团伙借此进行敲诈。2025年，模特叶凯薇发视频称被人利用AI换脸制作淫秽视频并大量传播，经警方鉴定确系伪造。

而对于公众人物，侵权更是泛滥。2024年底，有老人深信AI合成的“张文宏医生”视频，购买其推广的蛋白棒，该产品销量已超1200件。全国人大代表雷军也曾深受其扰，2024年国庆期间，大量用他声音恶搞社会话题的视频涌现，他不得不专门发视频呼吁停止。

直播间成了AI侵权和诈骗的新阵地。一个名为“数字人王建国”的虚拟主播，用精心设计的情感话术称呼观众为“宝贝姐姐”，诱导中老年消费者购买商品。2025年，中央网信办整治AI技术滥用的第一阶段，就累计处置违规AI产品3500余款，清理违法违规信息96万余条。更令人震惊的是“明星男友”骗局。

2024年11月，江西一位65岁的老太太差点为网恋对象“假靳东”贷款200万元，骗子利用AI换脸和语音合成技术，在多平台批量创建仿冒账号，发布表达“爱意”的视频进行诈骗。靳东本人对此表示，希望建立更好的规则。

技术门槛的降低让侵权变得极其便捷。记者调查发现，在购物平台搜索“声音克隆”，花20到50元，提供一分钟语音素材，就能用AI合成该声音说任何话。

再花几十元，提供一段目标人物的视频和克隆好的声音，就能合成一段口型匹配的带货视频。中国网络空间安全协会的专家薛智慧指出，当前有很多开源软件和工具可供网民自由下载使用，实现换声换脸效果。

法律层面已有应对。2023年施行的《互联网信息服务深度合成管理规定》要求不得利用深度合成服务制作、传播法律禁止的信息。将于2025年9月1日施行的《人工智能生成合成内容标识办法》则规定，发布生成合成内容应当主动进行标识。

北京航空航天大学法学院副教授赵精武指出，民法典已将自然人声音视为人格权益，未经授权合成制作他人视频声音属于侵权。2024年6月，北京互联网法院和广州互联网法院均审结了“AI换脸”侵权案件，认定相关行为侵害了他人权益。

平台也在加强治理。在处置“数字人王建国”案例时，某短视频平台回查处置了4.4万条相关视频，对298个违规账号采取禁言措施，并训练模型识别其变体特征。各平台也陆续收紧对数字人直播的管控。然而，治理挑战依然巨大。

抖音相关负责人坦言，AI生成内容越来越逼真，批量制作成本低，黑灰产团伙跨平台传播，给识别工作增加难度。公安机关在办案中也面临服务器难以追踪、电子证据易被篡改销毁等现实问题。

全国两会期间，AI治理成为热点。作为受害者的雷军代表和靳东委员都提出了相关建议。雷军建议探索推出人工智能单行法，明确“AI换脸拟声”应用边界红线，完善侵权证据规则，并加大对利用AI技术实施犯罪行为的刑事处罚力度。

他还建议加强法制宣传教育，在中小学教材中加入伦理规范内容，并深入社区向老年人普及相关知识。靳东委员则再次提案，呼吁加强AI技术和网络平台的立法。