3月23日，霍启刚在个人社交账号上发文，称自己的形象遭AI盗用。
他在文中表示：刚刚过去的周末，又发现很多盗用我形象的AI视频，他们提取了我的声线、利用我的样貌生成短视频，但是里面的内容完全不是我的观点，连我同事都说看了一段时间才发现原来是AI生成的，这样的信息实在是误导观众。甚至曾经还有些短视频账号利用我之前发表的关于描述香港情况的内容，进行二次剪辑制作，用来宣传香港移民渠道这类的内容，我很担心有人因此上当受骗导致钱财损失。
霍启刚表示，过去半年随着AI技术的普及，这类情况越来越夸张，至今已经处理了几千条相关的假内容，还要安排同事专职跟进，每天都要投诉反馈，但是每天依然有非常大量类似的新发布，实在是很让人困扰。
在评论区，不少网友直言：确实很难分辨。
多位演员曾被“AI换脸”
多位演员曾是“AI换脸”的受害者。
此前，有网友在社交平台反映，名为《京华风云》的短剧，不仅演员面容酷似肖战，就连剧中服装造型，也与肖战在电视剧《藏海传》中的扮相高度重合。
演员成毅也曾遭遇“AI换脸”，面部形象被擅自用于短剧和短视频创作，此事一度引发粉丝抗议。
今年全国两会上，谈及如何应对AI虚假换脸，甄子丹表示，“诈骗必须要报警，我们是法律的国家，各种违法的东西我们都可以去投诉报警。”
靳东则表示，AI换脸技术不只是用在短剧，很多人也因为AI换脸遭遇网络诈骗。他说，“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”
部分平台已经开始限制，律师发声
2月12日，豆包旗下视频生成模型Seedance2.0全端上线后，执行严格限制：禁止生成明星、公众人物、网红等真实人物肖像/视频/语音。
法治日报律师专家库成员、北京市康达律师事务所合伙人罗娟表示，滥用AI换脸、声音克隆主要涉及民法典第一千零一十八条（肖像权保护）、第一千零二十四条（名誉权保护）。
未经同意商用他人肖像、声音，直接侵犯肖像权；若生成内容虚假误导（如虚假代言、不当言论），会损害他人名誉权。
来源 | 中国青年报 现代快报 中国新闻网 法治日报
编辑 | 杜小溪
监制 | 柳璐