明星AI假脸风暴:3000次浏览背后的风险谁能识别?

欧美明星 1 0

电话突然响起,家人语气里透着焦虑:“你推荐那个区块链理财公司是真的?”王劲松愣了一下,这熟悉的面孔和声音居然成了骗局诱饵。2月26日,他在社交平台发声,指自己的肖像与配音被AI工具恶意合成,生成理财宣传视频。身为演员,王劲松清楚这段画面其实源自2022年电视剧,却被剪接重制,让他在镜头里“振臂高呼”支持RWA赛道,还号召粉丝“奔向财富时代”。让人惊悚的是,无论嘴形还是神态,都仿佛本尊现身,真假难辨。

这类冒用明星形象的视频并非孤例。2月27日,某公众号文章冒出了同样内容,吸引了3000余次阅读,除了王劲松,还出现李连杰、姚明、李亚鹏、于和伟、唐国强等人似真似假的身影。视频中众星齐聚,推荐一家自称隶属央企的数字金融公司。可事实上,该央企在2023年早已澄清,与此机构绝无关联。记者尝试加入其宣传群,负责人仅称“推广暂停”,并坦率表示“花钱就可以”买到这种合成视频,却对具体制作方法守口如瓶。当天中午,账号被平台屏蔽,但相关视频仍在网络游走。

自称AI内容专家的“歸藏”坦言,这类人工智能换脸技术已经到了肉眼难辨的程度:“只有细致观察嘴唇与牙齿是否协调,或面部动作是否配合身体,才能发现破绽。可是现在连这些细节都能修补,造假愈发难识。”他指出,常规规则要求必须获得肖像权人授权并明确标示AI生成内容,但多数平台既无禁止规定,也难以主动监管。技术水平高者完全可通过开源模型在本地独立制作,避开审核系统,平台只能依赖举报,风险显现无法一一防护。

法律层面,赵良善律师直言,商业利用AI合成明星面孔用于带货、广告或引流,已触犯肖像权。不仅如此,声音、姓名、名誉权等多项权益亦受侵害,AI工具提供方如不严审把关,亦构成共同侵权。依据《生成式人工智能服务管理暂行办法》,若未标识合成内容,涉事者需承担行政责任,情节严重者甚至会构成诈骗犯罪。

明星被AI换脸并不罕见。去年,韩国乐团BTS成员的形象也曾被伪造参与虚假音乐推广,而美国总统拜登的“AI演讲”更一度成为政治迷因,带来社会层面恐慌。反面情况也存在——有些平台推出了严格授权与标识流程,甚至采用区块链技术记录每一次素材使用,极大减少盗用机会。但大量小型内容发布者并未跟进,监管漏洞持续扩大。

王劲松的疑问牵动公众:如果未来AI换脸更逼真,损害更大,能否彻底杜绝?事实上,AI换脸技术的普及与商业利益的绑定,使侵权链条不断延伸。法律、技术与平台责任的多重约束只能缓解风险,却难以根本消除。随着技术升级,防范与保护的边界愈发模糊,任何人都可能成为下一轮假脸经济的目标。