被自己的“脸”吓得后背发凉!58岁王劲松怒斥AI盗用:家人已无法分辨。
你能想象吗?你坐在沙发上刷手机,突然看到一个再熟悉不过的画面—— “自己”正在屏幕里侃侃而谈,用着和你一模一样的烟嗓,连说话时嘴角细微的抽动都复刻得惟妙惟肖,推销着一个你压根没听说过的“财富平台”。
这不是科幻电影的开头,而是2月26日,58岁的老戏骨王劲松经历的实实在在的“数字恐怖”。
王劲松在微博上发文时,用了“太可怕了”这四个字。说实话,能让这位在《破冰行动》《琅琊榜》里见惯了大风大浪的国家一级演员说出这话,事儿肯定小不了。这段被AI“魔改”的视频,盗用了他2020年为《冰雨火》拍摄的禁毒宣传素材。
原本身穿戏服、正气凛然宣传禁毒的王劲松,在AI的“鬼斧神工”下,变成了一个口播“CRC数字资产”的代言人。王劲松自己看完都倒吸一口凉气:“声音,口型完全看不出来真假”“我家里人都分不清是不是真是我了”。
这才是最让人细思极恐的地方。以前我们嘲笑AI换脸是“一眼假”,边缘模糊、表情僵硬。但现在,这项技术已经进化到了能让至亲之人都难辨真伪的地步。 如果连儿子都分不清屏幕里的父亲是真是假,那我们赖以生存的“眼见为实”的底线,还剩下什么?
王劲松这次的遭遇,其实是替整个娱乐圈,甚至是我们每一个普通人,踩了一次雷。在这条维权的微博下,评论区炸开了锅。有网友调侃:“王老师这是步了靳东老师的后尘啊。”这话说得虽然有点苦涩,但确实是事实。
大家还记得前两年那个为了“靳东”要死要活,甚至要去贷款200万的江西六旬大姐吗?骗子就是利用AI合成视频,让这位大姐坚信自己和明星本人在谈恋爱。去年两会上,作为政协委员的靳东本人曾无奈发声:“一些喜爱我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。希望能建立更好的规则。 ”
从靳东到王劲松,从刘晓庆到张文宏,这些名人就像被集体扔进了数字丛林里的活靶子。有记者调查发现,这背后已经形成了一条见不得光的灰色产业链。在某电商平台上,花个130到400块钱,商家就能给你做出一段1分钟左右的“高仿”明星视频。想要谁的声线?想要他说什么话?只要你给素材,商家就能用“数字人对口型”的技术,把黑的说成白的,把假的说成真的。
最让人后背发凉的是,王劲松虽然通过投诉删除了那段侵权视频,但他在评论区留下了一个灵魂拷问:“虽然视频删除了,但侵权者的代价可以忽略不计,谁能保证,这种钻法律空子的擦边球,最后不沦为犯罪的手段?”
是啊,删视频只是扬汤止沸。如果哪天这些技术被用到诈骗上呢?不法分子拿着足以乱真的视频,冒充你的子女打视频电话要钱,冒充你的老板要求转账,那时候,我们该怎么办?
成都铁路运输第一法院最近倒是审了个案子,一家餐饮公司用AI合成明星孙某某拜年,最后被判道歉加赔偿1万块钱。法院认定,哪怕是AI合成的,只要公众能认出是你,那就侵犯了肖像权和声音权。
这算是一个积极的信号,法律正在努力追赶上技术的脚步。但说实话,这种事后追责,在面对潜在的、大规模的数字诈骗时,威慑力依然有限。各大平台虽然也建立了所谓的“名人肖像保护库”,但那些搞黑产的,通过形象微调、面部遮挡、画面跳帧,像打地鼠一样跟审核系统玩捉迷藏。这就成了一个死循环:道高一尺,魔高一丈。
技术本无罪,但当它被贪婪利用时,就成了刺向信任的一把刀。王劲松这次的愤怒,不只是为了给自己讨个说法,更像是在替我们所有人拉响警报。
当一张脸、一段声音可以像积木一样被随意拆解、拼装,“我是谁”这个问题,恐怕以后不再是哲学问题,而是我们每个人都要面对的生存难题。 在算法能轻易复制我们的皮囊之前,或许我们该想想,怎么守住那点机器学不会的人味儿。