文|金满兜

“AI迟早会代替人类”

本以为是一句玩笑话，却不料，真真实实的发生在了人们身边。

那一刻，害怕占据了所有人的内心。

01

2月26号那天，一向低调拍戏、不怎么蹭热度的王劲松，罕见在社交平台发了条消息，语气里满是无奈和后怕。

他说自己被AI盗用了形象和声音，根本看不出真假。

要知道，作为圈内出了名的戏骨，王劲松向来踏实敬业，不炒作、不轧戏，一门心思打磨演技。

也正因这份沉稳，收获了不少观众的认可。

可谁也没想到，这份低调，还是没能躲过AI技术带来的无妄之灾。

后来才知，这次的AI造假并不是无中生有，而是有人动了歪心思，拿着他多年前的一段工艺视频做了手脚。

原来，2020年，王劲松拍《冰雨火》的时候，抖音电视剧官方为了宣传禁毒知识，专门邀请他录制。

视频里他穿着剧中的服装，语气严肃又认真地普及禁毒常识，初衷特别纯粹。

可不法分子却把这段正能量的视频，当成了谋取私利的工具。

用AI悄悄修改了里面的台词和口型，硬生生把原本的禁毒宣传，改成了推广某个不知名的平台。

还扯了些CRC、RWA之类晦涩难懂的词。

就是想故意营造出高端、靠谱的假象，忽悠不明真相的网友赶紧参与，以此赚取不义之财。

最让人揪心的是，这段假视频做得太真了。

声音、口型跟王劲松本人几乎没差别，不仔细盯着看，根本分辨不出来。

就连他家里人看了，都以为是他自己接的推广，还来问他具体情况。

而王劲松也说，以前也碰到过AI造假，但都特别粗糙，一眼就能看出是假的。

但这次的技术实在太厉害了，打的他措手不及。

发现之后，他第一时间就向微信视频号投诉，还带上证据说自己没授权任何人用他的形象。

还好，平台反应还算快，没多久就把假视频下架了。

但王劲松心里还是没底，视频删了，可背后造假的人没找到，也没受到什么惩罚。

说白了，他担心的不是自己肖像被侵权，而是这种逼真的AI伪造，以后要是被用来电信诈骗，会坑到很多普通人。

尤其是老年人，到时候造成的损失，可能是无法挽回的。

更何况，王劲松的遭遇，并不是个例。

02

早在几年前，演员靳东就经历过类似的事情，而且情节比王劲松这次还要吓人。

甚至差点让一位老人倾家荡产，毁掉自己的晚年生活。

当年，靳东塑造的角色大多是值得信赖的形象，也正如此，他特别受中老年观众的喜欢。

不少阿姨、奶奶级别的观众，都把他当成了“理想型”。

可这份受欢迎的好口碑，却被不法分子盯上了，当成了实施诈骗的“利器”。

他们利用AI，合成了靳东的形象和声音，刻意打造出“深情暖男”的人设，专门针对中老年女性实施诈骗。

那些不法分子很清楚，中老年观众对靳东的信任度很高。

只要模仿靳东的语气、神态，说一些暖心的话，就能轻易获取她们的信任，然后一步步诱导她们转账、投资。

有一次，江西一位六旬老人，就在短视频平台上刷到了一段AI合成的靳东视频。

里面的他高冷，语气温柔得不像话，还对着镜头跟老人表白。

说自己关注她很久了，一直暗恋她，还特意合成了两人的亲密合照，让老人误以为自己真的被偶像喜欢上了。

没多久，老人就陷了进去每天都守在手机前，等着“靳东”跟自己聊天、发消息。

很快，视频里的“靳东”就开始找借口，说自己正在拍一部大戏，但是遇到了资金困难，希望老人能帮自己一把，等戏拍完了，就会好好报答她，还会娶她为妻。

于是，老人想也没想，一门心思要帮自己的“爱人”渡过难关，就去了银行贷款，金额是200万。

期间，工作人员询问她贷款用途，她也不肯细说，只说要帮“亲人”救急。

但因为手续不全，最后没办成，老人当场就崩溃了，又哭又闹的。

而工作人员立马就察觉到了不对劲，急忙报了警，这才终于“真相大白”了。

可以说，这件事对靳东触动特别大。

后来他在政协小组讨论上，还特意提到了这件事，语气沉重地劝解了一番。

而除了靳东和王劲松，女演员温峥嵘，在去年也遭遇过AI带来的无妄之灾。

03

去年11月左右，温峥嵘趁着拍戏间隙刷手机，无意间刷到了一个直播带货的账号。

点开一看，瞬间愣住了，因为直播间里的“主播”，竟然和自己长得一模一样，就连说话的语气也有几分相似。

最主要的是里面的“温峥嵘”正在卖力地推销着各种产品。

可她明明没有直播，甚至那段时间一直在剧组赶拍新戏。

每天忙得连休息的时间都没有，根本不可能去做直播带货。

当时，温峥嵘心里又气又疑惑，好奇地点进其中一个直播间，对着镜头开口就问对方“你是温峥嵘，那我是谁”。

结果刚说完这句话，就被对方秒速拉黑了，直播间也直接把她禁言。

后来她又找工作人员去核实，才知道这些直播间里的“温峥嵘”，要么是用AI合成的，要么是盗用她以前参加活动、拍戏的视频片段。

然后剪拼接凑成录播，伪装成实时直播的样子。

更让温峥嵘无奈的是，这些AI直播带货的账号，还在卖一些她从来没推荐过、甚至没听说过的产品，有的甚至是三无产品。

粉丝们也因为信任，便毫不犹豫地下单购买。

但不少人买完之后发现产品有问题，就去网上吐槽温峥嵘本人，让她的口碑受到了不小的影响。

事情发生后，温峥嵘团队也在第一时间就给这些商家和直播账号发了律师函。

可即便如此，还是止不住这种乱象，每天都有新的AI直播账号冒出来。

说到底，他们不是第一个，而不会是最后一个。