1

这两年，高科技行业发展速度着实太迅猛了。

左手人工智能，右手机器人，搞得很多反应速度慢的小伙伴一愣一愣的，完全不知所以然。

而伴随着新技术的发展，有人就动起了歪心思。

最近挂在热搜上的受害者，是演员刘晓庆。

3月3日，有网友在刘晓庆社交平台下留言，称有人在视频平台用AI生成视频假冒她。

刘晓庆看到后，震惊表示：

“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！

这是怎么做到的？

大家以后不会搞不清楚哪个才是真的我了吧？

我在各个平台都叫刘晓庆！”

视频中的“刘晓庆”，身着干练的小西装，头顶精致的发型，面带微笑，一手捧书，一手拿麦，高谈阔论。

画面一样，声音也一样。

真不怪庆奶会迷糊。

评论区里，一众网友沉醉其中，连环彩虹屁简直夸上了天。

这个账号利用刘晓庆的形象与声音，使用AI生成视频，为刘晓庆量身打造出了一个完美的情感教母形象。

截止被封之前，共发了9条视频。

最高的一条，点赞7.8w。

针对AI换脸拟声现象，雷军在今年的两会就提出了建议。

希望相关部门能够在安全与发展并重的基础上提升立法立阶。

雷军为什么会提出建议？

这话说来倒霉。

他也是AI造假的受害者之一。

去年国庆假期，有人用AI捏造雷军配音。

国庆7天，“雷军”骂翻全网。

视频中的雷军，一口一句国粹。

还猖狂笑道：

“老子要远程控制你的小米手机，然后自爆！”

“直接操控小米 su7 撞x你！”

恶搞也就算了，更过分的是造谣。

比如某条视频，“雷军”称要给某大学50个亿的投资。

不少网友信以为真。

实际上，真雷军压根就不知道这件事。

还有人制作雷军各种跳舞的视频，那场面，别提多尬了。

别说雷军感到不舒服了，这换谁谁能舒服？

诚然，AI技术能为我们的生活提供很多便利。

但这不代表，就可以滥用AI技术，肆意践踏别人的名誉权。

2

类似造假视频只要一澄清，很多网友就明白怎么回事了。

可这只针对年轻网友。

让那些上了年纪的网友相信视频是假的，很难。

但让他们相信视频是真的，简直不要太简单。

一群看起来不到半岁的大胖小子，抱着金元宝行走在田野里。

视频前的老奶奶看见这一幕，无不羡慕地说：

“谁家那么多大孙子，长得一个比一个喜庆！”

“什么假的？

你才是假的！”

奶奶不相信你转发的辟谣贴，但一定相信1岁小孩能徒手端起一整只乳猪。

然后光脚送到奶奶家门口。

还有小孩做饭的视频。

穿纸尿裤的婴儿能独自去地里摘茄子、把菜洗干净。

然后抄起菜刀，娴熟地给奶奶做三菜一汤。

奶奶们在视频下方留言：

“这大孙子，真孝顺啊！”

“宝宝慢一点，别伤到手了。”

“宝宝，你就是世界最好的宝宝。”

时间长了，奶奶们看自家孙子就没那么顺眼了。

你看人家小孩，不到一岁就能跑能跳，还能洗衣服做饭。

你再看看你，多大的人了，整天吃了睡睡了吃，对这个家一点贡献都没有！

大学生孙子们欲哭无泪。

还有小猫骑自行车，小狗救人的视频。

奶奶看到后，感动不已。

顺便批评自家孩子：你看看你，整天就知道玩。

还有网友欲哭无泪地说

“我爸成天看AI，让我家的狗跟人家学学。”

还有更炸裂的。

当他们刷到3米高的女人嫁给了1米高的丈夫，第一反应不是怀疑，而是：

太感人了！

还有网友哭笑不得：

“我爸上次对我说三星堆发掘出了汽车高等文明，我定睛一看，好家伙，是AI做的青铜汽车！”

更有某研究所捕捉到外星人全家的视频，在网上传播。

一看便是AI合成的假视频。

可架不住有人信...

虽然视频是假的，但长辈们的开心是真的啊！

这样一想，好像也没什么大不了的。

但如果从搞笑视频发展成诈骗，阁下该如何应对？

3

还记得前两年的“假靳东”诈骗事件吗？

骗子团队注册大量账号，通过冒充演员靳东的方式，向粉丝索要大量钱款。

爱慕者里有一位姓黄的阿姨，非常疯狂。

60多岁的她，有老伴还有孩子和孙子。

但自从迷恋上“靳东”后，就像是变了一个人。

对待自己的老伴像仇人，非打即骂。

在她心里，只有靳东才是自己的丈夫。

就在主持人去她家进行调解之前，黄阿姨曾离家出走，跑到长春市。

这是因为靳东约她去那里见面。

靳东还对她做出了承诺：见面后会给她一套房子、一百万元。

真靳东听到这个消息，哭晕在厕所。

还有AI张文宏直播带货，称998的保健品买了回家效果绝对好。

甚至连一国总统也没有逃过被AI造假的命运。

“总统普拉博沃在线发钱”等一系列AI造假视频，席卷印尼。

视频中，大众被告知如果想要收到援助款项，必须向指定账户交纳一笔“管理费”。

不少受害者哭诉：

“视频‘总统’的眼睛在眨，嘴型也随着说话在动，就像真的坐在我对面和我说话一样。”

据警方统计，受害者已经遍布该国20个省份。

不仅是诈骗，还有造谣。

雅安一男子，利用AI炮制火灾谣言。

还有图有真相，没辟谣之前，周围居民人心惶惶。

还有网民闫某某，使用AI洗稿工具编造：

某品牌汽车L3自动驾驶致死案，称车企被判赔偿70%，文章阅读量超500万次。

最后，警方以涉嫌寻衅滋事罪对闫某某刑事拘留。

AI只需几十秒，就能轻松生产出来各种诈骗和谣言视频。

很多家中的长辈，没有什么分辨能力。

他们相信自己的眼睛，更相信视频中的内容。

AI造假，对他们来说就是一场灾难。

4

“AI能虚构从文本到照片乃至视频的一切内容，并且令其彼此印证互相支撑，可谓天罗地网环环相扣。

其制造的幻觉在强度上和之前编点文字故事时不可同日而语。

除非你亲自见到专家本人求证，或者到现场实地考察，否则你会被AI创造出的假象玩得死死的。”

有时年轻人都很难分辨，更何况是老年人。

不过，任何事物都有两面性。

AI的出现，也带来了很多好处。

在医疗领域，AI可以帮助医生更准确地诊断和治疗疾病；

在教育领域，AI可以个性化地辅助学习，提供更好的教学资源；

在交通领域，AI可以提升交通安全和效率，减少事故和拥堵。

但坏处也是很明显的。

被侵犯肖像权、被造谣、甚至被诈骗等。

今天中招的是雷军靳东，明天中招的就有可能是你我。

所以，任何高科技，都不能离开以人为本。

唯有法律严控底线、平台压实责任、公众提升警惕，才能避免技术狂欢演变为信任灾难。

当技术突破伦理边界，“相信”不再是本能，而成了需要反复验证的技能。

未来的世界里，我们或许会习惯性地问：

“这是真的吗？”

也许，这不是悲哀，而是文明的进步。

因为真正的信任，永远建立在清醒的认知与系统的保障之上。