人们说起“央视国脸”,想到的是庄重、权威和信任。李梓萌是一个播音员,她功底扎实,魅力独特,观众很喜欢她。她很出色。最近发生了一件事,这事很让人吃惊。这件事让她的好名声受到影响。这也暴露了数字时代信任有问题。
你平时在电视上看到的李梓萌,她做事认真,说话标准。她突然出现在直播间,坚定地卖一款“包治百病”的“神药”。她还保证说“央视把关了,肯定有保障”。这个熟悉的面孔和声音,加上“权威认证”,让很多人立刻买东西。特别是那些想养生的中老年人,他们会毫不犹豫地买。等他们收到包裹,打开一看。所谓的“神药”只是普通糖果,甚至是没有用的假鱼油。人们感到被骗,又气又失望。
这不是李梓萌自己想的,但这事对她影响很大。她来自普通家庭。她很热爱播音,因此在中国传媒大学表现出色。她刚到央视时,还是一个新人。那里规定“读错一字罚200块”,倪萍老师还开玩笑说她“贷款上班”。她在这样的环境中,一步步努力。她戴上假发,代表着严肃和信任,坐进了《新闻联播》演播室。她花了十多年努力工作,才有了现在的公信力。可是她没有想到,这份重要的信任,竟然被坏人用来骗钱。
原来,背后是一个看不见的“黑手”,它就是AI换脸诈骗。屏幕上那些看起来像李梓萌的人,不是她本人。坏人用了技术,把李梓萌的公开视频和照片拿来,做了一个假的“她”。这个假的“她”不仅外形很像,说话的语调、神态也模仿得非常像。后来,有消费者气愤地说“我信李梓萌买了假货”。监管部门开始调查,工作人员仔细一才发现问题:视频里“李梓萌”的嘴唇和声音对不上,有些角度她的脸边缘不自然。最重要的是,“她”直播卖东西时,真正的李梓萌在《新闻联播》演播室里。时间对不上,这揭穿了谎言。
让人害怕的是,这个AI骗局不是个例。大家都喜欢跳水小将全红婵,她也遇到了这样的事。一个叫“我是小助理吖”的账号,用AI做了全红婵的声音。它模仿全红婵的广东口音,发了十多条视频。视频里说要把“妈妈老家的土鸡蛋”送给粉丝。因为“婵宝”很受欢迎,大家都喜欢她,这些“土鸡蛋”很快就卖完了。有一条视频点赞超过一万,卖了4.7万件!后来全红婵的家人着急地发声明解释。大家才知道,这又是骗子用高科技骗人的手段。
连受人尊敬的张文宏医生,也成了坏人的目标。他们用AI技术,做了一个穿白大褂的人,声音和样子很像张文宏。这个人公开在短视频平台卖一个品牌的蛋白棒。他们说蛋白棒能“增强免疫力,大人小孩都能吃”。还好,张文宏医生科普时一直很严谨,大家都知道。细心的网友很快发现视频里的人手势、说话节奏和医生不一样。加上他推荐产品的语气很奇怪,所以很多人开始怀疑。商家只好下架了视频。
这些事的背后,是AI技术变得越来越容易用。让人气愤的是,办案人员说,坏人只用花几百块钱在网上买AI换脸工具。他们上传目标人物的十几张照片,再输入文字。不到两小时就能做出很真的“真人带货”视频。克隆声音更简单。一段十几秒的声音,就能让AI模仿出很像的声音。想让它说什么,它就能说什么。这种“成本低、效率高”的犯罪方法,对社会有很大威胁。
正义也许会晚到,但它一定会来。AI假冒别人的情况越来越多,国家终于采取了强硬措施!李梓萌AI换脸的事曝光后,监管部门很快开始调查。涉及的公司不仅被没收了所有违法收入,还被罚了好多钱。相关的违规账号也被永久封了。监管部门还积极和科技公司合作,建立了一个AI换脸监测系统。这个系统会实时检查直播和短视频内容。如果发现有人假冒公众人物,会立刻下架并处理。各大网络平台也很快做出反应,出了新规定。它们强制要求所有AI生成的内容,都要清楚地标明“虚拟合成”,来提醒用户。北京、上海等地方还开展了“AI乱象整治专项行动”。到2025年3月,已经查了20多起虚假宣传的案子,封了50多个违规账号。
作为普通人,我们不是没办法。网络上信息很多,我们首先要提高警惕。你看到公众人物卖东西时,可以多问自己几个问题:这是官方发布的消息吗?直播时间和他/她平时工作时间一样吗?还要注意那些标明“AI合成”的内容。对它们卖的东西,要非常怀疑。特别是家里的中老年人,他们容易被“权威推荐”骗到。作为子女,我们更要多关心和提醒他们。买东西前多和家人商量,多方核对信息。不要让骗子得逞。这场高科技诈骗,我们要警醒。每个人都警醒,就能保护社会的信任。