22号晚上十点左右,快手平台上突然热闹起来,好几百个直播间一起播出那种不该播的内容,有的直接播放小电影,有的主播做些擦边球表演,让人看了直摇头,最让人意外的是,部分房间在线人数冲到十万以上,这可不是小事,而是明显在踩红线。
第二天凌晨,快手发布声明,说是因为遭遇“黑灰产”攻击,系统被侵入,审核功能失效,这个说法听着有道理,但仔细一想就发现问题,如果快手的审核能力真的那么强,怎么会有这么多违规直播同时开播两个小时,这种逻辑根本站不住脚,我猜快手是想把责任推给外部因素,自己躲在后面。
其实这件事背后没那么简单,平台的算法总是推荐互动多的内容,就算内容擦边,只要有人看、有人刷礼物,系统就更愿意推广它,这就形成了一个怪圈:越低俗越火,越火就越推,最后谁都拦不住,再加上审核用的是AI和人工,AI处理动态擦边的行为很吃力,人工还要轮班,总有空档期,黑灰产早就摸清了这些漏洞,他们用批量账号、多开直播、快速切换流量的方式绕过风控,手法越来越熟练。
现在网上已经有人卖“跳过审核”的服务,价格标得清楚,交易藏得很隐蔽,就像买菜一样方便,快手和其他平台以前也遇到过这种事,但都没能彻底解决,这次正好碰上年底监管变得更严,网信办刚说要抓网络环境,结果快手自己先出问题,真是赶在风口上了。
从技术角度看,第三季度短视频平台因直播失控被通报的次数增加了将近一半,但只有少数平台愿意明确说明问题出在哪个环节,快手这次也没有指出具体是哪个系统被攻破,信息显得很模糊,用户这边更加不满,很多人提到那些违规直播出现在“同城推荐”和“热榜”里面,这看起来像是平台默许甚至鼓励的,还有家长担心孩子不小心点进去,可平台连个提醒都没有提供。