那天晚上八点多,快手突然闹了个大乌龙。说来也怪,直播间里全都是些没标题的房间,点进去一看,要么是不堪入目,要么是浑身不舒服的画面。搞这事儿的是新号码,或者是才玩没几天的人,居然能一下子把直播间做那么大,几万人在那儿看热闹。网友气得不行,点举报吧,系统老是说失败,或者一直卡着没回应。就这么着,这些违规内容在算法一推,好家伙,跟开了挂似的。
半夜里,平台那边可慌了,直接把直播功能关了,页面空得连个影儿都没有。有些人绕着弯儿找直播间,进去全是乱码或者错提示。到第二天中午才敢慢慢恢复,说是被人攻击来着。但要我说,这回答实在不够劲儿。为啥两小时没人管?举报渠道怎么就失效了?市值一下蒸发那么多,投资者肯定气得够呛。
说白了,这事平台脱不了干系。按规矩,平台得对内容负责,不管是不是被黑了,内容出了问题,总得有人扛着不是?技术层面的问题更明显,攻击者可能钻了接口漏洞,赶在机器检查前就把东西发布了。现在的黑产也不是吃素的,自动化工具批量注册,这边机器眼还跟不上趟。
搞内容的都知道,这类事对信任的伤害可太大了。家长看了能放心让孩子用吗?那些来凑热闹的,玩完就走,留不住。平台要是收拾不起来,估计得掉粉儿。现在专家们倒是有想法,什么三层预警系统啊,人工和机器一起看,但这得一步步来。
有意思的是,这事还引出了个话题。当平台大了,管理成本会不会反而高了?用户多了,审核压力更大,安全预算能不能跟上?还有那些新的监管规定,该怎么落地?总之,这事让不少人都在想,平台做大了之后该怎么管,确实是个难题,光靠机器或者人工都不行,得找中间那根线儿。
最后,专家们也说了,得把审核做到前面去,不能等事儿出了再补救。就跟给马戴笼头似的,得防患于未然。不过具体怎么弄,各家都有各家的难处。反正这次事儿闹得挺大的,以后平台们肯定得长点记性。