网络平台出黑 不为人知的战斗：互联网平台的黑灰产狙击战

作者|韩小黄

来源|AI蓝媒汇（）

互联网的发展为生活提供了越来越大的便利，但伴随着技术的更迭，信息安全问题始终蛇随棍上，风险与机遇相伴相生。

在用户看不到的地方，各大平台早就于暗处展开了一场不为人知的黑灰产狙击战。

诈骗，从电信到互联网

如果说移动互联网发展的A面，是信息改变生活、信息创造价值。那么伴随着技术带来的美好生活改变，外界也不得不注意到隐藏在暗处不为人知的B面——严峻的信息安全问题。

“你好，在吗？”

“您的社保卡涉嫌洗黑钱……”

“我们提供五到十万的小额贷款，利息特别低……”

电信时代，因隐私泄露导致的诈骗案件就不胜枚举，到了移动互联网时代，手段随着平台形式的变化，也愈发变本加厉。

今年10月，哈尔滨市公安局刚刚破获了一起跨省“微商诈骗”案件，嫌疑人以朋友圈贩卖名表为由前后非法所得近百万元。而类似的相关案件比比皆是，今年9月，陕西仙居警方破获了一起“面膜微商”诈骗团伙，犯罪团伙以科技公司的概念包装自己，在社交平台招收代理商，但其营造出来的所谓买家和卖家均为同一人。警方披露，仅4个月内，全国就有1000多人因此中招，被骗金额从199元到数万元不等。

刷单、代理这些因社交平台、电商平台而兴起的诈骗现象已经十分严峻。

AI蓝媒汇发现，在黑猫投诉上搜索“微商”，与其相关的投诉消息达到11446条，与“刷单”相关的投诉结果达到9289条。

另一个公开数据是，目前流行于大学生群体的电信诈骗种类中，兼职刷单占比高达33%，冒充好友占比22%，网络购物占比14%，冒充客服占比10%，充值返现占比7%，游戏交易占比7%，网络贷款占比3%，其他占比4%。

网络黑产无所不在，一方面警示用户不要轻信“天上掉馅饼”，另一方面也倒逼整个行业的集体思考，除了依靠政府监管，平台自身究竟能为防范网络安全、保护用户信息安全做些什么？

平台率先承担自治责任

值得庆幸的是，行业第一时间看到了问题的严重性。面对普遍存在的问题，大部分头部平台也意识到需要率先承担自治责任。

以电商巨头淘宝为例，其在去年推行针对网店的稽查系统时，注意到在平台内部存在的一整条“炒信”黑色产业链，利用店主急于提高店铺信誉的需求进行勒索、诈骗等现象。通过自查发现问题后，淘宝就利用自身平台技术对网站进行清查，并联合警方、工商部门共同打击违法犯罪行为。

包括对当下流行的刷单问题，淘宝也始终通过完善大数据模型，对刷单行为进行实时监控，尽可能从根源上防治刷单行为的扩大和猖獗。

另一个走在监管前面的平台就是抖音。

众所周知，抖音在日前因“假靳东事件”在行业内引发了不小的舆论风波，业内也围绕短视频平台诞生的新型诈骗手段进行了广泛的讨论。在这期间，抖音作为涉事平台也率先针对该事件进行了相关自查自治。

AI蓝媒汇注意到，事件爆发之后，抖音在其主站页面紧急上线了用户搜索提示，在结果页的明显位置提醒用户注意区分异常帐号，最大程度做到警示作用。

另一方面，据抖音在平台治理开放日上公开数据显示，事件爆发后，抖音安全中心针对假靳东相关帐号进行了及时速清，2天内清查了5000+疑似靳东仿冒帐号，完成下架话题143个，召回并处理了问题存量视频195w。

据AI蓝媒汇了解，实际上抖音早在今年4月份就开启了“仿冒名人”的打击专项，只不过在项目的前两个阶段，抖音针对的是“侵犯明星肖像名誉权”的侵权帐号，以及“以快速涨粉和直播带货变现为目的的电商黑产”。

在半年时间里，抖音针对“仿冒名人”问题上线了数十条风控策略模型打击冒充名人帐号，前后召回了超过30万的问题帐号。

截至目前，抖音安全中心已经封禁了黑产作弊帐号7万余个、重置仿冒资料用户3万余个、处理问题视频超过400万条。

分层治理：以防为先

可以看出，此次因为“假靳东事件”触发的紧急治理措施只是肉眼可见的冰山一角，大量由平台主导的自治工作往往是隐藏在海平面下硕大的冰山主体。

对于行业里很多公司的安全团队来说，做的很多事情，都是隐藏在公开事件背后，甚至是发生在公开事件之前的。安全工作的目的就是保障不发生意外事件，一旦发生了说明工作是存在问题的，而不发生工作，意味着所有的工作都是不为人知的。

黑灰产狙击工作就是典型的安全工作，但打击黑灰产，即便是不被看到，也都是希望跑在违法违规行为与内容之前。

以“冒充名人”诈骗的事情为例，在上个月双11活动期间，就出现了类似的“假冒客服诈骗”行为，主要表现就是在明星直播间“假冒客服”，沟通用户实施退款诈骗。抖音安全中心在日常巡查中看到了此类诈骗的苗头之后，迅速上线了相关打击的策略模型，打击相关账号，从源头拦截此类诈骗行为。

从治理逻辑上来看，抖音安全中心是以“防”为先，利用技术对抗拦截，将大量工作安置于后台，尽可能做到不被前台感知，因为一旦感知，就代表有用户可能受伤害。

而这种以“防”为先，在后台的工作，往往不为人知。

今年4月，抖音安全中心成立了“冒充名人打击专项”，梳理了平台上仿冒名人的问题现状，整理出900多位容易被仿冒的明星名单，联动公司明星垂类相关负责人进行实时维护与信息联动，保证明星帐号输出内容的真实性。

与此同时建立针对冒充名人行为的打击标准、搭建专项审核队列、训练仿冒名人模型、制定问题帐号和视频召回策略，针对用户资料仿冒、视频仿冒等行为进行梯度打压。

也就是说，在“假靳东事件”爆发之前，“冒充名人专项”活动就已经为特殊舆情事件完成了大量的奠基工作。今年6月到事件爆发之前，平台就已经召回进审13041个样本，审出封禁1689个样本，人工批量封禁3w+，已累计封禁 34948个帐号，其中包含6031个仿冒靳东帐号和5056个仿冒马云。

而这些，恰恰是在偶发性事件爆发之前，被隐藏在后台的不为人知的真实数据，偶发性事件爆发之后，这些数据是有意义还是无意义？

对于平台来说，黑灰产等各种违法违规行为的治理，都是需要一整套完善的治理体系，最底层是技术能力，中层是产品能力，上层直接面对用户的是运营能力。

这一套治理体系，对于抖音来说，以防为先的策略模型靠的是技术，但这显然是不够的。因此，除了在技术端不断完善样本标准，硬性防治，产品团队也需要在产品体验、产品运营及用户教育方面进行了相关的软性治理。

AI蓝媒汇观察到，在抖音拥有近千万粉丝的“神探大妈”长期以情景短剧的形式进行互联网骗局的揭秘，为广大用户，尤其是中老年用户进行宣传和科普教育。为此，抖音安全中心也联动神探大妈制定了相关教育视频，定向推送给中老年用户以起到提醒、警示、教育的作用。

从建立模型主动拦截、到接收用户反馈进行审核、到常规与突发巡查相结合，再到完善产品功能作出警示提醒，抖音安全中心针对平台内外的网络黑产打击层层递进、全面覆盖，尽可能地将安全问题思考得全面和深入。

但即便是这样，业内也不得不诚然，平台的治理工作依旧任重而道远。正如移动互联网发展至今仍然存在电信诈骗一样，网络信息黑产问题已经形成了较长且深入的产业链，在巨大利益诱惑的面前技术手段更新迭代，且有着明显的跨平台犯罪特征。

那么理所当然，针对某一平台爆发的网络诈骗事件，就不该局限于该平台一己之力完成治理，更多地是需要产业链上涉及的各个关键平台联合起来，共同针对网络黑产予以打击防范。

彼时，这场隐秘的角落里展开的“战斗”才有可能从单打独斗的“巷战”升级为高效精准的“狙击战”。

往期经典回顾