网易易盾

网易易盾官方号

272篇博客

知物由学 | 社交风控中遇到的问题,可以用这些手段进行“围追堵截”

网易易盾2020-03-25 22:47

“知物由学”是网易易盾打造的一个品牌栏目,词语出自汉·王充《论衡·实知》。人,能力有高下之分,学习才知道事物的道理,而后才有智慧,不去求问就不会知道。“知物由学”希望通过一篇篇技术干货、趋势解读、人物思考和沉淀给你带来收获的同时,也希望打开你的眼界,成就不一样的你。当然,如果你有不错的认知或分享,也欢迎在“网易易盾”公众号后台投稿。


越来越多产品被注入社交属性


用户社交场景,并不仅仅存在于QQ、微信等传统型社交类产品,影音、娱乐类等越来越多行业的APP也都被注入社交属性。随着用户量,用户活跃进一步提升,这些平台的一系列业务安全问题也随之而来。


不过,用户社交场景的风控却和我们熟知的电商、支付类场景不同,虽然不涉及直接资损,但用户社交行为所产生的内容、热度,却对产品口碑、声誉有着至关重要的影响。
典型的例子就是网易云音乐的优质热评,呈现在广大用户面前往往深入人心,对于产品口碑来说有莫大的帮助。


其实用户社交场景可以这样分


我认为,用户社交可以分为以下两大类:UGC 和非UGC。比较典型的UGC类用户场景有社区评论、私信、留言、直播产品弹幕等;而非UGC类用户社交场景有社区评论、文章、内容点赞、收藏、投票,用户粉丝关注等。


上述业务场景由于用户参与度高,所以也非常容易被黑灰产用来获利。当有用户需要涨粉、给平台里的用户发广告等需求时,就会借助各类营销助手工具进行批量群发、刷量、引流等操作。 

刷量、引流、群发的软件往往也很便宜,价格基本从600到1000元不等。由此,我们可以想象到平台用户社交UGC 和非UGC 类型场景都逃不开被刷的命运。


刷量、引流、群发软件都干了什么

1、用户私信-骚扰问题


骚扰内容,从广告,到撩骚应有尽有,绝大部分都是引流到站外,一旦用户被引流到站外后极易发生用户被欺诈,被骗的情况。当用户遭受资金损失,来向平台投诉时,由于欺诈环节不是发身在本平台,平台除了建议用户报警,并针对相关私信内容进行敏感词过滤,能做的实在有限,并且也是相对滞后的。


以及我们对此类内容聚合之后看到的:

2、评论-与主题无关


用户评论由于对外展示,平台会针对违规内容进行比较严格管控所以,涉黄、涉政、广告等违发违规信息比较难有可乘之机。


但一些无意义灌水,与所评论主题无关的评论内容过度泛滥,很难引起用户共鸣,不利于优质内容的呈现,埋没了真正走心,高质量的评论。想要通过优质评论等内容提升产品品质,就变的困难。


3、关注-垃圾粉丝


垃圾小号批量关注用户,目前已知的动机可能有两个,一是部分用户,为占有更多平台资源进行刷粉,提升影响力;另外,垃圾小号关注也是骚扰的前期准备,为后期发送垃圾内容做铺垫。前者,虚假粉丝必然会造成平台资源分配过度不公平,以及资源浪费。后者,造成用户骚扰,相关危害大家肯定清楚,这里不做赘述。

我们看到——平台各类用户社交相关数据被刷,以及平台刷量工具的流通。我们看不到——下游黑灰产资源丰富,比如各类改机/群控工具,各类一键新机等工具被用来篡改设备信息,以规避平台操作限制。


群控工具用来进行低成本多设备,批量操作。在比如各类接码平台,专业接收平台注册用的手机短信验证码,用户无需使用自己本人手机号,通过平台,就能完成手机号和短信验证码的校验。打码平台,帮助用户搞定各种文字,图形验证码。再有各类秒拨、代理IP,每一次断线重连就会获取一个新的IP,此类IP池巨大,并且难以与正常用户区分。


如何解决?


目前UGC类的用户社交场景,比如评论,私信等。常规操作是以内容检测为主,根据内容违规程度再进行不同梯度的账号处罚,然后再提炼相关违规关键词,进行风控策略查补。


但不论是删除内容,还是处罚账号都属于事后风控。不良内容对于用户、平台都已经产生影响,很难挽回。并且,目前违规内容,不会一成不变,我们始终在违规内容出现之后才会进行策略升级,相对被动。再比如像上面提到评论场景,与主题无关,属于明显灌水的内容,难度就更大,并且很难与正常用户发表内容进行区分,单纯采用内容识别的方法,容易误伤正常用户。


然而像点赞、投票这类用户社交场景,没有UGC内容,所以想从内容上进行防控就更难发挥效果。 
我个人认为,可以采取以下几个手段进行“围追堵截”:

1、UGC类的用户社交场景,可以在内容识别的基础上,对用户设备、行为进行分析、判断,不仅能对机器灌水,发骚扰私信等不良社交行为进行有效识别,也能规避内容相关关键词策略更新的滞后性;

2、点赞、投票等场景更加依赖于对用户设备、行为的判断。需要保证设备识别的精准、高稳定性,这样才能检测出使用篡改设备,各类工具操作的刷票、刷热度的用户,避免影响活动公平性,社会舆情等不良事件的发生。

3、对平台用户进行用户画像。用户画像可依据一段周期内,发布违规内容的类型,违规次数,被处罚次数等维度建立。同时也可以建立正向用户画像,比如用户一段周期内,高热度内容情况,以及高质量粉丝数,发布内容情况等方面来进行评分。以上数据,需要保持动态更新。 

4、在对用户操作行为进行分析,提取特征的同时,需要紧密贴合业务场景的特征,不能简单粗暴的针对用户账号、设备、IP等维度的高频操作一刀切,一旦误报也是极其影响用户体验。

5、对恶意用户名单维护也需要,进行定期,抽检,清洗,保证恶意用户名单有效。除非和高敏感内容有关用户,其余类型建议根据实际情况处理,不建议永久加黑。 

6、业务侧需要建立持续、有效的数据监控,不论是单纯从业务数据量,还是内容上,甚至外部舆情监控也十分必要,只有这样才能与黑灰产进行持久对抗。

7、任何风控手段不可能完全清退刷量行为,以及不良内容,我们需要做的只是不断提升识别手段,并对类用户和数据保持严密监控,把相关影响控制在可控范围(文/易盾实验室)。


欢迎点击免费体验网易易盾安全解决方案。