网易云安全(易盾)获首届“移动视频生态发展论坛”互联网最具信赖产品奖

社区编辑2018-05-21 11:20

日前,网易易盾CTO朱浩齐受邀出席2016移动视频生态论坛。在谈到直播行业的崛起和乱象时,作为一位在内容安全领域有着近十年经验的资深技术专家,朱浩齐认为内容问题直接牵涉到互联网产品的运营安全及用户体验,当下UGC类的直播产品仅靠人工审核已经力不从心,人工智能技术将在直播内容审核方面发挥越来越大的作用。

 

  (网易易盾CTO朱浩齐做分享)

  朱浩齐自2008年进入网易后,一直担任信息安全的工作,在同黑客黑彩、微彩、互联网异物的“斗争”中积累了丰富的经验。据他介绍,当下网络垃圾内容的制造者已经不是单打独斗,而是形成了完整的灰色产业链:“一方面拥有完整的技术研发团队,所开发的平台可以自动形成相关内容,并规避传统的关键词检测,并且研发了一些专用的电子设备;另一方面,代IP、包月、包年等等,垃圾信息的上游产业链已经非常完善,垃圾短信、UGC评论、骚扰电话等等,几乎渗透到了互联网的每一个角落”。

  这就意味着两个问题,一是互联网内容反垃圾的技术手段要与时俱进,二则要投入足够的资金和团队做好“斗争”的准备。

 

  从1997年以邮箱起家到现在的人工智能阶段,网易在内容安全方面积累了一套完善的解决方案,涵盖了从业务要应用层的各个环节。朱浩齐介绍了网易深度学习技术在内容审核方面的两大应用:

  其一,提高机器识别的准确率。传统基于算法的肤色、肢体、人脸等识别方式,大概能做到70%到80%的准确率,并不能区分内容是否违规。网易的技术团队通过深度学习技术,将图片拆分成像素再做组合,然后模仿人脑的思维方式把分层后的像素组合成真正的物体模型。得益于此,机器识别摆脱了靠模型和样本库识别的阶段,识别准确率可以达到99.8%。

  其二,自主研发的反作弊技术。在电商、金融等很多互联网领域,用户行为数据识别分析显得尤为重要,如何甄别真实用户还是“刷红包”的机器人等等。网易部门构建了一套完善的反作弊机制,在安全层面也完成了诸多创举,比如更智能的验证码,在保证用户体验的同时又保证了良好的效果。

 

  朱浩齐介绍说,对于很多企业来说,在信息安全领域投入过高并不理性,如何在低成本的情况下实现安全保障,成为互联网行业的一大需求。为此,行业内出现了一些第三方解决方案,网易也推出了网易易盾这一反垃圾云服务。

  以直播行业最为常见的广告和鉴黄功能为例,网易易盾推出了专门做直播的解决方案,用户只需要把直播房间的URL提交,就可以自动进行检测。通过对直播画面的视频流实时检测+图片截帧检测进行判断分析,并将分析结果递交给用户处理。同时,对昵称、头像、弹幕等直播场景中的广告、色情、谩骂、灌水等同样可以实现智能识别处理。

  同时朱浩齐表示,网易易盾还拥有成熟的大数据分析平台和庞大的特征资料库,以云服务的形式帮助客户减少在内容安全层面的人工成本,以“人工智能+人工审核”的形式实现对垃圾信息的反击。

 

  据了解,凭借网易深厚的技术实力,网易易盾在移动视频生态论坛上荣获了“2016年互联网最具信赖产品奖”。目前网易易盾的客户已经涵盖直播、医疗、财经、社交产品等众多行业。在今年早些时候网易易盾牵头成立了国内首个“互联网内容安全联盟”,联合行业组织、互联网内容平台或提供商、及业界合作伙伴,为互联网企业提供方便、低成本的反垃圾解决方案,帮助提升产品内容质量和用户体验、降低产品运营风险和成本,同时致力于推动互联网内容产业的安全、绿色、健康等新风尚。