网易易盾

网易易盾官方号

273篇博客

2019十大内容安全事件盘点

网易易盾2020-01-04 16:34

2019年,不良违规内容泛滥已成为全球互联网生态治理难题,社会聚焦、监管行动使得内容安全也成为互联网企业发展生命线,受到管理层的重点关注。


这一年,内容安全事件频繁爆雷,据不完全统计,就有超过一千家互联网产品服务因此受到各种监管处罚,严重者下架时间一个月,对业务造成极大影响。事件爆发的互联网产品不限于社区电商、图片版权、企业服务、网络文学、直播音视频、影视、出海、教育、网络文学等类别。


网易易盾一直关注和记录内容安全领域,每周一次对事件和相关大事进行整理(风控周报可在网易易盾公众号菜单栏点击“帮助中心-2019风控周报”查看2019全年的业务风控周报,也可百度搜索“持续更新ing!记录2019年那些内容安全事件”,即可查看),在2019年远去,迎来2020年之际,对全年大事记进行盘点,希望获得行业的共同关注,更好地打造生态环境。


以下为盘点:


1.小红书被下架整改两个多月


事件:
2019年7月30日前后,有网友反映,被誉为“种草神器”的小红书被在安卓应用商店下架。几天后,小红书也从App Store中消失。后来,小红书发表一份声明称:“已对站内内容启动全面排查、整改,深入自查自纠,并积极配合有关部门。”


在外人看来,小红书由于快速增长,平台中出现了各种乱象。有人爆出,小红书上的种草内容,并非来自真实用户的亲身体验,而是根据商家需求“定制”的,包括9万的烟草笔记、保健品、黑医美推广等。


经过整改后,10月14日前后,小红书上架各大安卓应用市场,开始恢复下载。


补充说明:一款App/社区不是只做好涉黄涉爆等方面就万事无忧了,野蛮成长的时代已经彻底画上句号。社区风气和氛围也要兼顾,是否有软色情、虚假广告、大量的营销内容等现象都要进行维护,承担好企业的主体责任。


2.视觉中国先后被要求整改两次


事件:
2019年4月,视觉中国网站被天津市网信办以涉嫌传播违法有害信息为由,责令立即关停,全面彻底整改,这是第一次整改。


第二次整改,是在2019年12月。视觉中国发布公告称,公司负责人被网信办指导有关地方网信办约谈。“监管部门指出,视觉中国网站违反国家互联网有关法律法规和管理要求,应立即停止违法违规行为,全面彻底整改。”公司网站自即日起开展自查整改,整改期间网站暂停服务,网站恢复的具体时间公司将另行公告。


补充说明:第一次整改,视觉中国股价从28元跌至16.56元,市值蒸发近80亿元。第二次整改,截止到2020年1月3日当天,视觉中国的官网仍无法打开,空白页面只剩一句提示:“落实有关管理要求,视觉中国网站自即时起全面开展自查整改,整改期间网站暂停服务。”从这点来看,企业规范好自己业务和服务十分重要,否则代价不会小。


3.钉钉社区因违规内容 社区暂停更新一个月


事件:
钉钉社区发声明称,由于出现违规内容,根据有关管理部门整改要求,将于2019年5月11日00:00起暂停更新一个月,期间对违规信息进行清理,同时对产品管理进行功能升级。


补充说明:内容安全问题已经成为一种泛安全,并不因为是To B的工具,就能避免。只要涉及注册,昵称、头像图片、签名内容等都会成为平台的内容安全隐患,如果有内容模块,那么面临的内容安全隐患更大,更加不可控。内容安全问题,不可小觑。


4.吱呀、Soul、语玩、一说FM等多款音频App遭下架


事件:6月28日,网信办会同有关部门,针对网络音频乱象启动专项整治行动。根据群众举办线索,经核查取证,首批依法依规对吱呀、Soul、语玩、一说FM等26款传播历史虚无主义、淫秽色情内容的违法违规音频平台分别采取了约谈、下架、关停服务等阶梯处罚。


补充说明:这次网络音频行业的监管,除了查处一批色情淫秽、低俗信息管理不当的平台外,也对一些宣扬“二次元文化”、“亚文化”,以及宣扬历史虚无主义,传播惊悚恐怖、神仙鬼怪、僵尸、冥婚等怪力乱神的网络小说,散布封建迷信思想的平台进行了治理。


5.晋江文学城遭查处,起点中文网部分栏目停更


事件:2019年5月23日,根据北京市“扫黄打非”办公室发布的消息,北京市“扫黄打非”办公室等部门联合行动,依法查处晋江文学城网站涉嫌违法行为。经查,晋江文学城《不知悔改的男人》《妖孽养成日记》等作品涉嫌传播淫秽色情内容,对公众特别是未成年人的身心健康有毒害。晋江文学城即日起,立即关停所涉问题突出的古代纯爱频道下的东方架空栏目,及衍生纯爱频道下的东方幻想栏目。

阅文集团旗下起点中文网对用户发布违法违规信息未尽到管理义务,传播导向错误、低俗色情小说等问题约谈运营企业负责人,责令其立即自查自纠,全面深入整改。整改期间,起点中文网问题突出的“都市”频道“异术超能”栏目、“女生网”频道“N次元”栏目暂停更新7天,时间从5月21日15时至5月28日15时。


而在7月份,国家新闻出版署又约谈了咪咕阅读、天翼阅读、红袖添香网、起点中文网、追书神器、爱奇艺文学等12家企业,对近期发现的网络文学内容低俗问题提出批评,责令全面整改,要求相关单位立即下架存在问题的网络小说,停办征文活动,清理低俗宣传推介内容。


补充说明:为了流量和收入,不少网文作者丝毫不顾及底线,除了低俗、色情外,内容上出现各种魔幻色彩,而平台方却没有及时地介入,因此2019年监管部门对网络文学进行了较大规模的规范。知乎专栏作者“刹迦”在《网文整改并没有那么不堪》一文谈及监管时说到:"有些人认为网文整改会给网文创作带来灾难,会导致网络小说消失,但我认为这根本就是危言耸听,也很没常识,恰恰相反,网文需要整改,再不整改反而可能会毁了网文的发展。"从笔者角度来看,一切都应该有序发展,无序会把自身拖入深渊。


6.登载不合规定地图,《亲爱的,热爱的》被罚十万


事件:
2019年10月,上海市规划和自然资源局官网显示,电视剧出品方上海剧酷文化传播有限公司未经测绘地理信息主管部门审核,在剧中擅自登载不符合国家规定地图的行为,被责令改正并罚款人民币十万元整,处罚日期为2019年8月12日。


补充说明:《亲爱的,热爱的》应该不是故意登载不合规定的地图,而是细节没有把握住。这是一种新类型的内容安全事件,值得所有人提高警醒,因此对外的内容、产品,把好导向关、内容关、质量关、传播关、人员关,建立审核制度,加强相关技术和各种流程的安全管控是非常必要的。


7.抖音海外版TikTok2019年接连遭印度、孟加拉国、美国等国家下架或审查


事件:2019年,对于抖音海外版TikTok而言是个多事之秋。2月,孟加拉国以打击互联网色情为由禁掉了TikTok。4月,印度Madras高等法院以“鼓励色情,对儿童有害”为理由,要求当地中央政府对TikTok应用下达禁令,限制媒体通过电视转播使用该程序上的视频。


而在美国,TikTok也受到多次审查。为此,TikTok宣布,将在美国引入第三方机构,让他们为平台的内容管理政策提供咨询服务和建议。TikTok美国总经理瓦内萨·帕帕斯(Vanessa Pappas)表示,此举旨在提高内容审核政策及社区保护措施的透明度。


补充说明:实际上,2019年有不少中国公司出海,这些出海的企业在国外均面临着各种内容安全问题。理解当地文化,与当地执法机构深入沟通,制定一国一策的内容审核政策,或许将是在海外做强做大的关键点。


8.互动作业、纳米盒等20多个学习类APP被“扫黄打非”部门查处


事件:
2019年1月7日,中央电视台《新闻联播》报道称,全国“扫黄打非”部门查处案件1.2万起,对于群众举报的移动学习APP中涉嫌侵权、盗版、色情、低俗内容等问题,展开了专项行动,查处了互动作业、纳米盒等20多个学习类APP。


5月14日国家网信办公布,2019年1月至4月,国家网信办会同有关部门开展教育类移动应用程序专项整治,查实“作业狗”“口袋老师”等20余款程序传播淫秽色情等违法违规信息,存在过度商业营销和娱乐化等不良行为。国家网信办已清理下架上述程序,关停违法违规情况严重的应用服务,约谈部分程序运营方,督促删除内容低俗及与学习无关的文章5.5万余篇,关停420余个专栏以及320多个违规账号。


补充说明:2019年应该算是教育类App专项整治的一年,从1月到12月,各种监管动作始终未放松。为此,有专家建议,应当考虑建立学习教育App黑名单,唯有如此,才能更好预防和治理隐藏在未成年人身边的不良内容,减少他们被侵害的风险。


9.施华洛世奇、Versace(范思哲)等涉嫌损害国家主权与领土完整


事件:
2019年,有不少网友发现,包括施华洛世奇、Versace(范思哲)、蔻驰、纪梵希在内的品牌,他们在官网或售卖的产品上,把不该表述为“国家”的中国城市、地区,表述为国家,涉嫌损害中国的国家主权与领土完整。


补充说明:任何个国家的公民都有主权意识和对应的风俗习惯,中国企业出海需要遵守当地的法律法规,尊重主权和风俗习惯,对应的海外企业入华也需要尊重,并把好各个环节,避免不当的现象发生。


10.哈啰顺风车现大量涉黄信息,变色情广告平台


事件:
2019年6月份,有网友发现,哈啰顺风车存在虚假色情订单,在“附近乘客”一栏有两位五星乘客,利用行程做广告,“出发地”一栏被填入信息“今晚老公不在家,你带我去哪都行”,而“目的地”一栏则填入了微信号。后来,哈啰出行官方表示普通用户无法擅自更改地址定位信息,本次事件系平台遭到了恶意攻击。


补充说明:2019年,自媒体人半佛仙人揭露了一种新的攻击形式——内容攻击。半佛仙人指出,所谓内容攻击就是利用对方APP中可以展示内容的地方(例如评论区等),进行黄恐暴内容的饱和录入,然后引发对方APP被大量投诉,然后被下架。内容攻击竞争对手会用,打乱对方的产品迭代发布计划,给自己争取有利的竞争窗口;黑灰产也会使用此手段,通过信息发布获得相关的利益。由此来看,做好业务风控非常重要,哪怕没有多少内容权限,不法分子也可以通过业务安全上的缺口,给平台方带来内容安全风险。


2019年,内容安全领域也有一些法律法规发布,易盾将应该引起重视的法律、政策法规和相关重要措施附录如下:


《网络信息内容生态治理规定》发布


内容:来自微信公众号网信办消息,《网络信息内容生态治理规定》已经国家互联网信息办公室室务会议审议通过,现予公布,自2020年3月1日起施行。


据悉,《规定》明确了正能量信息、违法信息和不良信息的具体范围。鼓励网络信息内容生产者制作、复制、发布含有正能量内容的信息。明确网络信息内容生产者应当遵守法律法规,遵循公序良俗,不得损害国家利益、公共利益和他人合法权益,不得制作、复制、发布违法信息;应当采取措施,防范和抵制制作、复制、发布不良信息。


国家网信办等三部委发布《网络音视频信息服务管理规定》


内容:国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》(以下简称“《规定》”),自2020年1月1日起施行。《规定》明确,网络音视频信息服务提供者应当依法取得法律、行政法规规定的相关资质;应当建立健全用户注册、信息发布审核、信息安全管理等制度。任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事法律法规禁止的活动,侵害他人合法权益。


网信办等三部门联合发布新规,不得随意发布AI造假视频


内容:2019年12月份前后,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》,其主要内容是:利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识,不得利用其制作、发布、传播虚假新闻信息;网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术,应当建立健全辟谣机制。


《儿童个人信息网络保护规定》发布


内容:10月1日,由国家互联网信息办公室发布的《儿童个人信息网络保护规定》正式实施。据专家介绍,这是我国第一部专门针对儿童网络保护的立法,明确了任何组织和个人不得制作、发布、传播侵害儿童个人信息安全的信息,确定了儿童个人信息网络保护的具体原则,以及网信部门和其他有关部门的监管职责。该规定填补了互联网时代儿童个人信息保护的法律空白。


国内53家主要网络直播和视频平台上线“青少年模式”


内容:2019年10月,国家网信办继续深入推进青少年网络防沉迷工作,统筹指导六间房、花椒直播等24家网络直播平台,搜狐视频、百度视频等9家网络视频平台统一上线“青少年模式”。截至目前,国内共有53家平台上线“青少年模式”,网络防沉迷工作基本覆盖国内主要网络直播和视频平台。


点击免费体验网易易盾安全解决方案。