他们要消失了吗?探访人工智能浪潮下的鉴黄师

网易云易盾2018-09-21 18:08

鉴黄师是怎样的一个群体?


在搜索引擎里键入“鉴黄师”,会有数百万的相关结果。在知乎里,输入同样的关键字,也有各种各样的问题和回答。


“如果不考虑薪水、尊严、面子,你最想从事什么工作?”有人就回答了三个字:“鉴黄师”,答案获得了上千点赞,数百评论。尽管有一些人向往鉴黄师,但鉴黄师这个岗位,在大多数人的眼里却是一个世界黑暗、心理伤害重的岗位。外媒报道,内容审查(鉴黄师的另外个名称)是科技产业增长最快,但或许是最累人的工作之一——工作压力巨大,且普遍遭受心理伤害。


而在另一面,随着人工智能技术的进步,一部分人认为鉴黄师的工作要被人工智能替代。


在这个态势下,如今的鉴黄师是怎样的一群人?处于怎样的一个生存状态?盾盾踩方团第二期带领大家了解下网易的鉴黄师:

上班看黄图


和沈鹏炜、许嘉奇、袁鹏、边雪菁约好的那天,是个阳光明媚的下午。


他们的办公室门禁森严,进出都要刷卡。带我们穿过一段较长、两边窗帘都拉下的走廊,便来到了另一头的会议室。会议室靠窗,很明亮,在这里我们就各种话题聊了将近两个小时。


对于鉴黄师的称呼,他们没有直接否定,只是在后来确认内部是否也这么称呼时,才告诉我们,网易其实内部的真实岗位名称是叫“信息安全审核专员”。而且工作范畴并不纯粹鉴黄,色情之外,他们也会处理血腥、暴力、恐怖主义等内容。


大家可能会认为鉴黄师男生偏多点,抗压力能力好,然而沈鹏炜说,实际上是女生偏多点。虽然女生有一些短板,但长处非常明显——她们非常细心,容易发现一些细节上的问题。“不过,招聘上我们会尽量保持平衡,女生招得差不多了,会刻意地去招一些男生。”


外界盛传,鉴黄师高薪又轻松,工作很有意思。他们说,没有高薪,也并不轻松。刚接触这份工作时,的确因为一些小福利,男生可能会有一点小欣喜和好奇。不过女生却是另外一种反应,有些刚毕业的女生,反应会很特别:一开始会特别害羞,脸很红不敢看。遇到需要处理违规结果时,动作会很可爱——哎呀呀,很紧张,闭着眼去点击鼠标。


有意思的是,有些保洁大叔也会被福利所吸引,从一开始纳闷他们的团队怎么每天上班看黄图,在后面盯着他们看到底在干吗,到后来形成习惯,偶尔会在后面享受下福利。


“妈妈,你可以找不上夜班的工作吗?”


不过,有害信息接触多了,鉴黄师们都是同一个反应:内心多多少少会有点崩溃。


崩溃的原因主要有两方面,一方面是身体上的。首当其冲的是他们的工作时间,7x24小时,三班倒,中间不能离人。上夜班的时候,大多数人到了凌晨三四点就会很想睡觉。有些人的第二个通宵班,真的是需要靠毅力扛过来。而女生处于生理期时,可能会更加受不了。其次是眼睛,由于需要大量看东西,他们眼睛必须一目十行,而这给眼睛带来的伤害比较大,需要不断点眼药水。还有就是:胖,倒班容易肚子饿,而经常吃夜宵,就容易有副产品——身上不经意间就增长了肥肉。


另一方面是精神上的,有些人觉得每天看黄图会觉得很爽,然而鉴黄师说,实际上经常有一些超出大家想象的高清无码变态图,比如乱伦、变性、虐杀等,它带来的视觉冲击力非常大,犹如身临其境,心理非常容易崩溃,让你怀疑人生,觉得这个世界太黑暗……这非常考验一个人的心理素质。


更重要的是三班倒导致的时差,让鉴黄师没办法和正常人一样社交。他们说,朋友娱乐的时候,他们在睡觉。而朋友睡觉的时候,他们在另外一个世界里清理互联网的垃圾。这种牺牲,在逢年过节的时候,感受会特别强烈,大家都在,就差我一个,这种孤单感会很强烈……


亲情、友情,是他们面临的最大一个挑战。


边雪菁告诉我们:“有次晚上9点去上通宵班,他的孩子一改往常不让我出门,而是突然说:‘妈妈,你可以找不上夜班的工作吗?”临走前发生的这一幕,让她很心酸,下意识地紧紧抱住孩子,久久都没有松开。


“休息时间不固定,也会导致自己很有内疚感。朋友找你时,你没法赴约,经常这样,好多朋友都不会再来找你。这样的感觉,好像是故意疏远朋友,自己内心很容易过不去。”袁鹏分享了自己的过去的一个心理状态。

 

崩溃、麻木后的蜕变


和鉴黄师接触前,原以为压力“摧残”之下,与之谈话多少会有点压抑。然而有点超出我们预期的是,和他们接触后最大的感受就是发现他们,居然是一群积极乐观的人,深知这份工作存在的意义。


的确,他们一开始会有浮躁和困惑,不知道做这份职业到底有没有意义,能否体现自己的价值?每天那么忙,那么累,坚持到底是为了什么?但过了一段时间后,他们就会从多个角度看待问题,认识到自己的责任重大。


边雪菁是位有一个孩子的妈妈,她在这一点上认知特别深刻。她认为鉴黄师是一个很伟大的职业,她说,每个人终将会有孩子,以后你的孩子也会接触互联网。如果没有鉴黄师的存在,孩子很容易接触到不良信息。孩子没有判断能力,需要保护,否则会被不良信息影响,导致他们的价值观、世界观扭曲。“以前我们上网的时候,总会遇到一些含有色情信息的弹窗,玩游戏时也会遇到。”边雪婧说,现在很少会遇到了,这就是鉴黄师的功劳,让网络空间变得更健康。


有害信息看得多了,人会变得麻木。但正是这种麻木,让袁鹏有了蜕变。他说,对自己伤害得越大,越是会感受到这份责任的重大:“连我们这些专业人士都受不了,更何况普通人?”


“我们是有害信息流传到网络上的最后一道关卡,必须得守好这份疆土,避免有害信息流落到网络空间,危害社会健康。”对于这份职业的成就感,他说,看着社区、产品里的用户活跃,没有被有害信息毁掉,他们也会感到开心——尽管他们是幕后英雄,不曾被人们知晓,也不曾被感激,甚至有人对这个职位理解有偏差,接受不了


面对身体上的劳累、心理上的折磨,大多数的鉴黄师没有选择放弃,而是默默选择坚持下去,坦然面对一切。他们如同一名法医:都是要24小时待命、克服恐惧、承受心理压力,冷静面对刑事案件里的各种情况,为破案、社会的安定提供可能的蛛丝马迹。


破壁枯燥


边雪菁说,其实每个岗位做久了都会觉得枯燥乏味,尤其是像鉴黄师这样的,更加枯燥。所以最重要的就是自己去寻找乐趣,把一份普通的工作做到有姿有色。


“我首先是调整自己的心态,乐观向上的就是我,每天上班来的时候嘻嘻哈哈,下班当然也是兴高采烈。有时候看看审核的图片、视频,其实你会发现很有趣。在审核中,如果你用心,就会发现形形色色不同的人,有些段子可能不在这里上班都不会知道,所以只要你有个好心情,工作也不会觉得枯燥乏味。”边雪菁真诚地对着我们说,你要相信不管什么事情,从不同角度出发都会发现不一样的乐趣


许嘉奇的调节是老司机的方式——动不动开车。他会努力寻找让自己开心的点,一些低俗恶搞的信息、搞笑的图片:“男人站着高不是真的高,躺着高才是真的高。”偶尔还会分享到鉴黄师的一个内部沟通工具里,调节自己的同时,也能够让大家一起乐起来,获得提高——进一步了解有害信息的分类。


鉴黄师告诉我们,除了这些,他们也会在工作空闲片刻,在办公室聚个会,共同点个外卖,一起吃东西,互相诉说今天的经历,释放自己的压力。深夜下班,有时共同下班的几个人,也会相约一起撸个串,大口吃肉,大口喝酒,感受畅快人生。


有的人会好奇,回家之后,鉴黄师还会不会再看这些视频,或者说会不会把内容拷贝下来。沟通中,鉴黄师说,他们是不会拷贝视频的,因为公司内部有规定,审核的信息只能在后台,不能带出去。工作之余,他们会不会再看,因人而异。有的人会选择继续看,多看一点,多一分工作经验上的积累。


这让人很感动,鉴黄师虽然有痛苦、折磨和煎熬,但他们深知自己的责任,一直在永不停息地努力乐观和坚韧。


当然鉴黄这份工作,也并非没有一点好处。许嘉奇说,安全意识会变得非常好,一看到什么色情图片或谣言,都会在第一时间出来提示身边人不要转发。有些人会觉得自己消息灵通,要散布消息让朋友知道,但这样到处转发,会导致群被封掉,甚至会给自己带来不必要的麻烦。第二个是,一目十行造就的火眼金睛,让他们的观察力非常敏锐。


技术“解放”


人工智能潮流下,大家都非常关心,鉴黄师是不是要被淘汰了?


回顾人类历史上的几次技术革命,答案或许明了。蒸汽机的出现,让人类进入了蒸汽时代,蒸汽开始替代了人力,无论是炼钢,纺织业,都由此得到了巨大的发展;后来随着电力的普及,人类进入电气时代,开始进一步替代人力;而随着互联网、云计算、大数据等技术的发展,人类又进入信息时代……然而不管怎么变化,都是把人从单调的劳动生产中解放出来,让他们可以从事更有价值的劳动,而不是单一重复的劳动


沈鹏炜说,技术的介入,的确替代了很大一部分人力,让技术成为了主力,人工成为辅助。尤其是几年前,网易云易盾内容安全第三代人工智能技术接入后,人+技术协同,审核效率较之前提升了数千倍。


但技术并没有淘汰掉鉴黄师,却是解放了鉴黄师。许多海量的工作,人工智能技术一个规则就可以立马处理掉。而不是像多年前,几个鉴黄师要埋头吭哧处理好几天,非常辛苦不说,低效还容易造成内容安全事故。


“今天的鉴黄师能够从事更加高级的工作,比如说,有害数据分析、前台巡查、规则维护、质检检查等更核心、有效的工作,因此,鉴黄师也不像以前那样压力大和工作繁忙。”沈鹏炜介绍到。


鉴黄师被解放的背后,是一段网易云易盾内容安全技术不断升级的历史:第一代内容安全技术是建立在关键词、黑白名单、过滤器和分类器上;第二代内容安全技术基于内容特征识别(肤色、纹理)、贝叶斯过滤、相似度匹配和规则系统;而第三代则升级为大数据分析(用户行为、用户分类)、人机识别、人工智能和机器学习(语义识别、图像识别)。经过不断更新换代后,网易云易盾内容安全服务已覆盖了文本、图片、语音和视频(直播)等领域,在广告过滤、智能鉴黄、暴恐识别等场景应用上,有害信息处理效果超出所有客户预期。


沈鹏炜最后表示,只要有男人和女人在,欲望就在,鉴黄师也就在。似乎嫌这样的说法不够严谨,他接着又补充一句:“人工离不开智能,但智能也脱离不了人工,因此鉴黄师的未来只会变化,而不会消失。”


有奖互动:中秋佳节即将来临,在这个阖家团圆的日子里,“鉴黄师”们依然坚守在岗位上,为大家构建健康清朗的网络空间。像他们一样,还有很多不能回家团聚的幕后英雄们,趁此佳节之际,让我们走心的对这些幕后英雄送上一句“心里话”。在本文留言附上你最想对他们说的话,点赞前三名的盾友们(截止时间为9月25日0点),获赠网易中秋臻享茶礼一份


欢迎点击网易云易盾安全服务