首页 科技资讯 观点

审核员的世界:不可或缺,却无人在意

晚点LatePost(ID:postlate)| 来源

刘璐天、朱丽琨、姚胤米 | 作者

不提供二次转载

1

维持一个复杂的系统,常常需要一个庞大群体难以想象的体力付出。在大城市里,是无处不在,又无人在意的清洁工、骑手、货车司机。如同总能保持住高效、便利、整洁的大城市一样,在互联网世界,永远刷不尽的内容背后,不仅在于他们有极力宣传的算法系统,还离不开十万数量级的审核员的劳动。

中国每天有上亿条短视频和图文内容被生产出来,在五到十分钟内就能被分发至用户的手机上。去年 10 月,平均每个中国人的手机接收了超过 14GB 的图文、视频。2015 年,这个数字不到 0.4GB。今天的中文互联网,几乎没有文件的传输不经过审核。

审核员是在三重夹缝中执行指令的人。

他们一面是公司的 “防火墙”,是防止产品 “猝死” 的人;一面要按照平台和老板的要求,过滤内容,让用户看到的内容 “质量” 更高;还得面对用户的压力,不管经历过久的规训,人们依然不喜欢自己的观点和思考被别人点一下鼠标从世上抹去。

大部分中国互联网内容平台都是家长心态的延伸,上位者觉得自己有权决定平台用户该看什么、不该看什么,平台该是什么氛围;逐渐地,用户也自发变成了 “家长”,他们会默认一套准则,举报自己不认同的表达。这些最终都变成审核员们的工作量。

今天审核员群体已经有了个大致形象:在互联网公司里地位相对边缘,大部分是二线城市的外包合同工,学历比不上正式职员那般光鲜。但仅需把时间拨回六七年前,在中国移动互联网蓬勃来临前的萌动期,审核员工中也不乏名校毕业的精英。

今年春节,一位 B 站审核员猝然离世,引发关注。多家公司做出了不难预期的响应:嘱咐审核部门员工们,不要私自接受媒体的采访。问题不被讨论,就不存在。

互联网公司内部的蓝领阶层这几年愈加壮大。对此,不止一位互联网公司中高层向我们表示,这份职业的现状是市场决定的,遗憾但正常:一个人可以自由选择工作,每一份工作的付出和回报都由供需决定。

很多人虽然早已耳闻审核工作的辛苦,也知道自己没有任何晋升的可能性,但依然会选择这份工作。因为在这个环境下,他们暂时看不到更好的选择。

不过市场经济下的合理,并不能抹去不幸。这个世界的很多人并不会每天感受到喜悦、感激和爱。

除去高强度的工作节奏。如同过滤网一般的审核员,每天面对大量色情、暴力、广告信息,图片和视频内容穿过视网膜,冲击着神经。

2018 年 9 月,Facebook 一位离职的内容审核员起诉前公司,称审核员们很多看了太多令人不适的内容,遭受了精神创伤,并指控公司没有为审核员提供适当保护。这起诉讼引发了海外关于互联网平台治理和劳工问题的又一轮讨论。没有理由认为,同样工种在中国不会面对类似的精神压力。

《晚点 LatePost》本周采访了十几位在职或离职的互联网公司审核员。除去职业身份,他们和我们是一样的互联网用户,每天消费内容,有些是内容的生产者。

当中有人的作品获得过平台创作者奖励;也有视频审核人员在工作之余,自己生产制作视频内容,和千万创作者一样上传到平台,等待被审核通过,见到他的观众;他们热爱内容,也会困惑于 “没有营养的口水文究竟值不值得被更多人看到” 这样的价值命题。——他们是互联网使用者中普普通通的一员。

01

一位二次元用户的离世

如果不是一名 B 站员工,“暮色木心” 会是一个标准的 B 站用户,资深且活跃的那种。

他的账户注册 7 年半,V6 级别,大会员——如今站内用户的顶配。签名档倒写得直白:永远年轻,永远热泪盈眶,永远被当枪使,永远不长记性——bilibili 生态观察。

他把 B 站动态当朋友圈发,养猫日常、音乐节现场、动漫节遇上的奥特曼都记录下来。1 月初,B 站发售数字藏品头像,他也报了名,不过没抢到,得到了一张兑换补偿券,他发了条动态调侃:“阿 b 终于是当了个人”。“阿 b” 是用户们给 B 站起的拟人化昵称。

他像许多普通用户一样使用 B 站,热爱 B 站上的内容,也利用工作之外的时间制作游戏视频,是一个 “兼职 UP 主”。他的人生短暂却充满活力。

2 月 7 日中午,微博用户 “王落北” 公开了数位粉丝关于 B 站武汉审核组长加班导致猝死的爆料,不久后,跃入热搜榜。一位审核员的离开,唤起了上万条有关审核员的诉苦。

微博私信通知数量一度超过 100 万,每秒刷新出几十条消息,愤怒的,哀怨的,惊讶的,争相挤出屏幕,击穿王落北对审核员生存状态的认知,他在过载信息带来的震撼和麻木中迟迟缓不过神。

王落北的正职工作也对接 300 多人的审核团队,或许部分解释了他在这次爆料行动中,表现出的坚定和坚持。当他不得不要求审核团队加班到每天工作 10 小时时,会出于愧疚,自掏腰包发红包请大家喝奶茶。

爆料发出 3 小时后,B 站第一次给出公开回应,在那封发送给全体内容安全中心员工的邮件里称,逝者 “按工作计划正常上下班,工作时间为 9:30 - 18:30,做五休二,在事发前一周内未存在加班等情况。”

B 站这位审核员,没有死于公司的岗位上,法律层面,很难直接判定他的死与之前的高强度工作绝对相关。

一位从事劳动法的律师告诉《晚点 LatePost》:中国目前的相关法律中从未提及 “过劳死” 这个名词概念。过往的许多同类纠纷中,在员工是否因为过度工作而死亡的具体事实问题上,公司往往会抗辩员工的死亡是可能多种介入因素导致的,而家属亦无法证明过度工作是导致员工死亡的主要原因。

“但不能因为存在法律上完美的逻辑抗辩,就说这世界上没有 ‘过劳死’,这不符合人类的常识,公道自在人心就是这个意思。” 他说。

通过对数名前 B 站审核员工作的采访,我们试图让读者对 “暮色木心” 生前的处境多了解一些。

多位受访人均表示,B 站审核员加入公司可能跟去其他厂都不一样。他们大多喜欢二次元,也经常使用 B 站,热爱游戏和动漫,愿意 “用爱发电”。一位前员工甚至半开玩笑地说,去 B 站只是因为他们入职离职都有周边送——虽然据另一位前员工说,自己经常收到 “公司卖不出去的周边”,比如,虎年春节前他收到了鼠年盲盒。  

仝立君离职前曾担任过 B 站某城市审核部门代组长,相当于组长的实习期,不出意外的话,只需等每年固定时间,就能实现调职级和涨薪,真正成为组长。升上管理层,“为爱发电” 的掉电速度显著提高。本来单号日上完班可以休息一天,当上代组长的那个月,双号日还要到公司盯另一个小队的工作,15 个休息日几乎有 7 天需要额外到岗,也并不会体现在排班表里,不算真正的 “加班”。

最大的压力,还是来自管理组员。30 多个组员的审核稿件数量、准确率,每月考试分数、培训时长全部要记录清楚,还要跟专门负责算绩效的部门发来的表格做对比,关系到每个组员的绩效,核算时,心情如履薄冰。

领导的要求也落到组长身上,让每个组长和代组长紧绷成一根弦的关键词是:人效。

管理最严苛的状况下,每两个小时就得拉一次数据,这个过程被称为 “追人效”,哪位组员工作数据差了,都需要去沟通对方 “补量”。仝立君不敢太强迫组员,生怕组员提离职,因为自己还有一个重要的考核指标,“人才保有率”,指每个月本组离职人数要控制在一个很小的限额里。但是,每上完一个月 “做一休一” 的夜班,至少会有五六个人因为熬不住了离职。

当了 1 个月代组长之后,仝立君终于走到了崩溃的边缘。决定提出离职那天,正是南方暑热最重的时候,公司连开两天管理层培训会要求必须全程参加,而这中间还得值个大夜班(晚 9:30 到第二天早 9:30)。

第一天中午,仝立君请假在大夜班中间睡 8 小时,领导回了句,“克服一下”,并建议把请假时间往前调一个半小时,赶上早 8 点的打卡,便没再多说什么。仝立君估计,这是领导希望自己别漏掉早上那次例行提报数据,也只好照做。但为了把当月绩效赶出来,又加班到凌晨 4 点才回家,只睡了 4 个小时。

临近中午,仝立君开始感觉胸闷气短,感觉到心脏咚咚跳,这声音逐渐盖过了会议的声音。给领导发消息,收到的回复还是那句,“克服一下”。在这场教组长们如何当一个优秀的管理人的会议中途,仝立君夺门而出,在工位哭完,提出离职。

仝立君告诉《晚点 LatePost》,不同审核组的工作节奏不一样。其猜测逝者所任职的图文审核部,只会比自己这边更 “卷”。理由是,自己之前加班时,总会被告知 “图文那边加班更严重”。

像 B 站社区那样,B 站审核部门也有丰富的自造语言,连质检组给审核员发送指出其错误、会导致审核员绩效被扣分的邮件,都有个萌化的词 “寄锅”,也就是 “记过”。这些热爱 B 站的员工们开始自嘲,是 “叔叔的打工人”。

02

延时、飘红与准确率

内容给公司和个人带来流量,公司和个人也依靠注意力经济变得越来越富有。但随之产生的、愈发庞大的信息筛选,落在了每一个普通审核员身上。

八小时的工时结束后,值班组长在飞书群里发来了当日工作统计:人均 2146 条。郭晋看到自己的绩效——4049 条,在数据表上不出意外地 “飘了红”。每天,值班组长在群里发布每名审核员的当天绩效和误判率,排在成绩单后面的人,将承受巨大的心理压力。

在职的日子里,这是他心满意足的时刻——做组里最优秀的那个,能被领导看到。

2019 年,郭晋入职了字节跳动在重庆的审核基地。与当时字节的合作公司人瑞人才签约,成为一名外包员工。

入职后他被分配到互动组,审核 “今日头条” 微头条里的图文、视频、评论。和大多数审核岗一样,八小时工作制,三班倒。每天的 KPI 大约是 2000 条内容,但并不绝对,有时会浮动到 2200-2400 条。不同的内容会乘不同的难度系数。一般的图文可能乘 1.5 ,动图可能就是 0.8。

公布当天绩效是固定环节,像上学时班里贴的成绩单,只不过,一点平常的可视化技巧让它的焦点更明确——远超过规定 KPI 的人会被标红,而低于规定则被标黄。月底绩效会根据人效和错误率分出 ABCD 四个等级,连续拿两次 D,就可能被辞退。郭晋在职时实行的是末位淘汰制,也就是说——“一定会有人拿 D。”

单日审核数字以 “千” 为单位计算,是所有受访审核员们的工作日常。知乎员工刘坊(化名)在职时,一小时最多可以看 3000 条评论。秦崤(化名)在 B 站视频审核组每天要处理 1500 条视频。

郭晋观察到大多数审核同事工作时都会戴上耳机。放一点噪的音乐,瞬间就能将同一空间中上百个鼠标接连不断的点击声隔绝。那是审核员们为数不多的自由时刻。

时间对他们来说是最奢侈的。审核员都要被 “延时” 约束。

一位曾对接过快手、字节、腾讯审核外包团队的技术人员告诉《晚点 LatePost》,短视频平台对延时容忍度最低,上限是 10 分钟,但实际上 3-5 分钟内就要审完放出一条内容。延时直接影响创作者的用户体验。

为了控制延时,公司风险控制部门为审核员设计的辅助系统会加上一个 “报警系统”。有的放在审核页面的左下角或右下角,当审核员超时,将弹出提醒;还有的会设计成一个倒计时窗口,挂在审核页面上。

为了节省时间,审核员上厕所需要向组长报备,郭晋同基地部分业务组当时的上限是:15 分钟。B 站的一位审核员经常请同事帮忙把饭从楼下打上来,屁股不离工位地,吃完一顿工作餐。审核员们习惯了相互帮助,盯页面,这让我们突然理解了为何许多人说审核团队的氛围有时很像 “大学”,同事关系简单、淳朴,相互 “支援”。

还有的审核员没有手机自由。邹镐(化名)做过半年闲鱼的审核,每天上班前,所有人都得把手机放进组长工位的一个箱子里统一保管。想要看手机的时候就申请去厕所摸鱼十分钟。休息也是如此,只能去休息区。“在工位上趴几分钟,那有点过分。太显眼了!” 邹镐说。

郭晋很少有摸鱼时刻。字节有一套对审核员的后台监测系统,用来统计一项指标——工时利用率。一条平峰中间有几处深浅不同的豁口,凹下去的地方代表审核员没有在工作。郭晋某天的工时利用率图表有三个小豁口,分别代表他因上厕所、短暂休息和喝水而三次短暂离开工作界面。

为了提高审核准确率,公司都会引入 “盲审机制”,亦即 “背靠背审核”。从文章库中设定 10%-15% 的文章,分配给两人审阅,如果审核结果不一致,将交给经验丰富的审核员三审。争议案例会进入案例库,供团队第二天复盘学习。

今日头条前审核员章埕(化名)回忆,组内背靠背审核的一致率通常能达到 90%。说明之前的一次次培训有效。与此同时,每篇文章会有一条完整细致的审核记录,谁在何时审稿、给出了什么判定、数次审核都由谁负责,便于追责。

审核员一面要追绩效,一面要时刻防着失误。前字节风控部门的产品经理王洹(化名)说,一般的审核失误会影响准确率,进而影响绩效和薪资,而重大失误、漏审则会被定义为事故并根据严重程度分级,如 P0、P1、P2、P3,造成事故的审核员会面临直接扣薪甚至辞退等处罚。

2020 年 5 月,疫情最艰难的时候过去,全国大部分企业开工上班,字节审核员的工作量明显减少,审着审着就没有新内容了。审核员们会放松一下,所谓放松,也不过是看看新闻或规则文档。但很快,电脑页面上又出现了审不完的内容——系统把几个月前审过的内容回流进库里,让大家再度审核。郭晋告诉《晚点 LatePost》,这叫 “洗盘子”,“我猜测这是为了让大家工作饱和”。审核员们感到不满,但无能为力。那段时间,郭晋身边有不少同事离职。

B 站这次事件令北京华一律师事务所的王永梅律师想起 2015 年左右,她为苹果做过珠三角地区代工厂做合规调研的经历。在她看来,7 年前代工厂里的工人和 7 年后的互联网平台审核员境遇类似。

企业的做法在劳动法上是合规的,8 小时合法工时。加班是工人主动要求的,因为基本工资只满足当地最低工资标准,可以获得 2-3 倍工资。员工们生存之上的诉求,是大公司靠后考虑的问题,尤其是在其商业增长遇到困境或外部经济环境下行时,更是如此。

“夜班人员的补贴确实高,一个通宵班补贴约 120 元。休息也让人休息了,公司没违法。可所有对身体的伤害都是审核员来承担,最后找不到任何办法来说理。” 郭晋说。

03

积重如山的疲惫和审核员的良心

审核工作机械、重复,像鞋里的小石子一样磨人,令人滋生难以承受的疲惫感。审核员们日常碰到最多的不是敏感话题,而是没完没了的 “垃圾内容”。

章埕最讨厌广告。很长一段时间内,壮阳药、减肥药广告没完没了,难以识别,变种又多,令他不堪其扰。

当人人都看到流量可以变成财富,大量的广告变着法儿地想要涌入平台上。它们夹杂在正文中,位置不固定。等到机器能通过抓关键词排查,用户们又把广告印在图片上。他们只好再引入图片识别,揪出图片上的广告文字。大量广告往往是团队作案,公司通过拿手机号和身份证批量注册账号,通过其中一个账号顺藤摸瓜去找手机号和身份证对应的所有账号,才能逐渐解决。

UGC 带来内容大爆发。快手、抖音等短视频平台的崛起,更是带来全民创作时代。每一次字节审核团队人数的爆发都是新产品增长的时候。

刘坊认为,视频审核的压力要比文字高 5 到 10 倍。他曾在一位就职于某长视频平台审核部门的朋友的电脑上看到,他的屏幕有 8 到 12 个视频窗口,同时 8 倍速看。他还看到过朋友在做直播审核时,16 个、甚至最多 32 个小窗口同时监测画面和动作。

比起图文,视频给人的冲击力更大。视频内容的审核、举报后台充斥着各种软色情、真色情、暴力和血腥画面。

刘坊觉得,自己作为用户看短视频都会感受到这些内容在撩拨和刺激人的情绪。看进去了,就意味着要面临更多性挑逗;强迫自己压制性冲动,兴奋点则会越来越高。“所有男性鉴黄师都要面临这个问题,你如果经常看这种东西,你的身体会不会坏?肯定。” 他说。

郭晋 2020 年 9 月离职,传媒专业出身的他在当地一家媒体做了记者。一些习惯保留下来——上网浏览喜欢看评论区,看到隐晦的违规内容就暗自想:这个审核哥们完了。某些时刻,他觉得自己内心似乎 “阴暗” 了。有次和妈妈看到一个车祸视频,一位中年妇女翻越马路护栏时被大车撞飞几十米。“妈妈觉得悲惨,而我第一感受竟然是惊奇,我靠可以飞这么远。”

在闲鱼,审核员也会审核私聊内容,特定的色情、烟酒、枪支、涉毒黑话等敏感词会被机器筛选出来,交给审核员处理。他曾在某个私聊页面中看到一个男人买了一条二手丝袜,剪了一个洞将自己的生殖器放进去自拍。他感到 “恶心” 和 “生气”。

邹镐每天根据不同情况对账号做处理,比如,一张图露了生殖器,直接封号;另一张图有性暗示但没有裸露太多,属于 “低俗”,扣 6 分;一个账号引导用户去其他平台交易,扣 2 分。每个账号的总分固定,分都被扣完,就会封号。

公司不会安排对审核员的心理疏导,但入职培训时会向他们展示各种极端案例,这意味着,“能留下来的人基本都还能接受”。时间长了,大家对色情暴力类内容已经习惯,甚至看到一些猎奇的内容还会分享。

秦崤成为 B 站审核员后养成了以 “嘛……” 开头的说话习惯,它来自于一个日本语气词。不是因为他受日本动漫影响,而是看了太多脏话,有了出口成 “脏” 的冲动,所以找了个差不多发音的词来代替,“嘛” 在他那里等于 “妈的”。

曾经在审核岗位工作六年,杨阳觉得,审核这项工作说来简单,其实也复杂。大体要求就那么几项——涉政、色情、广告。复杂之处在于,灰色地带该怎么办?

没有人愿意把垃圾文章放出来,但怎么判定何为垃圾?杨阳刚入行两三年时曾为此挣扎过。最初,他真想连带账号全砍掉,但后来觉得:用户水平参差不齐,精英觉得价值不大的内容,“也许对另外一些人有意义”。他选择把它们放出来,但降低推荐量。

而 “色情” 内容也未见得绝对界限分明。比如在短视频平台上,只穿比基尼大概率会被判定为暴露,但如果旁边有一片海滩,又很可能被放过。再比如,裸体明确被禁止,但新生儿家庭想在短视频分享喜悦,又需要谨慎判定。Facebook 也禁止用户发布裸露内容,最明确的一条是 “不能出现乳头”,但一些女性非常看重她们在公共场合母乳喂养的权利,她们的愤怒爆发了,最后平台修改了相关政策,将母亲哺乳列为 “裸露” 内容中的例外情况。

审核员除了是清道夫,也会被时代风向所塑造,他们一个 “习以为常” 的动作,也可能产生蝴蝶效应,成为时代的一部分。

刘坊对自己审核经历最为骄傲的一件事情是,曾参与建立了 “自杀预警” 机制。知乎上每年有几百人提问:想自杀怎么办?刘坊知道,那些不是出于猎奇,而是一群人真的想找到答案。

“你会发现这个世界上的阴暗面、痛苦面是非常巨大的。只要聚集在一起,很容易积累人性阴暗。” 为此,他扩充了抓取关键词词库,从一个词 “自杀”,到以 “想死”、“不想活了” 两个方向为延伸,收集了 30-40 个关键词。系统抓到关键词后,会先屏蔽该内容,然后锁定用户位置,审核员会视情况联系当地警方。

04

不可或缺,无人喜欢

不出问题时,审核员是隐形人;出了问题,他们又最容易被苛责。不会有用户夸奖审核员审得好。

一位社区类产品的高层每半年与审核团队的组长开一次线下讨论会,探讨如何调整审核规则,来保证社区氛围的友好。他们的一位审核负责人每个月都会有关于女性内容尺度的讨论会,分享上个月碰到的一些灰色案例,他感慨做出判定 “特别难”,特别是这两年性别话题这么对立的情况下。

该产品选择在灰色地带 “一律用保护女性这条原则来操作”,即便这个原则有些时候会让用户更觉得气愤,进而可能导致更对立。从平台方角度,他们已经自认通过审核做了充分保护女性话题表达的动作,但这位高层说:“用户对 ‘好’ 都是无感知的,大家会夸产品好、设计好、氛围好等等,但从来没人会夸审核好。”

工作成就感低,是所有从事内容审核的员工们不得不面对的职业危机。在互联网大厂,这是一种风光之下的边缘化——佩戴大厂工号牌的 “新一代富士康工人”,在所有岗位工作都变得精细、具体的背景下,审核员更是大厂蓝领中的蓝领。

Boss 直聘上的审核岗位薪资水平多在 5k 以下,有的学历最低要求为大专。而到了非一线城市,大部分 B 站审核员月度考核能评为三星,在南京分部意味着 3200-4000 元的月薪;字节重庆审核员基本工资 2400 元左右,加上绩效和加班费,可以赚到 4-6 千。

他们积累不下什么职业技能,也没有上升通道。离开审核工作三四年后,章埕回顾北漂几年的最大收获,也许就是先后就职的两家大厂让他攒够了一笔在老家买房的首付款。

审核岗位曾经也学历内卷。2005 年 Facebook 招聘的第一位审核员是斯坦福大学的毕业生。黄修荔(化名)2017  年入职字节跳动一线审核岗,才几个月,组里就来了一位利物浦大学硕士,后来陆续又有很多清华北大以及中国传媒大学毕业生加入。她暗淡的普通二本的学历,曾引发短暂的自卑:“我何德何能跟他们一起共事”。

在行业剧烈上升期,审核员的成就感很高。章埕是今日头条十分早期的员工,入职时公司还不到 600 人,真的跟着公司一起成长。虽然审核比不了产品经理和技术开发,但他们也觉得自己的工作非常重要。

那是今日头条发展最快的几年,名声越来越大,公司的蓬勃给个体员工带来成就感和优越感,他甚至觉得,在今日头条上刷到一条下面署有自己作为审核员的姓名时,都真诚地有骄傲感。 

公司那时也是全员创业的状态,扁平、充满活力。有一次中午打饭,张一鸣就站在他后面一起排队,“完全没有任何架子”。另一方面,工资涨得也快。章埕刚入职时是 4000 元,半年后就涨到 5500 元,2017 年离职时已接近翻倍。

听了许多位审核员们的经历,我们反而感慨章埕的成就感是那么的宝贵。

此后几年,随着各个公司审核系统的越发完善,对单个审核员的能力要求也越来越具体,在工位上按照规则执行就好了。全球范围内的内容审核岗要求都经历了标准大降低,审核团队也从大城市迁往人力成本更低的地区。

2012 年,Facebook 通过外包公司埃森哲在菲律宾马尼拉建立了一个规模庞大的内容审核中心,团队成员从绝大多数是全职员工变为绝大多数是合同工。同样的变化也在中国发生,腾讯、字节、快手、B 站等都把大部分审核团队从一线城市迁出或交给外包公司,天津一度因此获得 “内容审核之都” 的称号。不过,近两年,公司们觉得天津的成本还是高,开始把审核基地建立在济南、西安、武汉、芜湖、成都、重庆等经济发展次一等、大学毕业生又多的城市。对审核员的学历要求也层层降低,从海归降到到一线城市一本,再到大专及以下学生,还有大公司的外包审核团队招过高中学历的。

字节跳动的两次搬家,某种程度上体现出审核员境遇的落差。公司第一次搬到了中航广场,审核团队被安置在紧邻的一栋楼里。章埕记忆中的最后一次搬家,审核部被要求独自迁去了一个离总部或地铁站都很远的地方,审核员们颇有微词。

郭晋一度相信自己可以凭努力获得更好的待遇。他曾经三次参与内部竞聘,但名额有限,且公司会直接通过招聘空降领导,他从未得到过更好的岗位。

即便在总部,章埕的职业路径也没宽多少。工作两年后,他成为部门里经验丰富的那一个,当同事们的审核结果产生争议时,他可以作为裁判来决定谁审对了。这个 “资深小组” 有十人左右,虽说是晋升时优先考虑的对象们,但在职几年,章埕他们并没有得到任何竞聘升值的机会,当年的老同事还留下的,早已屈指可数。

在公司里,一线审核员则处于鄙视链最下游,“同行们理解你的工作,但多多少少会看轻你。” 章埕说。审核组长、产品经理、运营、公关……好像各个部门的人,都能向审核员发泄情绪和施加压力。

外包就更惨了,章埕在第二家公司时任管理岗,管理外包团队,他深切感受到,如果有领导诟病某篇文章,或抱怨文章质量不行,压力就会从大领导、部门总监、小组长层层施压到外包团队,又从外包团队的领导层施压到基层,指向具体员工。

每天监控审核后台的工作量,章埕经常看到有外包员工在线审核 12 个小时——“12 个小时” 这个数值刺激不到他,事实上,他也偶尔有过这样的加班状态,但章埕看到的是,外包员工普遍是接近 “996” 的节奏,“他们是真的苦”。

05

技术不能替代审核员,但可以管理他们

王洹介绍,每个审核员都有每天的 KPI,数量是经过严谨测试后得出来的。每开设一条新业务线,公司会让一位对该领域非常熟悉且能力最好的审核员进行 1-2 小时的审核,用他平均每小时的审核量 *0.75*8(小时),就得到所有审核员工需要完成的每日基础 KPI。

王洹曾在审核管理岗的工位上看到过后台监测系统,可视化图表让她印象深刻。每个小组和每个人都用柱状图来表示,记录他们单位时间内的审出量,颗粒度精细到 5 分钟。

其中一条柱子代表审核员单位时间内的审出量,旁边一条柱子代表他昨天同时间段的审出量,还有一条柱子代表他上个星期的平均审出量。三条辅助,同步实时对比。如果数据差异过大,蓝色柱子会即刻变红。在系统后台,一个个审核员变成了一个个 ID,超出系统设定的阈值,会触发警报、弹窗机制,或弹出企业微信或钉钉的消息,还有的会将异常传送给该员工的上级领导。

AI 的确能提升效率。2014、2015 年,今日头条审核员退回每篇文章都要手打理由。后台技术完善后,他们只需用鼠标勾选理由选项就行了。2016 年开始,机器可以自动审核通过一部分文章,其它自动退回给人工审核。

但 AI 永远没法取代人,今天的 AI 距离人类的智慧还有很远距离。当人们感知到审核的存在,总会想方设法绕开固定的规则。能最快填上缝隙的不是算法,一定是活生生的人。

B 站一些用户喜欢和秦崤玩猫鼠游戏,不断修改或投稿同一条视频,试探审核底线。最夸张的一次,有个 UP 主来回和他拉扯了 17 次。按照 B 站当时的规定,一条投稿如果两次被退回,就会锁定。这名 UP 主试图发表的是一个动漫混剪,集合了至少五部 “18 禁动漫” 的片段。秦崤清楚地记得,对方一直借助视频简介向后台的他示威,态度从愤怒、咒骂到哀求。被锁定 5 次都无法发表后,他才作罢。

当红流量明星蔡徐坤很让秦崤头大,虽然以前他对这位爱豆并无印象。B 站上蔡徐坤相关的视频进稿量一度占全量的一成,他不得不在后台适当限制流量,以防用户被刷屏。粉丝和黑粉也会进行大量无用举报,每次举报最终都会传导给审核员来处理,“实在是消耗人力” 他说。

2018 年 Facebook 整改时,人们发现其自主检测的仇恨言论只占到了所有被标记内容的 38%,而有超过 60% 的内容需要靠用户举报来发现。一部分原因是,其人工智能系统仍然难以辨别言论中的仇恨情绪。马克·扎克伯格在当时的国会证词中,表达了将来使用 AI 清除仇恨言论的计划:“我乐观地认为,在五到十年的时间里,我们将拥有一些人工智能工具,可以深入了解不同类型内容的语言细微差别。”

计划仍然是计划。“哪怕到现在也是人工审核为主,机器审核为辅,永远都会是如此。” 杨阳说。

在经济下行的环境下,求职者多,好工作少。人们都知道互联网大厂 “卷”,但比起别的公司,还是更能带来一丝安全感。对于那些无法进入重要部门却向往大厂的人来说,审核部门是一线希望。

他们的不安体现在社交平台上:“XX 大厂的审核岗怎么样?值不值得去?” 不过如果留意观察,会发现这类帖子下大部分评论都是劝阻的声音。

和审核部门打交道多了,王洹偶尔会看到他们候选人的简历,她瞄到过里面有南京大学硕士研究生,让她一惊。有时候听说很优秀的候选人来面试审核,一些同事会怀着好奇去围观一下。

一次,由于实在太不忍心一位候选人进来做审核,面试结束时,王欢私下加了对方的微信,旁敲侧击地告诉他这份职业的局限。王欢觉得自己只是把岗位的真实情况告诉求职者,而 “真实” 很难从招聘信息里直接得到。

招聘网站上,审核岗位会以各种名目出现,如内容质量管理、风控专员等,不了解互联网公司的求职者难以辨别。郭晋求职前,看到招聘描述里,附有字节跳动公司的免费餐食、宽敞明亮的健身房、为员工提供的免费推拿等,很是向往。但直到入职,他才发现,照片里的良好环境是总公司员工才有的待遇,作为外包工,他所面对的只有一张张大桌子和 “扣扣搜搜” 的简单零食。

2020 年新冠疫情爆发曾带来一段较长的线上内容爆发期,秦崤累得一度想转岗到其它部门,但组长以缺人为由拒绝。2020 年 5 月底加班结束后,走了一大批人,但新的去向要么是其它公司的审核岗,要么是回老家。 

一位组员的离职,对当时作为代组长的仝立君来说是难以承受的压力,因为组内每走一个人,组长个人就会被减一分,即便自己审核稿件的质量和数量再高,也挽回不了这一分为自己这一年的工作带来的影响。

在被许多私信轰炸后,王落北问我们,为什么不能用机器解放人,让年轻人找到一些更有价值的出路?

(除郭晋外,文中受访人均为化名)

官方微博/微信

每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。

↑扫描二维码

想在手机上看科技资讯和科技八卦吗?

想第一时间看独家爆料和深度报道吗?

请关注TechWeb官方微信公众帐号:

1.用手机扫左侧二维码;

2.在添加朋友里,搜索关注TechWeb。

手机游戏更多