内容审核员

公司自己公布的数字,因为《数字服务法》要求每半年报告一次 —— 正是这一点让这件事变得可测,也正是为什么这类数字在欧盟的平台上有、而在别处几乎没有。统计期是 2026 年 1 月 1 日至 6 月 30 日,帖文日期是 2026 年 8 月 31 日。它写明的是:约 1.04 亿条内容因违反公司政策被移除,口径覆盖视频、直播、广告、商品列表与评论;以及自动系统处置了 94.1% 的违规内容,没有经过人工复核。三条界限,而第一条决定了这个数字可以怎么用。分母是执行动作,不是工时、也不是人员:一个平台可以几乎全部自动处置,同时仍然雇着很多人 —— 因为人还会看到的那些个案,正是系统判不了的那些,而它们按单件算更慢。帖文没有在这个比率旁边公布审核员人数,所以这里没有任何东西能支撑关于就业的断言,朝哪个方向都不能。而且这是一个平台、一个法域;报告还提到统计期内它在另外八个成员国上线了商店,所以那 1.04 亿条里的内容构成,在这半年里也不是恒定的。

企业已正式投入使用。可以改变基线,但要结合规模与场景相似度加权。

人们说「内容审核」时描述的那份入门工作 —— 清掉一队明显违规的内容 —— 正是在最大的那些平台上自动化率被公布为九成以上的那部分。从那扇门进去,等于从最窄的那扇门进去。没有在变窄的是:需要对语境作判断的那部分、需要一个人把规则写成别人也能执行的样子的那部分,以及为纠正自动系统而存在的那部分。这三样都能从审核工作里够到,而且没有一样是不做审核就够得到的。

你的筹码是:你知道写下来的规则和真实个案在哪里分叉 —— 而那恰好既不在分类器里、也不在规则文档里。两个具体的动作:做那个能产出模型训练所需纠正样本的人;做那个能说清「这个错误结果来自规则还是来自模型」的人。这两件事在公司内部是看得见的,而队列吞吐量不是。

调整职责

挪到写规则的那一侧

执行被自动化之后,判断落在规则那一侧;而规则岗位不成比例地由做过队列的人担任,因为把一条线写得可执行,前提是知道哪些个案会把它撑破。它也是自动化率上升时不会缩小的那部分工作。

调整职责

成为纠正分类器的那个人

一套处置了队列绝大多数内容的系统,需要稳定的纠正样本,也需要一个分得清「规则的问题」与「模型的问题」的人。这个角色因为自动化才存在,而最适合做它的,正是说得出「正确答案本该是什么」的那些人。

保住并强化

留下,并守住一门语言或一个地区

自动检测在不同语言之间是不均衡的,而这种不均衡是结构性的、不是暂时的:训练数据在用户最多的地方。一名在系统处理得不好的语言里充当可靠判断的审核员,守住的正是那部分自动清不掉的队列。

在欧盟运营的最大那几家平台上,这个数字是公布的,因为法律要求。其中一家报告:在截至 2026 年 6 月 30 日的半年里,它移除的约 1.04 亿条内容中,94.1% 由自动系统处置,没有经过人工复核。要看清这个数字数的是什么:它数的是处置动作,不是工时,也不是岗位。它告诉你的是,穿过队列的默认路径已经不再经过一个人。它没有告诉你还雇着多少人 —— 因为同一份报告并没有在旁边公布审核员人数,而且人还会看到的那些个案,正是系统判不了的那些。

我们不用「还有几年」来回答,而在这个职业上理由格外具体:你要看的那样东西,你自己的雇主每半年公布一次。把你所在平台的两份连续的法定透明度报告并排放着看。里面有三个信号,一个都不需要预测 —— 自动处置的占比还在上升还是已经走平;报告有没有按语言拆分、你那门语言在不在里面;以及申诉量是不是在自动化占比上升的同时也在上升,因为这个组合意味着系统清得更多、同时判错得也更多。一条你自己读得出来、而且写在你雇主依法必须公布的文件里的趋势,比任何人给的日期都值钱。

因为那个占比是处置动作的占比,而动作的难度并不均匀。分类器能判的,是它有把握的那些,而那些不成比例地是清楚的个案;剩下的是有争议的、依赖语境的,按单件算更慢。还有两块结构性的东西把人留在环里而不是环旁:对自动决定的申诉 —— 欧洲的法律对最大的那些平台把它设成强制的;以及这套系统自己为了持续工作所需要的纠正样本。这些都不保证人数,这一页也没有这样断言 —— 它解释的是,为什么「很高的自动化率」和「还在招人」并不矛盾。

写规则,不是执行规则。一条规则要先能在两个人手里得出同样的判断,才谈得上在一个模型手里得出一致的判断;而把一个价值判断变成一条能扛住讽刺、被夺回的词、新闻价值和一段战争视频的线,需要一个见过那些会把它撑破的个案的人。把执行自动化,抬高而不是降低了写错它的代价 —— 因为一条不一致的规则现在会以机器的规模产出不一致的结果。老实的附注是:难以自动化不等于用人多,规则岗位的数量远少于队列岗位。