谁在信息上线前把关审核：出问题时，每种方案真正要付出的代价

一个靠比价解决不了的问题

网站上线后的某个阶段，几乎每一位分类信息网站的运营者都会撞上同一堵墙：新增信息的速度已经超过一个人在信息上线前逐条审核的极限，团队必须拿出一个真正管用的答案，谁来审核、审核什么、速度要多快。多数人的第一反应，是去找一个价格、一个供应商、一个能让问题消失的方案。可这个反应几乎立刻撞上另一堵墙，因为外包审核服务商公开的报价，对做真实预算几乎没有参考价值。各家供应商在营销页面上给出的费率，从一篇博客文章到另一篇能相差一个数量级，他们也很少说清楚一次审核判断到底包含哪些工作，行业里反复被引用的少数几个数字，追根溯源大多来自同一小撮自我发布的资料互相转述，而不是任何独立的基准测算。按这些数字做预算的运营者，其实是在按猜测做预算。

这不代表这个决定无法判断，只是判断的方式要换一种：不是去找一个价格上更划算的选项，而是理解哪种架构真正适合网站的实际信息量和风险水平，以及每种方案会在账单之外付出什么代价。内部人工审核、外包人工审核、AI优先过滤这三种方案，失败的地方各不相同，清楚每一种会在哪里出问题，比任何销售电话里报出的单条审核价格都更有价值。

这一点对分类信息网站尤其重要，因为这里的内容并非中性材料。一张图片、一个标题，或者一段可用时间的说明，既可能是完全合规的广告，也可能是必须下架、在某些情况下还要举报而非直接删除的信息。审核太慢，会让有问题的信息留在线上；审核太严，又会毁掉正规广告主对网站的信任。这两种失误都会造成实际损失，而这些损失都不会出现在供应商的演示里。

三种审核架构，为什么会以不同方式失败

纯AI优先过滤，也就是用自动分类模型给每条信息打分，再根据分数自动通过或自动拒绝，是大批量运行时成本最低、通过一条干净信息速度最快的方案。它的软肋是语境。一个训练用来抓明显违规内容的分类模型，确实擅长抓明显违规内容，但面对任何依赖它从未见过的语境的情况就相对薄弱：一句话脱离语境看像是违规，放进实际信息里却完全没问题，或者反过来，一条信息躲过了所有关键词过滤，却以没有任何过滤规则能捕捉到的方式违反了网站的实际政策。只用AI审核的运营者，往往要等到广告主公开投诉自己被误判拒绝，或者某条本不该上线的信息已经上线之后，才会发现这两种失误。

纯人工审核，不论是内部团队还是外包团队，是单条判断准确率最高、但扩展能力最差的方案。人工审核员能捕捉到分类模型漏掉的语境，但一名审核员一小时内能保质保量做出的判断数量是固定的，不管队列增长得多急，这个数字都不会变。一次流量高峰、一场效果超预期的推广、一波季节性高峰，都能在几天内把原本跟得上节奏的审核队列变成积压，而信息审核的积压从来不是中性的等待：要么是为了清空队列而让信息未经审核就上线，要么是正规广告主等得够久之后，带着他们的信息和钱转去了别处。

混合模式，也就是先由自动系统完成第一轮筛查，把没有争议的信息直接放行，再把没把握的信息转给人工处理，是几乎所有真正做到一定规模的平台实际采用的方案，原因很直接：这是唯一一种结构，能让机器的速度和人工的判断力互相弥补对方的短板，而不是让两者的短板同时暴露出来。这里真正重要的设计决定，不是要不要用混合模式（几乎所有人都应该用），而是置信度阈值定在哪里。定得太低，AI几乎把所有信息都转给人工，重新制造出混合模式本该解决的积压问题；定得太高，AI就在悄悄自动通过或自动拒绝一些人工本会给出不同判断的信息，而且没人会发现，直到其中一条信息真的出了问题。

账单上看不到的那部分成本

不管是谁在做人工审核，内部员工还是外包团队，他们看到的都是网站收到的最糟糕的材料，而且往往是第一个看到的人：那些被标记、被申诉、被升级处理的信息，恰恰是因为其中的内容令人不安到需要再看一眼。把这种接触糟糕内容的暴露，当成一项谁来做都无所谓的普通数据录入工作，不仅是对团队不厚道的管理方式，也是一个已经被证实的法律风险来源，而这份证实来自一个规模大得多的平台，它已经试过另一种做法，并为此付出了代价。

2020年5月，Meta同意在Scola诉Facebook一案中支付5200万美元和解金。原告是一名前内容审核员，她在工作中持续接触令人不安的图文材料，由此患上了创伤后应激障碍。这项和解覆盖了2015年9月至2020年8月期间，在加利福尼亚州、亚利桑那州、得克萨斯州或佛罗里达州为Facebook的一家承包商工作过的审核员：每一位符合条件的审核员都能获得一笔保证赔付，被诊断出创伤后应激障碍或相关病症的审核员，还可以额外获得最高5万美元的赔付，此外公司还承诺持续为从事这项工作的审核员提供心理健康咨询。这起案件的争议点不是Facebook的审核政策本身有问题，而是执行这项政策时的工作条件，在很长时间里都被当成别人的问题，直到有人不得不为此负责。

小型分类信息网站显然不是在按Facebook的规模组建审核团队，这也不代表外包这项工作或为此招人本身是个错误。它的意思是，造成上述风险的那些做法，不轮换处理最糟糕内容的人、不限制一次审核令人不安材料的时长、不把支持渠道设计进工作流程而只是事后随口一提，对一个两人的小审核团队和一个一万五千人的大团队来说，同样容易发生。补救的成本远低于出问题的成本：轮换谁来处理被升级的内容，而不是长期固定交给手速最快的那个人；给单次审核设一个真实的时长上限，到点就必须休息；确保做这项工作的人在第一天上岗之前，就清楚自己会看到什么样的材料，以及一旦受到影响该找谁。

供应商合同必须写清楚什么，报价单永远不会告诉你

既然公开的单条报价和月费都不足以支撑预算，唯一值得信任的数字，是运营者亲自测出来的那个：一次试运行，拿网站自己的信息、在真实信息量下进行，对照网站自己设定的处理时限，而不是供应商的演示视频，也不是某个不相关行业里的参考客户案例。如果供应商更愿意先报价、后展示效果，以至于试运行根本没法用真实信息去计时，那这样的试运行不值得做。

不管价格如何，合同里必须写清楚的是供应商默认会含糊带过的那些运营细节：哪些语言由母语或流利水平的审核员覆盖，而不是靠机器翻译；实际的响应时限是拿什么衡量的，不是“通常当天处理”这种说法，而是一个写明的小时数；审核员在工作中看到的身份证件和照片，后续会怎么处理，谁有权限接触，保存多久；以及广告主对拒绝结果提出异议时，申诉流程是什么样的。一家在签合同前不能就这四点给出书面答复的供应商，不管销售资料上的报价写得多漂亮，都算不上一个运营者真正评估过的供应商。

另一条值得坚持写进合同的条款是退出机制：合同期限要短到，或者解约条件要松到，哪怕第一个季度表现不佳，换供应商也不用等满一整年为糟糕的服务继续付钱。抗拒这条条款的供应商，某种程度上已经透露出他们对自己路演材料上那些数字有多少底气。

在找供应商之前，先把审核流程搭起来

真正管用的顺序，是在联系任何供应商之前就开始的。第一步是先写出判断标准：一份简短的文件，不是法律文书，清楚说明什么情况自动通过、什么情况自动拒绝、什么情况转交人工判断，并且直接对应网站自己的服务条款，而不是每次都留给审核员个人临场判断。没有这份文件，不管是内部审核员还是外包审核员，都是在一条一条信息里现场发明标准，同一条信息交给两名审核员，判断结果很可能不一样，一旦某位广告主和另一位对比了处理结果，这种不一致马上就会显现为执行标准不统一。

从第一天起就把每一次审核决定记录下来，哪怕只是一张表格：审核了什么、判断结果是什么、什么时间做的判断。这不是额外发明出来的工作，它其实就是欧盟通知删除规则已经要求运营者保留的记录，适用于任何被标记为违法内容的信息；在这项要求真正成为合规义务之前就养成这个习惯，意味着等它成为义务的那一天，这套记录早已经在正常运转。

先从内部审核做起，哪怕最终计划是外包出去。让一位创始人或一名专职招聘来的审核员，亲手处理一个月的全部判断，由此得到的信息量和复杂度数字，才是真正值得拿来做预算的数字，因为它们来自网站自己的真实信息，而不是供应商对“典型客户”的估算。这一个月还会暴露出边缘案例，那些真正难以判断的信息类型、那些反复需要再看一眼的措辞，而这些正是书面标准在交给更大的团队或外部供应商统一执行之前，必须先考虑到的东西。

只有先建立起这个基准，和供应商的对话才会给出有用的答案，因为这时候手上有一个真实的数字可以用来衡量试运行的表现，有一份真实的边缘案例清单可以用来测试供应商，也有一个真实的依据可以判断供应商报出的价格，到底反映的是这份工作真正需要的投入，还是仅仅是供应商认为市场能接受的数字。在打好这个基础之前就去找审核供应商，不管报价单上的数字看起来多有把握，本质上都是蒙眼采购。