三层判定法:画面事实、语境意图、平台尺度
把一次判定拆成三步记录,争议可回溯到具体层级,而不是「我觉得」。
内容审核 · 资料档案柜
这里把「鉴黄师」当作一份需要标准、需要留痕、需要复核的审核岗位来整理:涉黄与擦边的判定尺度怎么划,一条素材从进入队列到出结论要过几道关,误判之后怎么申诉与复盘。资料按年份与分类收进抽屉,展开即可逐条阅读。
同一张图,甲审核员判通过、乙审核员判拦截,是审核团队最常见的争议来源。三层判定法把判断拆成「画面事实—语境意图—平台尺度」三步:先只描述看得到的元素(裸露部位、遮挡程度、人物姿态、文字水印),再判断该画面在具体语境中是否以性吸引为主要目的,最后对照本平台公开的尺度条款给出结论。实践中最容易出错的是跳过第一步直接下结论,导致两个人在不同层上争论。本文给出三层判定法的记录模板,以及把争议样本沉淀成内部案例库的做法:每周抽 30 条边界样本集体标注,标注分歧超过两成的条目升级为条款修订候选。这样一来,判定尺度就不再依赖某个人的经验,而是可以追溯到具体条款与具体案例。
把一次判定拆成三步记录,争议可回溯到具体层级,而不是「我觉得」。
并非只有暴露才算问题,姿态、镜头语言和文字暗示同样进入评分。
图像审核有工具辅助,文字与语音往往靠人读人听,标准要更细。
用同一批样本让不同审核员盲标,是成本最低的尺度校准方式。
「低俗」「不雅」这类词对审核员帮助有限,需要落到可见可听的描述。
申诉成功不等于审核员做错,但一定是条款或示例不够清楚。
整理历史修订,能解释为什么老审核员的经验有时会「过时」。
直播没有「先审后发」,判定必须与证据留存同步进行。
逐条删评论成本高且效果有限,账号维度的处置更有效。
机器初筛先过一遍,人工只处理灰区与申诉件,队列才能跑得动。
长期接触高风险内容会带来注意力下降,直接影响判定质量。
先看案例、再盲标、最后带标,比直接扔进队列更稳。
没有留痕的判定,在复核和监管面前等于没有发生。
模型擅长召回,人擅长解释;分工错位就会两头都累。
三个指标要一起看,单看任何一个都会得出错误结论。
很多违规素材靠裁切和加字规避初筛,识别特征值得单列。
人体绘画、医学教学素材是误判高发区,关键在说明用途与来源。
同一张图在新闻配图与私域引流中出现,性质完全不同。
复盘会的产出应该是条款与示例,而不是谁被批评。
案例库的价值在于被引用,所以要能按条款和分类检索。
「看起来像成年人」不能作为放宽理由,这是最不能含糊的一条。
涉黄内容常伴随私域引流,单条删除治标不治本。
审核权限越大,越需要限制范围和留访问记录。
保全是为了复核与合规,不是为了无限期囤积素材。
四段式通知结构:指出问题、引用条款、说明处置、给出申诉路径。
把高频遗漏点做成清单,比反复培训更有效。
术语混乱会直接造成沟通成本与判定偏差。
介于明确通过和明确拦截之间、需要人工判断的素材。灰区比例过高说明条款或模型需要调整。
多名审核员对同一批样本给出相同结论的比例,是衡量尺度稳定度的核心指标。
复核后推翻原结论。改判不等于原审核员失误,需区分条款问题与执行问题。
模型找出的违规素材占实际违规素材的比例。召回高但精确率低时,人工负担会加重。
素材之外的标题、话题、账号历史与发布场景,是判定意图的重要依据。
判定过程的可追溯记录,包括条款、结论、证据与复核人。