2.3.1　审核模块：机审与人审

大部分短视频社区的审核模块都采取先机器审核后人工审核的双层设置，只有在机器审核和人工审核都不通过的情况下才会进行相应的违规处理，审核模块流程如图2-7所示。

我们按照流程图顺序，分步骤详细讲解审核模块的流程。

（1）视频来源

对于短视频社区来说，其内容来源通常有以下几种途径：用户上传自己制作的UGC内容、爬虫抓取的其他渠道的优质内容、版权购买的PGC内容三类。

图2-7　审核模块流程图

越是成熟的短视频社区平台，由于搭建起了完善的内容社区生态与用户心智，其内容来源里UGC占比就越高，越需要加强审核力度；而对于新兴的短视频社区平台，由于用户量少，其内容来源大部分是依靠爬虫抓取的其他渠道的优质内容，虽然面临着版权风险，但是由于其他平台的内容都是已经审核通过才会在市场上流通的，反而不需要过度依靠自身平台的审核能力；而版权购买的PGC内容审核本就不需要过度依赖于平台，这些内容本身出版之前就已经通过了政府和出版机构的审核。

（2）机器审核

机器审核这一环节过滤了大量的劣质内容，通过提前设置好的规则模型或者智能算法，拆解了内容的四种模态，包括文本、图片、音频、视频。

□文本部分，通过设置敏感词/违规词规则，解析视频内容的标题与简介，遇到不符合要求的则不予通过；

□图片部分，通过图像识别等CV（Computer Vision，计算机视觉）技术，将待审图片匹配违规图片素材库，解析图片上的文字、符号、图形，违规图片不予通过；

□音频部分，通过抽取内容图像的音频，并将声音降维成文字，进而匹配违规语料库，违规音频不予通过；

□视频部分，通过抽取视频中的画面与关键帧（例如15s的短视频每隔5s抽取一帧），将视频降维成图片，违规视频不予通过。

以上是从内容的四种模态考虑机器审核维度，而大部分机器审核更多的是要抵制低质量灌水内容、低俗辱骂内容、恶意推广内容、政治敏感内容、暴恐违禁内容、色情暴力内容等，这里面审核效率的提升，与平台的违规素材库密切相关，一般认为对审核越重视、UGC内容越丰富的平台，其违规素材库越全面、审核规则越细致，相应的审核效率也越高；而机器审核未通过的内容，会进行高亮标记后继续进行二道审核——人工审核。

（3）人工审核

人工审核主要针对机器未通过的违规视频内容用人力进行抽查，通常不会对机器审核未通过的每条内容都进行人工审核，而是会基于当前审核策略的考量，不同时间段有不同的侧重点，例如对于头部创作者的视频内容，万一机器审核未通过，人工审核会重点对待，并会联系创作者进行对应改进；对于某一阶段平台想重点扶持的内容类目，人工审核也会适当予以放松，通过软性规则来判断内容是否能够在社区内流通。

人工审核通常会重点关注内容标题、内容作者、封面图像、视频关键帧等因素，甚至会完整地看完整个视频，进而做出通过与否的判断。

人工审核占据了大量的人力物力，理论上来说随着机器审核的逐步成熟与完善，人工审核的比重应该逐渐降低，应该将人力抽出来进行内容方向的引导和运营。

如果某内容机器审核和人工审核都未通过，那么接下来就需要进行违规处理了。

（4）违规处理

违规处理分为不同的限制等级，由轻到重可分为禁止上热门、给视频降权、仅粉丝可见、仅自己可见、删除/封禁视频五种限制等级。

□禁止上热门：视频还是能够正常分发，但无论视频播放量多大，都不允许该视频上热门榜单；

□给视频降权：视频只能在小范围内分发，甚至低于正常给新视频分配的流量池曝光；

□仅粉丝可见：视频只能被自己的粉丝看见，不会曝光给任何一名非粉丝新用户，目的是限制账号涨粉；

□仅自己可见：视频只能被自己看见，基本上这个视频就不在社区内流通了，只能在个人空间内看见该视频；

□删除/封禁视频：属于最严重的视频内容违规处理方式，直接导致视频内容不会存在于社区平台内。

这里需要注意的是，违规处理非常依赖于一套完整的处理细则，并需要根据这些细则来判断违规处理结果的等级，这是为了规避审核人员主观判断的影响，塑造更公平的内容审核环境。

（5）视频正常分发

某条视频内容经过层层考验后，在这个环节算是可以正常分发了，但是这时往往会做一步视频内容去重的操作，平台基于对创作者利益的保护，对重复视频不予分发；但重复视频的判断规则比较复杂，例如有可能是标题重复但内容不重复，或者是内容某一帧重复但其他帧不重复，故平台也会基于扩大内容供给量的考量，将视频去重放在最后的步骤做。