编辑导语：新媒介环境下，“人人都有麦克风”、“把关人”缺失、不受时空限制的网络传播渠道使得内容可以迅速扩散。这些都给内容安全带来了挑战，内容审核成为内容平台的重中之重。无论内容、形式、平台如何发展变化，传播的5W模式都是通用的，对内容的审核可以围绕着5个要素展开。
1948年，拉斯韦尔提出了传播过程及其五个基本构成要素，即：
- Who：谁——内容的生产者；
- What：内容——生产者说了什么；
- Which-In Which Channel：渠道——内容通过什么渠道传播；
- Whom-To Whom：受众——谁接受到了内容；
- With-With What Effect：效果——内容传播后取得了什么效果。
所有的传播行为都可以围绕这5个要素展开。
所谓内容审核，也不仅仅是对内容本身进行识别，尤其是在目前机器识别无法达到100%的准确、内容数量本身及其庞大的情况下，通过对各个传播要素的“监控”，也是完善机器审核的数据维度、提升审核效率的有效途径。
5W要素应用到内容审核中，分别与以下角色环节相对应：
- Who：生产者是否靠谱？是否是一个“可信”的人？他发布不合规信息的可能性有多大？
- What：内容本身是否是合规的？
- Which：渠道想要做好“把关人”的角色，应该如何开展内容审核 ？
- Whom：受众本身有无异常？受众的行为是否合规（如发布不良评论）？
- With What Effect：传播的情况是否正常？
内容审核目前都是通过机器+人工的方式进行，审核的机制既可以是先发后审也可以是先审后发。
如何选择这些方式和机制、在提升审核效率的同时最大程度地保障内容安全、同时又不影响用户体验，维护三者的平衡，可以围绕上述各要素来进行规划设计。
二、五要素在内容审核中的应用
1）建立对于内容生产者的风险评分
从内容生产者发布第一条内容开始，就对他展开内容识别，基于静态的注册信息、此前的行为信息建立初步的风险情况后，根据其后续发布内容的情况动态实时调整，同时建立黑名单制度。
如：一个内容生产者，此前浏览的内容都是财经、商务类型的，而且绑定了银行卡，则前期的静态评分可以认为他是一个低风险用户。
后续其发布的内容在一段时间内多次触发人工审核机制，则可以提高他的风险等级；随后他发布的内容被用户举报且人工审核确实违反了规则，则可以视情况将其纳入黑名单，限制之后的内容发布行为。
2）建立对于内容生产者的标签体系
针对内容发布者进行画像，可以实现对异常行为的监控。
标签体系可以包括用户的性别、年龄段、常用地理位置、常用设备、发布的内容类型等信息。一旦某些信息发生变化，则需要对其内容进行重点监控，防止异常行为，如用户被盗号后此账户被用来发布不合规内容。
此外也可以设置优秀内容生产者等标签，对此类用户发布的内容免审核或可以先发后审。
2. What：对内容的识别规则和手段建立内容审核的规则，审核的规则大体上来说源于监管的要求和业务的政策。
1）监管的要求
内容不能涉及黄赌毒暴政恐，《网络信息内容生态治理规定》、《网络短视频内容审核标准细则》等也对内容审核提出了详细的要求。
2）业务的政策
为营造社区的良好氛围，保证用户体验，内容不能涉及侵权、谩骂、隐私、低俗、垃圾内容等；为保障平台的正常运营和利益，不能违规发布广告、添加链接等；为社区用户安全考虑，内容不能涉及导流、诈骗等。
3）丰富审核的技术手段
充分利用人工智能等技术手段，实现对文本、图片、声音、视频的自动识别，不断提高机器的召回率和准确率。
4）搭建机器审核和人工审核的流转机制
包括内容在何种情况下触发审核、何种情况下触发人工审核，人工审核是否需要复核等，完善的流程设置对效率的提升大有助益。
3. Which：助力审核人员扮演好“把关人”的角色1）设置有效的任务分配机制
提升分发效率和审核效率，保证需审核视频100%分发，且在最短时间内到达审核人员，同时按照一定的规则给审核人员分配需要审核的视频。
按照触发人工审核的原因来分发，可以使审核人员积累在某一领域的审核经验，提升审核效率。
2）为审核人员提供配套的功能
“工欲善其事必先利其器”，提供审核的辅助功能，助力人工审核提速。
如针对文本的审核对敏感词高亮显示，针对音视频的审核标注关键帧、设置倍速浏览功能，审核的信息通过信息流的方式自动呈现，减少操作点击环节。
4. Whom：通过受众识别违规内容的“蛛丝马迹”1）为受众提供举报功能
一方面可以节约审核资源，另一方面也是对机器和人工审核错误率的一种弥补。
2）建立受众的标签体系
和针对传播者的标签体系一样，对用户的画像除了用于针对用户的内容推荐外，也可以是对内容质量反馈的一个维度。
例如：同一个内容被大量不同标签的用户关注，可能内容本身存在了诱导行为，就需要人工审核予以确认。
3）进行受众聚集情况分析
针对受众的集中情况进行分析，是否过于聚集。
不过此方式多用于直播中刷量行为等的监控，在内容审核中，可以辅助判断内容是否存在诱导、违规广告营销等。
5. With What Effect：通过传播的效果发现内容的异常1）通过观看、点赞、转发、评论数等的监控发现异常行为
传播范围广泛的内容中若存在风险，造成的后果更为严重，因此要对观看、点赞、转发、评论量比较大的内容特别关注。
另外：这些指标的异常也是一个值得关注的风险点，此前点赞数一直不过百的用户新发布的内容突然点赞过万，可能需要对内容进行人工审核。
2）对评论进行内容识别
评论同样是内容审核需要关注的部分，对评论内容的识别。
一方面是监控评论是否有违规行为，另一方面通过关注评论内容中是否存在对内容本身的举报等，来进行内容审核。
三、小结从5W模式入手建立内容审核的体系，是基于传播要素的完整模式。
内容审核的重点还是在对内容本身的识别方面，从提升机器审核的召回率和准确率，到提升人工审核的效率，再到搭建完整的流转机制，从其他要素着手也主要是为优化这三个环节来服务。
当机器能够实现对违规内容的100%精准识别，甚至具备了自我学习的本领，能够自己去拓展发现审核的“要义”，或许其他环节也就不那么必要了。
本文由 @小小晶 原创发布于人人都是产品经理，未经许可，禁止转载
题图来自Pexels，基于 CC0 协议