对于资讯类产品和内容内产品来说，内容审核是必不可少的环节之一。用户发布的内容不受平台控制，而部分内容会给平台造成风险，审核是阻断内容风险的主要方式。

“目前市面上的内容平台主要是采用机审与人工审核相结合的方式，很少有只有单一审核的方式。” 数美科技高级产品经理晓阳告诉记者。

晓阳说，最早出现的审核模式就是人工审核，但人工审核有三个明显的缺点：监管理解有难度、成本高、时效性差。

“大量腰部的中小型企业往往团队规模比较小，成立年限比较短而且集中投入在产品上，没有精力投入到合规研究中。所以在舆情关注以及对新规的理解层面，光靠一个经验丰富的人来审核是不行的，需要组建一支类似这样的人工审核团队，但是这种操作难度较大，一般只有大厂才会有这个能力与资源储备。其次，人工审核在处理音视频的时候内容有多长，审核就要多久，甚至更久。这就会产生更多的衍生问题，比如固定的单人审核能效必将导致更加庞大的审核团队，又或是等待审核时长过长导致的用户流失。因此这既是效率问题，也是用户体验问题，但最终都会回到成本问题。”晓阳说。

2019年1月9日，中国网络视听节目服务协会发布了《网络短视频平台管理规范》和《网络短视频内容审核标准细则》。其中规定，短视频平台发布的节目、评论、弹幕等内容，必须先审后发；并且详细列出了二十大类，100小条的禁止内容。2022年3月2日，国家网信办就《互联网弹窗信息推送服务管理规定（征求意见稿）》公开征求意见。其中拟规定，配备与服务规模相适应的人工力量，健全弹窗信息推送内容管理规范，完善信息筛选、编辑、推送等工作流程，确保弹窗信息推送必须经过人工审核。

审核新规落地，也就意味着互联网平台审核需要更细、范围更广，扩充审核队伍成了各大互联网公司的迫切需求。

资料显示，2020年B站内容筛选团队约有2400名员工；小红书审核员工有1000多人；字节跳动的内容审核员更是超过2万人。

根据某UGC（用户原创内容）平台曾对外公布的武汉审核员的公开招聘信息显示，审核专员月薪在4000—6000元。按照8%公积金缴纳比例测算，用工成本在5344元—8016元之间。

粗略计算，该平台内容审核团队一年的用工成本或在1.53亿元—2.31亿元之间。

不过，晓阳进一步告诉记者，就算监管与成本方面可以通过投入大量的人力以及预算来解决，但时效性差的问题是无法用金钱来解决的。

他以应对舆情的能力为例，当平台发现某种严格管控的风险内容，不仅要处理当下的新发信息，也要同时检查所有的数千万甚至数亿条历史存量信息。想要短时间内完成历史存量的筛查，这是人工审核绝不可能完成的。

所以，在风险和用户体验双重重压之下，仅依赖人工审核是不现实的，使用机器辅助人工审核才是最优的选择。

那么，在人工智能飞速发展的当下，为什么还需要这么多内容审核员？用AI技术难道不行吗？

对此，晓阳表示，实际上现阶段机审还有几个无法逾越的鸿沟，比如目前的模型没有办法取代人，它不具备人的深度思考能力、联想能力、联系上下文能力等等。再比如机器在某些审核标准上很难把控，因为机器不具备主观性，像是无法理解软色情/色情/暧昧色情的定义和区别，这就需要人的介入。

“就目前而言，AI技术并不能完全替代人工审核，平台还是需要借助人的经验和判断来筛选内容。”晓阳说，AI只能起到辅助作用，其重点主要是进行初筛，对明显违规的问题内容第一时间进行“删除”，同时通过数据比对、对侵权的内容（图文、视频特别是被剪短的影视剧）进行有效遏制。大量内容中的隐藏问题，常人尚且未必能秒懂，何况人工智能。

一些平台的内容创作者，手法、技巧都更上一层楼，比如将中心思想隐喻在历史故事、将敏感信息加密等，机器很难识别到，二是这些平台的影响范围广，稍有不慎就会让舆论偏向，所以大平台的内容安全审核工作都需要人的协作。

《哈佛商业评论》做过一项涉及1500家企业的研究，结果显示，当人类和机器一起工作时，企业受益最大，调查同时指出，人类有某些特征，机器无法承担，反之亦然。一个简单的例子是，一个人开玩笑讽刺某个人，我们轻易就能搞懂，但机器很难理解，而分析海量的数据对机器来说很容易，对人类来说几乎是不可能。

“人工智能主要依赖的算法是深度学习的方法，只能从数据来学习，而人类除了归纳学习之外，还可以演绎推理，机器并不具备该能力。因此在很多情况下内容审核必须要依靠人工来完成审核。”晓阳说。

值得一提的是，目前一些低端、重复的审核工作或许很快会被AI技术所取代。2019年7月，今日头条宣布正式推出新版“灵犬”反低俗助手；2020年9月，小红书在“啄木鸟”计划中，就加入了“多维度算法模型”的审核模式；快手也早将AI技术运用进了内容审核中；阿里巴巴则是基于视觉分析技术和深度识别技术从而大幅度降低人工审核成本；2021年9月，数美科技推出了三级风险内容标签体系，下设1000多个细化标签并建立纠错机制。

“各大厂商在机审层面引入AI技术也是为了尽可能精准识别风险，而人机结合的交接部分——人工审核平台的设计也是非常重要的课题，它兼具重大的商业意义和社会意义。”晓阳说。“现在的人工智能审核技术，仍然处于一个高速发展的时期。如果说AI机审完全能够代替人工审核，我认为在现在这个阶段很难做到，但是用人工智能技术解放人力，还有着十分广阔的想象空间，值得数美乃至全球AI企业为之不懈努力。”

责任编辑：kj005