内容审核:做好反垃圾策略,有效优化用户体验

现实生活中,走在大街、天桥,随处可见的垃圾,让我们感到厌恶,不仅是对环境的污染,也是对人身心的打击。同样的情况在互联网内容型产品中也会出现,为了维护平台氛围的和谐,我们需要时刻与深恶痛绝的垃圾信息作斗争,要做好内容审核的“反垃圾处理”

我们首先来看一下垃圾信息的定义。所谓的垃圾信息,一般是指涉及黄暴、政治等很明显的违规内容,那些擦边球的内容也可以归为其中。一方面,这些垃圾信息若不及时清理,很有可能被网警警告甚至封网,最终走向灭亡;另一方面,这些信息如果呈现到用户面前,就很有可能会导致用户失去对产品的信任而流失;其次,当产品遭遇恶意攻击时,垃圾信息通常会数量巨大,对服务器来说也是一种负担,性能降低,影响正常服务。

反垃圾策略,实际上就是对网络生产内容进行审核,识别、删除不符合《网络信息内容生态治理规定》的文字、音频、视频等内容。但是,由于在现在的内容审核上,大部分产品的审核通用的是AI+人工审核的方式,审核机制和方式相对简单粗暴,对于“误发敏感内容”的用户而言十分不友好,甚至有推卸责任的“嫌疑”,所以,在做内容审核的时候,一定要注意方法和过程

比较简单粗暴的方式就是利用AI进行监测和删除,但是这依赖于强大的敏感词库与机器学习能力,所以在内容审核的时候,要对自身敏感词库的内容不断优化、补充、升级,不断优化补充新的词汇,例如可尝试补充诗歌词汇、常用词组等过滤机制;同时需要增强机器的语义理解能力,提升对场景识别、上下文识别的能力,从而在根本上减少对敏感词的“误识别”,为人工审核缓解更多压力。

内容审核流程优化用户体验

目前,内容审核的流程主要分两种策略,对于时效性较高的产品,往往采用先发后审的机制;相对应的另一种就是先审后发,通过机器过滤、人工审核流程后再发布出去。但无论是哪种内容审核流程,都会存在敏感词被识别后,机器往往未给用户提供可选择的解决方案,告知用户下一步应该怎么做才是对的,符合要求的,这就导致用户在这个流程中陷入“进退两难”的境地。所以,关键的设计优化思路在于给用户创建新的闭环操作,让用户能够顺畅解决当前面临的问题,如直接告知用户命中的敏感词内容,直观提示用户修改,避免用户陷入疑惑;可在发布前或者发布结果中将敏感词内容替换为可发布内容;发布结果自动针对敏感词进行屏蔽处理,不影响用户正常发布流程;如果内容涉及敏感词,机器识别后可将当前内容进行降权和假写处理,仅用户自己可见,其他用户不可见,随后继续进行人工审核处理;等等。

反垃圾策略是互联网产品内容净化的必要屏障,是给用户呈现健康内容的重要环节。但是在实际的内容审核中,因审核流程简单粗暴,所以,就需要在内容审核的设计与流程方面做出一些改变,进而优化用户体验。

发表评论

电子邮件地址不会被公开。 必填项已用*标注