网络内容审核:审核能力决定平台竞争力

近年来,互联网发展日趋稳定,产品进入了百花齐放的时代,企业不遗余力的投入大量人力和资源扩展市场,流量成为了一个产品是否能继续存活的标准。在互联网发展的最初阶段,企业多数靠砸钱福利留住用户,以多种方式鼓励用户参与产品建设。但是现在市场已经趋于稳定,产品功能也趋于完善,那么企业应该靠什么留住用户呢?要靠内容。而内容竞争,实际上就是内容审核能力的比拼,可以说内容审核决定了以内容运营为主的新兴媒体的竞争力,简而言之就是内容审核决定了平台的竞争力。

“内容审核决定了平台的竞争力”,理由解释如下:

(1)我们通常说“要满足用户的需求”,但是,我们怎么满足用户需求呢?我们得先了解用户需求,才能根据用户需求做出一些措施,而且还是正确措施,才能更好地满足用户需求。用户需求是什么?可能是玩得开心,可能是看得满意(有内容、有价值)……互联网以及自媒体的存在,为人们带来了更多的分享和交流,顺畅的交流是保留用户的基础。

如果由于内容审核时,审核人员的错误判断或系统问题而没有通过用户写的东西,或者使其遭受网络暴力,或是推送了低俗暴力内容,则这种体验可能会直接导致用户放弃使用该平台,甚至严重的话,还可能会让爱模仿的青少年们模仿暴力行为,对社会稳定造成影响

(2)用户的行为是自由的,新兴媒体面对海量的信息,但内容的传播是平台可控的。内容审核工作量特别大,虽然不像传统媒体那样一审二审终审,但还是要严格把关,一方面利用机器来审核,用敏感词来过滤不合规的内容,另一方面还需要人工审核

只有人工审核+机器审核结合起来,加强平台内容审核能力,建立良好的产品基调,才能避免有漏网之鱼或滥杀无辜,真的做到“禁止低俗和暴力内容,快速发布高质量内容,大力推荐”,从而可以更好地提升用户留存,也能更好的促进用户活跃,带动流量的稳定增加,并最终提高竞争力,可谓是一举两得。所以,内容审核是最能体现一个平台管理水平的手段,也是提升平台竞争力的最有利手段。

别看内容审核是一件很小的事情,但由于目前多数平台已经进入了稳定发展阶段,接下来的竞争就是内容竞争,即内容审核竞争,优质内容的竞争与内容审核能力的竞争必将成为新兴媒体平台的决定性竞争标准,所以,要重视内容审核,加强内容审核,只有做好了内容审核,严格禁止低俗和暴力内容推广,尽量为大家提供优质内容,才能进一步发展企业和平台,才能使企业和平台在市场竞争中处于有利地位,甚至一跃居上也是可以的。

国家网信办:多款学习教育类APP推送低俗色情内容被处罚,内容审核迫在眉睫

近期,国家网信办持续深入推进2020“清朗”专项行动,联合教育部开展涉未成年人网课平台专项整治,依法严厉打击影响青少年身心健康的违法违规信息和行为。截至目前,全国网信系统累计暂停更新相关版块功能网站99家,会同电信主管部门取消违法网站许可或备案、关闭违法网站13942家;有关网站平台依据用户服务协议关闭各类违法违规账号578万余个。部分典型案例公布如下:

4款学习教育类APP推送低俗色情和与学习无关内容

12KM作文APP“文学原创”栏目存在低俗色情小说内容,“追星”专栏渲染早恋、吸烟等导向不良内容。

出口成章APP部分用户头像、账号名称及简介中包含低俗色情内容。

美术宝APP存在低俗色情帖文和跟帖评论,部分用户头像、账号名称包含色情资源推广有害内容。

万门中学APP推送恋爱、股市等与学习无关内容。

3家网站平台的网课学习栏目推送游戏、直播、影视剧等与学习无关内容

斗鱼直播APP及PC端网页“守护成长”“教育”频道、PP视频APP及PC端网页“小学课堂”“热播好课”栏目、乐视视频APP及PC端网页“优质课程”“中小学”栏目推送网络游戏、美女直播、低俗小说、影视剧等与学习无关内容。

3款青少年常用APP存在涉低俗色情的图文信息、对话体小说

堆糖APP存在低俗色情图片以及诱导未成年人抽烟、谩骂等不良行为的图文内容,部分用户头像、账号名称包含低俗色情内容。

克拉克拉APP和克拉有读APP“群组”版块存在低俗色情内容以及大量涉低俗色情对话体小说。

2家网站平台“动画”“动漫”栏目存在低俗色情内容

半次元、柚次元APP等平台的“漫画”“短漫”“MMD”等栏目、圈子中存在包含低俗色情图文内容的动画、动漫产品,部分圈子、用户名称包含低俗媚俗内容。

2家网站平台发布传播以未成年人为主角的大尺度图片和视频

新浪微博“小熊座的甜甜奶茶”“迎春坊”等账号发布涉未成年人不雅图文、出售“福利资源”、传播疑似未成年人援交招嫖等内容。

百度贴吧“LOLI吧”“CQY吧”等贴吧和账号发布未成年“福利姬”色情信息,借陪玩、陪聊名义售卖未成年人色情自拍、视频等资源。

针对上述网站平台存在的突出问题,国家网信办视违规情节和问题性质,依法分别采取约谈、责令限期整改、停止相关功能、全面下架等处罚措施,坚决打击损害未成年人合法权益和身心健康的违法违规行为。

国家网信办将会同有关部门持续保持高压严管态势,加大巡查监看力度,从严惩处问题严重、屡查屡犯的网站平台并公开曝光,督促平台切实履行主体责任,积极传播青少年课业知识和积极向上的正能量内容。同时,欢迎广大网民、媒体和社会各界积极参与监督举报,共同为未成年人营造健康的网络环境(国家网信办违法和不良信息举报中心网址:www.12377.cn)。

取消疫情期间特别措施YouTube恢复以人手审核内容

今年8月YouTube公布指在过去3个月,超过1,140万条视频因为违反社群守则而被移除,这是自YouTube自2005年推出服务以来,视频下架数量最多的3个月。大量违规视频被移除的原因,与疫情期间员工无法回办公室工作,YouTube需要依赖人工智能作审核有关。

虽然人工智能将大量有问题视频下架,但YouTube也承认部分视频被错误移除。根据金融时报的报道,YouTube将16万条视频下架的决定推翻;以往利用人手作审批,通常少于25%视频能上诉成功,但以人工智能审核,上诉成功比率达五成。疫情虽然还未过去,但外媒指YouTube的员工已经陆续重新上班,取代人工智能审核视频内容,但具体工作安排则未有公布。

文旅部通知:这类活动要加强审核,防止出现淫秽色情等内容

据文化和旅游部网站消息,近日,文化和旅游部发布关于深化“放管服”改革促进演出市场繁荣发展的通知。通知指出,强化重点演出类型监管。对小剧场演出活动,要重点加强脱口秀、相声以及先锋话剧、实验话剧等语言类节目的内容审核和现场监管。

通知明确,加强重点演出题材审核。各级文化和旅游行政部门要重点加强对涉及重大革命和历史题材,涉及党和国家重大决策部署题材,涉及民族和宗教题材,以及涉及英雄烈士题材的演出剧(节)目的内容审核工作,加强与相关部门沟通,严把内容准入关。

此外,强化重点演出类型监管。对音乐节庆类演出活动,要重点对电音类、说唱类节目进行审核把关,加强对演出现场显示屏内容以及互动环节的监督检查。对沉浸式演出活动,要加强演出全流程审核,防止出现宣扬封建迷信、淫秽色情及渲染血腥暴力等内容。对小剧场演出活动,要重点加强脱口秀、相声以及先锋话剧、实验话剧等语言类节目的内容审核和现场监管。对旅游演艺以及在现场音乐厅(LiveHouse)举办的营业性演出活动,要督促相关经营主体依法办理报批手续,确保纳入监管视线。

通知提到,要促进演出市场消费。推进演出票务监管服务平台建设,进一步强化票务信息监管,改善演出市场消费环境。支持举办音乐、戏剧、杂技、舞蹈等演出节(季)、赛事活动,发展具有地方文化特色的旅游演艺项目,推动文化和旅游融合发展。鼓励将优质演出产品和服务供给项目纳入政府资金扶持范围,通过购买服务、发放优惠券等方式,加大扶持力度,促进文化和旅游消费。

通知指出,要规范在线演出管理。以营利为目的,通过互联网为公众实时提供现场文艺表演活动的,应当按照《营业性演出管理条例》等有关规定办理报批手续,并由取得《网络文化经营许可证》的互联网文化单位提供在线传播服务。演出举办单位应当在申报时一并提交在线传播服务单位许可证件、观演网址和应急预案等材料。在线传播服务单位应当安排专人对演出内容、弹幕评论等进行实时审看,发现含有法规禁止内容立即采取删除、屏蔽、断开链接等必要措施并保留视频资料至少60日以上备查。通过个人直播频道提供的网络表演,按照《网络表演经营活动管理办法》进行管理。

通知还提到,要明确新业态监管规则。以营利为目的,在剧院等演出场所为公众提供现场文艺表演视频播放或在线观看服务的,应当按照《营业性演出管理条例》等有关规定办理报批手续;其中,对已经批复的营业性演出活动不再重复审批,实行事前备案管理。运用全息成像、人工智能、数字视觉设计、虚拟现实等技术展示虚拟形象进行营业性演出的,应当按照《营业性演出管理条例》等有关规定办理报批手续。

来源:中国新闻网

银川治理直播乱象 今后主播持证上岗直播内容要审核

9月17日,记者从银川市网络安全宣传周法治宣传新闻发布会上了解到,近期,针对网民反映强烈的网络直播“打赏”、吃播、低俗表演等严重冲击主流价值观突出问题,银川市委网信办、“扫黄打非”办等部门将联合开展网络直播行业专项整治和规范管理行动。

根据国家新闻出版广电总局相关要求,该市将从强化法律监管、提高行业准入门槛、组织主播进行学习等方面治理直播乱象。目前,银川市正在规范相关工作,今后将要求网络主播持证上岗、实名认证,要求直播报备,银川市委网信办将对直播主播、内容等进行审核。同时,该市将组织主播进行道德规范、法律法规学习,宣传引导主播自觉遵守道德规范和平台规则,营造良好直播环境。

谷歌收紧内部留言板规则:加强内容审核

据报道,谷歌内部文件显示,由于员工的讨论越来越激烈,因此该公司要求更加积极地审核内部留言板的内容。

谷歌内部社区管理团队表示,其内部留言板上被标记为种族主义和辱骂性信息的内容越来越多。该团队认为,这是因为员工在家工作期间分享了更多信息,以及“艰难的全球对话”增加所致。

因此,该公司从2019年开始扩大内容审核试点,共覆盖多个平台的超过75个讨论组,还要求多数讨论组的负责人扮演审核员的角色,并完成审核培训。此外还要制定章程来定义小组目的,在保证内容符合章程的情况下确保小组对话的包容性。

来源:钛媒体

内容审核:做好反垃圾策略,有效优化用户体验

现实生活中,走在大街、天桥,随处可见的垃圾,让我们感到厌恶,不仅是对环境的污染,也是对人身心的打击。同样的情况在互联网内容型产品中也会出现,为了维护平台氛围的和谐,我们需要时刻与深恶痛绝的垃圾信息作斗争,要做好内容审核的“反垃圾处理”

我们首先来看一下垃圾信息的定义。所谓的垃圾信息,一般是指涉及黄暴、政治等很明显的违规内容,那些擦边球的内容也可以归为其中。一方面,这些垃圾信息若不及时清理,很有可能被网警警告甚至封网,最终走向灭亡;另一方面,这些信息如果呈现到用户面前,就很有可能会导致用户失去对产品的信任而流失;其次,当产品遭遇恶意攻击时,垃圾信息通常会数量巨大,对服务器来说也是一种负担,性能降低,影响正常服务。

反垃圾策略,实际上就是对网络生产内容进行审核,识别、删除不符合《网络信息内容生态治理规定》的文字、音频、视频等内容。但是,由于在现在的内容审核上,大部分产品的审核通用的是AI+人工审核的方式,审核机制和方式相对简单粗暴,对于“误发敏感内容”的用户而言十分不友好,甚至有推卸责任的“嫌疑”,所以,在做内容审核的时候,一定要注意方法和过程

比较简单粗暴的方式就是利用AI进行监测和删除,但是这依赖于强大的敏感词库与机器学习能力,所以在内容审核的时候,要对自身敏感词库的内容不断优化、补充、升级,不断优化补充新的词汇,例如可尝试补充诗歌词汇、常用词组等过滤机制;同时需要增强机器的语义理解能力,提升对场景识别、上下文识别的能力,从而在根本上减少对敏感词的“误识别”,为人工审核缓解更多压力。

内容审核流程优化用户体验

目前,内容审核的流程主要分两种策略,对于时效性较高的产品,往往采用先发后审的机制;相对应的另一种就是先审后发,通过机器过滤、人工审核流程后再发布出去。但无论是哪种内容审核流程,都会存在敏感词被识别后,机器往往未给用户提供可选择的解决方案,告知用户下一步应该怎么做才是对的,符合要求的,这就导致用户在这个流程中陷入“进退两难”的境地。所以,关键的设计优化思路在于给用户创建新的闭环操作,让用户能够顺畅解决当前面临的问题,如直接告知用户命中的敏感词内容,直观提示用户修改,避免用户陷入疑惑;可在发布前或者发布结果中将敏感词内容替换为可发布内容;发布结果自动针对敏感词进行屏蔽处理,不影响用户正常发布流程;如果内容涉及敏感词,机器识别后可将当前内容进行降权和假写处理,仅用户自己可见,其他用户不可见,随后继续进行人工审核处理;等等。

反垃圾策略是互联网产品内容净化的必要屏障,是给用户呈现健康内容的重要环节。但是在实际的内容审核中,因审核流程简单粗暴,所以,就需要在内容审核的设计与流程方面做出一些改变,进而优化用户体验。

媚俗表演、大胃王吃播,不能为赚流量破坏短视频生态

短视频行业发展迅速,广受喜爱。据第四十五次《中国互联网络发展状况统计报告》显示,截至今年3月,我国短视频用户规模为7.73亿,占网民整体数量的85.6%。受众群体广、影响范围大、用户黏性强,短视频成为新的传播风口,持续收获流量热度。

图源网络

人气骤升的同时,也出现一些问题。日前,抖音、快手等多家短视频平台,对以假吃、催吐等方式赚流量的吃播行为进行删除作品、关停直播等处罚,引发人们对当下短视频生态的关注和思考。有的视频平台为炒热度、博关注,以媚俗表演为噱头,频频打“擦边球”;有的视频主播为赚流量、得点赞,上演暴饮暴食的吃播“奇观”……凡此种种,对短视频生态造成破坏,给广大用户尤其是青少年用户带来负面影响。

无论技术条件、市场环境如何改变,传播真善美,信守公序良俗,坚守法律、道德底线,都是短视频制作的基本要求,是生产者和平台方共同的职责。纵观位处头部的短视频平台和广受欢迎的主播网红,其得以长久活跃、为人喜爱,一个重要因素,是他们坚持传递积极、健康、乐观的内容,努力将“有意思”和“有意义”结合,借助有创意的艺术风格,形成广泛传播。

对于更广大的短视频生产者和用户来说,短视频的魅力除了操作容易、短小精炼、趣味性浓、交互性强等特点,最关键的是可以通过鲜活的形式、广阔的视角,展现人们各自多彩的生活:农民展示自己耕耘的收获、健身达人用视频记录充实、自律的一天……娱乐、分享也好,科普、带货也罢,短视频的要义是同时运用好镜头、配乐和剪辑,展现真实健康的生活,传递积极向上的信息。

除了内容生产者和平台方切实增强主体责任,从源头上杜绝低俗恶俗甚至违法违纪的内容生产,还要充分发挥他律的作用。近年来,从开展“清源”“净网”“护苗”等专项行动,到明确平台资质要求、建立“违法违规上传账户名单库”、推进账户实名制管理等政策规定出台,一系列举措及时整治短视频行业乱象,为短视频行业健康发展提供有力保障。

以积极健康的内容,充分传递主流价值,短视频大有可为。如今电子商务方兴未艾,用短视频形式介绍地方特产,传播老字号文化,助农兴商,有力纾解商品销路问题,成为脱贫攻坚的有力帮手。线下聚集不便,打造知识分享云空间,将线上演讲的精华内容,精编成一部部短视频,让更多的人足不出户就可以收获知识的启迪……丰富多样的短视频产品,扩大了我们的生活视野,提升了我们的生活品质,塑造了我们更具“网感”的生活体验。

充分发挥独特优势,以正能量为价值底色,短视频成为凝心聚气的重要抓手。去年,新中国成立70周年之际,诸多精彩阅兵短视频“刷爆”朋友圈。精彩利落的剪辑、激昂雄浑的配乐、整齐一致的步伐,一个个“爆款”短视频让人看后不禁壮怀激荡,由衷生出强烈的民族自豪感。今年,各地遭遇洪涝灾害,短视频记录下人民解放军指战员、武警官兵、公安干警、消防救援队伍指战员、广大干部群众全力救灾的片段,人们从中看到真实的现场、真切的细节,更能从一行行的鼓劲留言、数以万计的网友点赞中,感受到全国人民齐心协力、众志成城的坚定信念。这样的短视频,洋溢着满满的正能量,激励人心。

当下,5G、人工智能、大数据等新技术推广应用,网民数量持续攀升,短视频发展前景广阔。当此之时,更需要我们以积极健康内容赋能短视频,以主流价值引导行业发展,凝聚更广的社会共识,创造更大的社会价值,惠及更多百姓的幸福生活。

留下美好生活“小确幸”视频审核不能一刀切

8月12日,央视新闻援引联合国粮农组织统计,称全球每年有三分之一的粮食被损耗和浪费。8月14日,中国演出行业协会相关负责人表示,针对餐饮浪费现象,网络表演(直播)分会日前发文,提示各会员企业进一步加强直播内容管理,坚决禁止在直播中出现假吃、催吐、猎奇、宣扬量大多吃、暴饮暴食,以及其他铺张浪费的直播行为。

一夜之间,各大平台都高度警惕吃播视频。据多家媒体报道,抖音快手回应称,宣扬量大多吃可直接封号,斗鱼方面则表示将加强美食类直播内容审核。

尽管央视新闻以及各个餐饮协会批评的对象十分明确,即“餐饮浪费”“猎奇”“宣扬量大多吃”“暴饮暴食”人群,但是这些初衷本是好意的想法,到了各个平台的执行层面,呈现的结果却成了最大限度节省审核精力的“一刀切”。

一个明显的事实是,标题带有“吃播”和“大胃王”词语的视频一夜之间全部消失,“吃播”和“大胃王”甚至成为短视频标题里绝对不能出现的“禁词”。无论是B站还是抖音,如今在搜索框内输入“吃播”和“大胃王”,都不会出现任何个人视频。

此外,在社交平台上越来越多的网友开始对“吃播”博主的“吃播”行为进行攻击。

我们或许需要清楚一件事情,在职业多样化,甚至视频行业一种职业千种玩法的当下,“吃播”群体从来不完全是“大胃王”。而标题带有“大胃王”三个字的视频,也不全部都是猎奇、浪费和暴饮暴食。

首先,“吃播”群体包含展示做菜同时展示吃饭的美食博主,“吃播”群体也包含以展示宠物吃饭为主的萌宠类博主,甚至包含主要展示ASMR(自发性知觉经络反应)的技术流博主,这些同为“吃播”的博主,距离“浪费”“猎奇”“暴饮暴食”的“大胃王”本身就是截然不同的人群,拥有毫不相似的受众。甚至这几个类型的“吃播”人群加起来,数量可能要远远超过通过“暴饮暴食”吸睛的“大胃王”。

但是视频平台为了方便,直接将“吃播”“大胃王”两个词屏蔽,这便意味着过去所有“吃播”人群为了自己视频能让平台搜索出来,都会避免“吃播”两个字出现在标题内,或者在使用创意标题时,不会再使用“大胃王”三个字。

此外,浪费的从来不是“大胃王”三个字,也不是“吃播”全部群体。享用美食,对美食渴望是人本能的一种。许多“吃播”曾通过食物,跨越不同文化,不同地域,吸引粉丝对形色各异的美食产生兴趣,进而了解美食背后的文化传承。如日本某位知名“吃播”,就曾通过吃中国的螺蛳粉,向不同国家的粉丝介绍中国食物;而国内同样有“吃播”通过亲自试吃鲱鱼罐头,向大家科普瑞典食用鲱鱼的传统。因此,平台偷懒通过屏蔽词汇,间接导致整个“吃播”群体和暴饮暴食的“大胃王”关联,甚至有被污名化的倾向。

“珍惜粮食,拒绝浪费”是好事,禁止视频中出现宣扬暴饮暴食、猎奇的内容也是好事,但是应该平台好好担起责任,执行自己审核能力的时候,却直接放弃思考干脆“一刀切”。这不是一个通过“后浪”视频宣扬内容多样化的平台该做的事情,也不是喊出“记录美好生活”的平台该有的行为。

来源:消费日报网