短视频内容审核:平台展示“萌宠”,非法交易野生动物

近日,国内野生动物保护组织美境自然(BRC)发布《短视频社交媒体上的野生动物贸易》,以11种保护野生动物为对象,在各种短视频平台上对相关内容进行了为期一个月的调查。

打着“萌宠照”的幌子,短视频平台正在成为非法买卖野生动物的新平台。一只只看着可爱的野生动物,它们面临着被交易的事实,等待它们的可能是被圈养甚至不当饲养后的死亡。短视频平台为野保动物交易站台,助纣为虐实属不该。

调查所涉及的国内三大头部短视频平台中哔哩哔哩和抖音两家暂没有明确的野生动物保护政策,即使建立了政策明确的快手平台,也没有履行检查和核对的义务,高达77%的视频仍有评论询问如何购买。有一个国家《野生动物保护法》对野生动物的保护有具体的等级。早就明确规定严禁保护禁止交易的野生动物,但仍然在网上明目张胆的出售,明目张胆的违法。面对短视频平台的“触雷”,野生动物保护部门应该毫不留情地予以打击。

那么,短视频平台应该如何加强审核,从而维护平台本身的利益呢?

这就要求媒体行业从多种方面提高视频审核效率,具体来说:

一、针对敏感词去进行监控

敏感词的监控机制不仅监控发布的内容,还监控评论。一旦内容监控到敏感词拒绝直接发送,评论区监控到敏感词满足一定的审查要求,需要对视频进行审查,并将敏感评论的用户记录到“嫌疑人关押处”。

二、建立健全对视频发布者的认证与审查机制

为了维护良好的网络环境,短视频平台应建立视频发布者认证机制,建立发布低俗、敏感、色情相关信息的用户黑名单,采取加强审核、禁止视频发布等措施,完善用户审核机制,避免使用新账号继续发布非法视频。

三、视频评分机制

视频评分机制有两种类型。一个是连续优秀视频发布商发布的视频系统自动通过审核。这个优秀的标准是非常严格的,比如毫无污点,达到一定数量的喜欢、评论和关注。只有这样才能评为优秀;还有手动评分机制。评分标准将非法内容的直接删除反馈给发布者,记录用户数据、操作者、原因、时间,以便每次审核都可以追溯。同时也可以用来统计App里发的是什么类型的视频,用于年度总结和反思。

四、员工考核机制

员工考核机制包括每日完成率、审批通过率、单位平均视频审核时间等。其目的是防止员工偷懒,而不是严格审核,奖励优秀员工。

科技可以为媒体创造更多的发展空间和盈利模式。作为一个新媒体平台,不要忘记相关短视频运营商首先要履行法律赋予的义务。短视频平台不能为赌博、吸毒等非法活动以及非法野生动物贸易提供舞台。加强审核,遵守规则,维护平台利益,为网民创造健康安全的环境。

内容审核区块链参与方包括哪几大机构

内容审核区块链参与方包括内容提供机构、内容审核机构、内容播出机构(或 内容发布机构)和监管机构。

(1)内容提供机构

是内容发行机构或内容制作机构,为内容播出机构提供内容源。

(2)内容审核机构

由政府部门组织确定并给予权威审查授权的审核节点,传统内容播出机构的 内容审核部门通过审查后,也可授权作为内容审核机构节点加入内容审核区块链。

(3)内容播出机构

包括传统的广播电视播出机构(例如:各级电视台、各级有线电视网络公司 等)、新媒体平台(例如:各级 IPTV 播控平台、OTT 平台等)以及其他网络视 听节目服务单位(例如:爱奇艺、优酷、腾讯等互联网视频服务平台)。

(4)监管机构

是具有公信力的监管部门,具有审核联盟成员的权利,监管部门保存全量数 据,并拥有查看每一笔交易以及参与者管理的权限。 在多方参与的联盟链中,各参与方在分工协作的同时要职责分明、各司其职。 各参与各方根据用户角色具有不同的权限,包括各类业务数据的写入、读取、业 务权限控制,由区块链数字身份系统实现,底层链节点负责对这些权限进行验证、 响应和处理。

猫途鹰APP被国家网信办下架 官博称内容审核出现漏洞

12月8日,国家网信办发布消息称,自11月5日起组织开展移动应用程序信息内容乱象专项整治,首批清理下架猫途鹰等105款违法违规移动应用程序。对此,猫途鹰官方微博回复称,内容审核出现了一些漏洞,公司下架进行修整。

据了解,此次国家网信办下架违法违规移动应用程序,是针对网民反映强烈的部分移动应用程序传播淫秽色情、暴恐血腥等违法违规信息,提供诈骗赌博、招嫖卖淫等违法违规服务的网络乱象。而猫途鹰则成为首批清理下架的违法违规移动应用程序。北京商报记者发现,有网友在猫途鹰官方微博下留言询问下架一事。随后,猫途鹰官博回复称“global这边内容审核出现了一些漏洞,我们下架进行修整和再审核。”

公开信息显示,TripAdvisor猫途鹰app除了提供全球旅游酒店订票,以及全球旅行者的点评建议外,还涉及旅行规划和酒店、景点、餐厅预订等功能。上述下架信息发布后,北京商报记者尝试在安卓应用商店、苹果应用商店中搜寻该软件,已无法找到相关信息。

来源:北京商报

谷歌收紧内部留言板规则:加强内容审核

据报道,谷歌内部文件显示,由于员工的讨论越来越激烈,因此该公司要求更加积极地审核内部留言板的内容。

谷歌内部社区管理团队表示,其内部留言板上被标记为种族主义和辱骂性信息的内容越来越多。该团队认为,这是因为员工在家工作期间分享了更多信息,以及“艰难的全球对话”增加所致。

因此,该公司从2019年开始扩大内容审核试点,共覆盖多个平台的超过75个讨论组,还要求多数讨论组的负责人扮演审核员的角色,并完成审核培训。此外还要制定章程来定义小组目的,在保证内容符合章程的情况下确保小组对话的包容性。

谷歌内部社区管理团队在内部博客中表示,正是因为当今世界出现各种复杂局面,因此才亟需确保工作场所成为一个受人欢迎的地方。

网信办:未成年人网课平台需抓好内容审核,杜绝游戏广告等

据网信中国消息,近日,中央网信办、教育部联合印发《关于进一步加强涉未成年人网课平台规范管理的通知》,推动未成年人网课平台长远规范发展。

《通知》提出,要强化日常监管,督促涉未成年人网课平台以正确价值导向为引领,加强网课教学大纲和图文、视频授课内容等审核把关,将弹窗、边栏、悬浮框、信息流加载、互动社交等环节纳入重点管理范畴。

另外,各地网信部门要紧盯属地涉未成年人网课平台页面周边生态,将弹窗、边栏、悬浮框、信息流加载等环节纳入重点管理范畴,对互动社交版块加强巡查监看,严防网课周边出现网络游戏广告以及色情低俗、暴力血腥等不良图文信息。

全文内容如下:

各省、自治区、直辖市网信办、教育厅(教委),新疆生产建设兵团网信办、教育局:

为切实保障优质线上教育资源供给,推动涉未成年人网课平台健康有序发展,营造未成年人良好网络学习环境,现就进一步加强未成年人网课平台规范管理有关事项通知如下:

一、加强备案管理

(一)完善备案管理。各地要定期公布属地未成年人网课平台备案名单,逐步建立属地网课平台黑白名单制度。网课平台上线新应用或发生重大功能调整时,应重新提交审核并更新相关备案信息。

(二)坚决堵塞漏洞。各地网信部门会同教育部门,定期排查属地网课平台,对于应备案未备案的网课平台,由相应教育部门提出处理意见,采取暂时下线或下架、限期整改的处置措施,待整改完成后,教育部门重新审核备案。

(三)推动全面覆盖。各地网信部门要将面向中小学的非学科类网课平台纳入网络生态日常巡查监看范围,建立管理工作台账。

二、强化日常监管

(一)把好价值导向。各地网信部门要督促属地涉未成年人网课平台以正确价值导向为引领,不得传播违背社会主义核心价值观的内容,不得散布色情低俗、血腥暴力等违背公序良俗的内容,不得以“技术中立”或“算法推荐”为由,推送不适宜未成年人的信息或广告引流内容。

(二)抓好内容审核。各地教育部门要指导属地涉未成年人网课平台加强课程内容管理,对网课教学大纲和图文、视频授课内容等认真审核、严格把关。不断完善审核标准、提升审核技术,对直播课程随机抽检,对图文、视频课程二次审核。

(三)管好页面生态。各地网信部门要紧盯属地涉未成年人网课平台页面周边生态,将弹窗、边栏、悬浮框、信息流加载等环节纳入重点管理范畴,对互动社交版块加强巡查监看,严防网课周边出现网络游戏广告以及色情低俗、暴力血腥等不良图文信息。

三、提升人员素质

(一)加强授课教师资质审核。各地教育部门要依据相关规定,指导网课平台配备相对稳定的师资队伍,对相关人员资质进行严格审核,确保学科类教师具备教师资格,将遵纪守法情况、思想政治素质作为教师入职考察的重要因素。

(二)端正产品设计和运营理念。各地网信部门要指导属地涉未成年人网课平台,增强网课产品设计和运营人员未成年人保护意识,将传播知识、传播思想、传播真理放在教育学习类应用和产品开发设计首位,不得在市场运营推广时采取不适宜未成年人的手段方式。

四、注重协同治理

(一)建立日常巡查机制。各地网信部门会同教育部门,梳理属地涉未成年人网课平台重点环节、重点问题监看清单,建立技术与人工相结合、全网巡查与重点监看相结合的监测机制,定期通报巡看情况,会商研究问题线索,提出应对措施,实现常态化监管。

(二)适时开展专项治理。各地根据日常监看情况,针对一定时期内未成年人网课平台突出问题、难点问题,适时开展专项整治,集中排查处置。

(三)加大执法处罚力度。各地网信部门对侵犯未成年人权益的违法违规网课平台,按照“发现一起、处置一起”原则,依法依规采取暂停更新、关闭下架等措施,始终保持高压严打态势。对屡教不改的网课平台,一律从严从重处罚。

(四)动员社会广泛参与治理。各地网信、教育部门要积极与行业协会、社会组织以及中小学校、家长委员会等合作,定期评议涉未成年人网课平台治理成效。社会和公众可向各地网信部门举报相关违法违规线索。

各地要充分认识加强涉未成年人网课平台规范管理的重要意义,增强责任感紧迫感,将加强涉未成年人网课平台规范管理作为属地网络生态治理的重点内容,制定工作方案,健全工作机制,推动长效治理。

来源:中央网信办

网络内容审核:审核能力决定平台竞争力

近年来,互联网发展日趋稳定,产品进入了百花齐放的时代,企业不遗余力的投入大量人力和资源扩展市场,流量成为了一个产品是否能继续存活的标准。在互联网发展的最初阶段,企业多数靠砸钱福利留住用户,以多种方式鼓励用户参与产品建设。但是现在市场已经趋于稳定,产品功能也趋于完善,那么企业应该靠什么留住用户呢?要靠内容。而内容竞争,实际上就是内容审核能力的比拼,可以说内容审核决定了以内容运营为主的新兴媒体的竞争力,简而言之就是内容审核决定了平台的竞争力。

“内容审核决定了平台的竞争力”,理由解释如下:

(1)我们通常说“要满足用户的需求”,但是,我们怎么满足用户需求呢?我们得先了解用户需求,才能根据用户需求做出一些措施,而且还是正确措施,才能更好地满足用户需求。用户需求是什么?可能是玩得开心,可能是看得满意(有内容、有价值)……互联网以及自媒体的存在,为人们带来了更多的分享和交流,顺畅的交流是保留用户的基础。

如果由于内容审核时,审核人员的错误判断或系统问题而没有通过用户写的东西,或者使其遭受网络暴力,或是推送了低俗暴力内容,则这种体验可能会直接导致用户放弃使用该平台,甚至严重的话,还可能会让爱模仿的青少年们模仿暴力行为,对社会稳定造成影响

(2)用户的行为是自由的,新兴媒体面对海量的信息,但内容的传播是平台可控的。内容审核工作量特别大,虽然不像传统媒体那样一审二审终审,但还是要严格把关,一方面利用机器来审核,用敏感词来过滤不合规的内容,另一方面还需要人工审核

只有人工审核+机器审核结合起来,加强平台内容审核能力,建立良好的产品基调,才能避免有漏网之鱼或滥杀无辜,真的做到“禁止低俗和暴力内容,快速发布高质量内容,大力推荐”,从而可以更好地提升用户留存,也能更好的促进用户活跃,带动流量的稳定增加,并最终提高竞争力,可谓是一举两得。所以,内容审核是最能体现一个平台管理水平的手段,也是提升平台竞争力的最有利手段。

别看内容审核是一件很小的事情,但由于目前多数平台已经进入了稳定发展阶段,接下来的竞争就是内容竞争,即内容审核竞争,优质内容的竞争与内容审核能力的竞争必将成为新兴媒体平台的决定性竞争标准,所以,要重视内容审核,加强内容审核,只有做好了内容审核,严格禁止低俗和暴力内容推广,尽量为大家提供优质内容,才能进一步发展企业和平台,才能使企业和平台在市场竞争中处于有利地位,甚至一跃居上也是可以的。

取消疫情期间特别措施YouTube恢复以人手审核内容

今年8月YouTube公布指在过去3个月,超过1,140万条视频因为违反社群守则而被移除,这是自YouTube自2005年推出服务以来,视频下架数量最多的3个月。大量违规视频被移除的原因,与疫情期间员工无法回办公室工作,YouTube需要依赖人工智能作审核有关。

虽然人工智能将大量有问题视频下架,但YouTube也承认部分视频被错误移除。根据金融时报的报道,YouTube将16万条视频下架的决定推翻;以往利用人手作审批,通常少于25%视频能上诉成功,但以人工智能审核,上诉成功比率达五成。疫情虽然还未过去,但外媒指YouTube的员工已经陆续重新上班,取代人工智能审核视频内容,但具体工作安排则未有公布。

内容审核:做好反垃圾策略,有效优化用户体验

现实生活中,走在大街、天桥,随处可见的垃圾,让我们感到厌恶,不仅是对环境的污染,也是对人身心的打击。同样的情况在互联网内容型产品中也会出现,为了维护平台氛围的和谐,我们需要时刻与深恶痛绝的垃圾信息作斗争,要做好内容审核的“反垃圾处理”

我们首先来看一下垃圾信息的定义。所谓的垃圾信息,一般是指涉及黄暴、政治等很明显的违规内容,那些擦边球的内容也可以归为其中。一方面,这些垃圾信息若不及时清理,很有可能被网警警告甚至封网,最终走向灭亡;另一方面,这些信息如果呈现到用户面前,就很有可能会导致用户失去对产品的信任而流失;其次,当产品遭遇恶意攻击时,垃圾信息通常会数量巨大,对服务器来说也是一种负担,性能降低,影响正常服务。

反垃圾策略,实际上就是对网络生产内容进行审核,识别、删除不符合《网络信息内容生态治理规定》的文字、音频、视频等内容。但是,由于在现在的内容审核上,大部分产品的审核通用的是AI+人工审核的方式,审核机制和方式相对简单粗暴,对于“误发敏感内容”的用户而言十分不友好,甚至有推卸责任的“嫌疑”,所以,在做内容审核的时候,一定要注意方法和过程

比较简单粗暴的方式就是利用AI进行监测和删除,但是这依赖于强大的敏感词库与机器学习能力,所以在内容审核的时候,要对自身敏感词库的内容不断优化、补充、升级,不断优化补充新的词汇,例如可尝试补充诗歌词汇、常用词组等过滤机制;同时需要增强机器的语义理解能力,提升对场景识别、上下文识别的能力,从而在根本上减少对敏感词的“误识别”,为人工审核缓解更多压力。

内容审核流程优化用户体验

目前,内容审核的流程主要分两种策略,对于时效性较高的产品,往往采用先发后审的机制;相对应的另一种就是先审后发,通过机器过滤、人工审核流程后再发布出去。但无论是哪种内容审核流程,都会存在敏感词被识别后,机器往往未给用户提供可选择的解决方案,告知用户下一步应该怎么做才是对的,符合要求的,这就导致用户在这个流程中陷入“进退两难”的境地。所以,关键的设计优化思路在于给用户创建新的闭环操作,让用户能够顺畅解决当前面临的问题,如直接告知用户命中的敏感词内容,直观提示用户修改,避免用户陷入疑惑;可在发布前或者发布结果中将敏感词内容替换为可发布内容;发布结果自动针对敏感词进行屏蔽处理,不影响用户正常发布流程;如果内容涉及敏感词,机器识别后可将当前内容进行降权和假写处理,仅用户自己可见,其他用户不可见,随后继续进行人工审核处理;等等。

反垃圾策略是互联网产品内容净化的必要屏障,是给用户呈现健康内容的重要环节。但是在实际的内容审核中,因审核流程简单粗暴,所以,就需要在内容审核的设计与流程方面做出一些改变,进而优化用户体验。