网络内容审核:审核能力决定平台竞争力

近年来,互联网发展日趋稳定,产品进入了百花齐放的时代,企业不遗余力的投入大量人力和资源扩展市场,流量成为了一个产品是否能继续存活的标准。在互联网发展的最初阶段,企业多数靠砸钱福利留住用户,以多种方式鼓励用户参与产品建设。但是现在市场已经趋于稳定,产品功能也趋于完善,那么企业应该靠什么留住用户呢?要靠内容。而内容竞争,实际上就是内容审核能力的比拼,可以说内容审核决定了以内容运营为主的新兴媒体的竞争力,简而言之就是内容审核决定了平台的竞争力。

“内容审核决定了平台的竞争力”,理由解释如下:

(1)我们通常说“要满足用户的需求”,但是,我们怎么满足用户需求呢?我们得先了解用户需求,才能根据用户需求做出一些措施,而且还是正确措施,才能更好地满足用户需求。用户需求是什么?可能是玩得开心,可能是看得满意(有内容、有价值)……互联网以及自媒体的存在,为人们带来了更多的分享和交流,顺畅的交流是保留用户的基础。

如果由于内容审核时,审核人员的错误判断或系统问题而没有通过用户写的东西,或者使其遭受网络暴力,或是推送了低俗暴力内容,则这种体验可能会直接导致用户放弃使用该平台,甚至严重的话,还可能会让爱模仿的青少年们模仿暴力行为,对社会稳定造成影响

(2)用户的行为是自由的,新兴媒体面对海量的信息,但内容的传播是平台可控的。内容审核工作量特别大,虽然不像传统媒体那样一审二审终审,但还是要严格把关,一方面利用机器来审核,用敏感词来过滤不合规的内容,另一方面还需要人工审核

只有人工审核+机器审核结合起来,加强平台内容审核能力,建立良好的产品基调,才能避免有漏网之鱼或滥杀无辜,真的做到“禁止低俗和暴力内容,快速发布高质量内容,大力推荐”,从而可以更好地提升用户留存,也能更好的促进用户活跃,带动流量的稳定增加,并最终提高竞争力,可谓是一举两得。所以,内容审核是最能体现一个平台管理水平的手段,也是提升平台竞争力的最有利手段。

别看内容审核是一件很小的事情,但由于目前多数平台已经进入了稳定发展阶段,接下来的竞争就是内容竞争,即内容审核竞争,优质内容的竞争与内容审核能力的竞争必将成为新兴媒体平台的决定性竞争标准,所以,要重视内容审核,加强内容审核,只有做好了内容审核,严格禁止低俗和暴力内容推广,尽量为大家提供优质内容,才能进一步发展企业和平台,才能使企业和平台在市场竞争中处于有利地位,甚至一跃居上也是可以的。

YouTube用AI 内容审核代替人工审核员后,又决定返聘

YouTube 在今年初,将内容人工审核团队大量裁撤,全部替换成为 AI 进行内容审核。

所以,今年 4-6 月整个第二季度里,YouTube 线上的所有视频,都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度,没有人工审核员参与内容初审。

这一大步跨越,带来了不小的后果,YouTube 在近期叫停这项举措,并且大批返聘在年初解雇的人工审核团队。

AI 替换人工:下架视频数创纪录

AI 审核被叫停的重要原因之一,就是 AI 审核的规则相较于人工,更为严格,甚至会导致误伤。

根据 Google 在定期的透明度报告中提到:在 2020 年 AI 接管内容审核的 4-6 月中,共有 1100 万个视频被 AI 标记违规并下架,这些视频主要来自于美国、印度和巴西。

但是,在今年的第一季度里,被鉴定违规并下架的视频,仅仅只有 660 万。而 从人工换成 AI 之后,被下架的视频数几乎翻了一番。

因为 AI 审核遭下架的视频,占全部下架视频的 95%

(数据来源:Google 官方透明度报告)

在被 AI 下架的 1100 万个视频中,多数为色情、虚假、涉恐犯罪类型,但是也有不少是误伤。

其中,就有 32 万个被 AI 标记下架的视频提出了申诉,最后近半数都通过二次审核,并重新上线。而在过去,进行申诉的视频,只有 25% 左右可能重新上线。

YouTube 的审核 AI,以一己之力,让 YouTube 的播主们瑟瑟发抖,花更多时间自查内容,一时间怨声载道让 YouTube 头疼不已;大量的申诉,还给 YouTube 团队,增加了不少重新审核的工作量。

人工再上位:时机尚未成熟,AI 仍需努力

在年初 YouTube 裁减人工审核团队前,全职或外包的审核岗位多达 10000 个。

这些人工审核员分布在 Google 的全球办公室,或是外包供应商的各个办公点。

万人团队:巨大运营成本

人工审核员的岗位要求并不低,比如要负责中东地区的内容审核岗位,需要掌握阿拉伯语和阿拉伯方言语系,并对中东地区上传视频进行审核,以便及时标记出涉及恐怖、暴力、煽动内容的视频。

这样的工作,每周需要审核 500 小时以上的视频,初级岗位的薪水可以达到 18.5 美元/小时,年薪可达 37000 美元左右。

再资深的内容审核岗位,需要掌握一些的法律知识,不仅能得到 Google 全职员工的待遇,还可以获得近 100000 美元的年薪。

从菲律宾的青年外包工人,到湾区的风控运营,

都在内容审核中发挥着重要作用

风光的背后,Google 也同时在承担着不小的成本,这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。

这次返聘 YouTube 也提及:疫情让人工审核成本变高、难度加大。当初迫不得已,必须在人工干预不足和 AI 过度干预两者之中,选择了 AI。

人工审核:边缘职业身心俱疲

内容审核不是一份简单的工作,不仅每周有固定的工作指标,还要长时间面对儿童色情、暴力、恐怖类型的画面,往往也会让人身心俱疲。

《华盛顿邮报》、《财富杂志》等美国主流媒体均对内容审核员这一职业,做出过深度报道。接受采访的内容审核员,无一例外都表达了这份职业,对自己的身心健康产生了强烈的负面影响。

《财富杂志》用带着防毒面具的审核员,

比喻审核工作给人带来的心理创伤

媒体的舆论影响也敦促了科技公司对这类岗位进行了一系列的改善,比如限制每周观看不适视频的时间上限、定期的心理治疗等措施。

人工还是 AI:不用着急下定论

人工审核的支出、对人心理的伤害、机器学习的技术进步,这些都推动了近年各平台对自动化内容审核的研究和快速应用。

AI 虽然有一定的误伤几率,但是在对违规内容的审查中,的确展现了超过人工审核的高效。

YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时,提到了一组数据「被 AI 标记删除的 1100 万个视频中,超过 50% 的视频,在没有用户播放前就被下架;超过 80% 的视频,播放 10 次以内就被下架。」

YouTube 作为大规模用 AI 代替人工的先行者,势必会踩坑,但同时也为其他公司甚至全社会,指明了人与 AI 协同关系中更加清晰的发展方向。

这样的实验虽然折腾,但着实有必要。这需要公司有吃螃蟹的精神、承担舆论非议的勇气和快速善后的决心。同样开放透明的数据,也让媒体和社会在接受未来的不确定性,有更多的共识和信心。

谷歌收紧内部留言板规则:加强内容审核

据报道,谷歌内部文件显示,由于员工的讨论越来越激烈,因此该公司要求更加积极地审核内部留言板的内容。

谷歌内部社区管理团队表示,其内部留言板上被标记为种族主义和辱骂性信息的内容越来越多。该团队认为,这是因为员工在家工作期间分享了更多信息,以及“艰难的全球对话”增加所致。

因此,该公司从2019年开始扩大内容审核试点,共覆盖多个平台的超过75个讨论组,还要求多数讨论组的负责人扮演审核员的角色,并完成审核培训。此外还要制定章程来定义小组目的,在保证内容符合章程的情况下确保小组对话的包容性。

来源:钛媒体

内容审核:做好反垃圾策略,有效优化用户体验

现实生活中,走在大街、天桥,随处可见的垃圾,让我们感到厌恶,不仅是对环境的污染,也是对人身心的打击。同样的情况在互联网内容型产品中也会出现,为了维护平台氛围的和谐,我们需要时刻与深恶痛绝的垃圾信息作斗争,要做好内容审核的“反垃圾处理”

我们首先来看一下垃圾信息的定义。所谓的垃圾信息,一般是指涉及黄暴、政治等很明显的违规内容,那些擦边球的内容也可以归为其中。一方面,这些垃圾信息若不及时清理,很有可能被网警警告甚至封网,最终走向灭亡;另一方面,这些信息如果呈现到用户面前,就很有可能会导致用户失去对产品的信任而流失;其次,当产品遭遇恶意攻击时,垃圾信息通常会数量巨大,对服务器来说也是一种负担,性能降低,影响正常服务。

反垃圾策略,实际上就是对网络生产内容进行审核,识别、删除不符合《网络信息内容生态治理规定》的文字、音频、视频等内容。但是,由于在现在的内容审核上,大部分产品的审核通用的是AI+人工审核的方式,审核机制和方式相对简单粗暴,对于“误发敏感内容”的用户而言十分不友好,甚至有推卸责任的“嫌疑”,所以,在做内容审核的时候,一定要注意方法和过程

比较简单粗暴的方式就是利用AI进行监测和删除,但是这依赖于强大的敏感词库与机器学习能力,所以在内容审核的时候,要对自身敏感词库的内容不断优化、补充、升级,不断优化补充新的词汇,例如可尝试补充诗歌词汇、常用词组等过滤机制;同时需要增强机器的语义理解能力,提升对场景识别、上下文识别的能力,从而在根本上减少对敏感词的“误识别”,为人工审核缓解更多压力。

内容审核流程优化用户体验

目前,内容审核的流程主要分两种策略,对于时效性较高的产品,往往采用先发后审的机制;相对应的另一种就是先审后发,通过机器过滤、人工审核流程后再发布出去。但无论是哪种内容审核流程,都会存在敏感词被识别后,机器往往未给用户提供可选择的解决方案,告知用户下一步应该怎么做才是对的,符合要求的,这就导致用户在这个流程中陷入“进退两难”的境地。所以,关键的设计优化思路在于给用户创建新的闭环操作,让用户能够顺畅解决当前面临的问题,如直接告知用户命中的敏感词内容,直观提示用户修改,避免用户陷入疑惑;可在发布前或者发布结果中将敏感词内容替换为可发布内容;发布结果自动针对敏感词进行屏蔽处理,不影响用户正常发布流程;如果内容涉及敏感词,机器识别后可将当前内容进行降权和假写处理,仅用户自己可见,其他用户不可见,随后继续进行人工审核处理;等等。

反垃圾策略是互联网产品内容净化的必要屏障,是给用户呈现健康内容的重要环节。但是在实际的内容审核中,因审核流程简单粗暴,所以,就需要在内容审核的设计与流程方面做出一些改变,进而优化用户体验。

研究人员最近开发了一种新的CNN,用于识别视频中的人类行为

诸如卷积神经网络(CNN)之类的深度学习算法已在各种任务上取得了显著成果,包括那些涉及识别图像中特定人物或物体的任务。基于视觉的人类动作识别(HAR)是计算机科学家经常尝试使用深度学习解决的任务,它特别需要识别图像或视频中捕获的人类动作。

HITEC大学和巴基斯坦伊斯兰堡基础大学,韩国世宗大学和中正大学,英国莱斯特大学和沙特阿拉伯苏丹王子大学的研究人员最近开发了一种新的CNN,用于识别视频中的人类行为。该CNN在Springer Link的“多媒体工具和应用程序”期刊上发表的一篇论文中进行了介绍,经过培训可以区分几种不同的人类动作,包括拳击,拍手,挥舞,慢跑,跑步和散步。

研究人员在论文中写道:“我们设计了一种新的26层卷积神经网络(CNN)架构,用于精确的复杂动作识别。” “这些特征是从全局平均池化层和完全连接(FC)层中提取的,并通过建议的基于高熵的方法进行融合。”

当试图识别人类在图像或视频中的动作时,CNN通常会将其分析重点放在许多潜在的相关特征上。但是,某些人类动作(例如慢跑和步行)可能非常相似,这使得这些算法很难区分它们,特别是如果它们专注于相似性核心的特征时。为了克服这一挑战,研究人员使用了一种方法,该方法将称为Poisson分布的特征选择方法与单变量测量(PDaUM)合并在一起。

研究人员观察到,CNN所基于的分析功能有时可能不相关或多余,这导致它们做出错误的预测。为了降低发生这种情况的风险,他们的PDaUM方法仅选择最强大的功能来识别特定的人类行为,并确保CNN基于这些功能做出最终预测。

研究人员在HMDB51,UFC Sports,KH和Weizmann数据集这四个数据集上训练和评估了两个截然不同的CNN,一个极端机器学习(EML)和一个Softmax分类器。这些数据集包含几个人类执行不同类型动作的视频。

然后,研究人员比较了两个CNN的性能,这两个CNN均使用其特征选择方法进行了增强。在他们的评估中,ELM分类器的性能明显优于Softmax算法,可以从视频中识别出人类动作,其在HMDB51数据集上的准确性为81.4%,在UCF Sports数据集上的准确性为99.2%,在KTH数据集上的准确性为98.3%,在KTH数据集上的准确性为98.7%。魏茨曼数据集。

值得注意的是,PDaUM增强的ELM分类器在准确性和预测时间方面也优于研究人员将其与之相比的所有现有深度学习技术。因此,这些结果凸显了研究人员介绍的特征选择方法在提高CNN在HAR任务上的性能方面的潜力。

将来,本文介绍的ELM分类器和PDaUM方法可以开发更有效的工具,以自动区分人类在录制和实况录像中正在做什么。这些工具可以通过几种不同的方式证明其价值,例如,帮助执法人员监视CCTV视频上嫌疑犯的行为,或者允许研究人员快速分析大量视频。

留下美好生活“小确幸”视频审核不能一刀切

8月12日,央视新闻援引联合国粮农组织统计,称全球每年有三分之一的粮食被损耗和浪费。8月14日,中国演出行业协会相关负责人表示,针对餐饮浪费现象,网络表演(直播)分会日前发文,提示各会员企业进一步加强直播内容管理,坚决禁止在直播中出现假吃、催吐、猎奇、宣扬量大多吃、暴饮暴食,以及其他铺张浪费的直播行为。

一夜之间,各大平台都高度警惕吃播视频。据多家媒体报道,抖音快手回应称,宣扬量大多吃可直接封号,斗鱼方面则表示将加强美食类直播内容审核。

尽管央视新闻以及各个餐饮协会批评的对象十分明确,即“餐饮浪费”“猎奇”“宣扬量大多吃”“暴饮暴食”人群,但是这些初衷本是好意的想法,到了各个平台的执行层面,呈现的结果却成了最大限度节省审核精力的“一刀切”。

一个明显的事实是,标题带有“吃播”和“大胃王”词语的视频一夜之间全部消失,“吃播”和“大胃王”甚至成为短视频标题里绝对不能出现的“禁词”。无论是B站还是抖音,如今在搜索框内输入“吃播”和“大胃王”,都不会出现任何个人视频。

此外,在社交平台上越来越多的网友开始对“吃播”博主的“吃播”行为进行攻击。

我们或许需要清楚一件事情,在职业多样化,甚至视频行业一种职业千种玩法的当下,“吃播”群体从来不完全是“大胃王”。而标题带有“大胃王”三个字的视频,也不全部都是猎奇、浪费和暴饮暴食。

首先,“吃播”群体包含展示做菜同时展示吃饭的美食博主,“吃播”群体也包含以展示宠物吃饭为主的萌宠类博主,甚至包含主要展示ASMR(自发性知觉经络反应)的技术流博主,这些同为“吃播”的博主,距离“浪费”“猎奇”“暴饮暴食”的“大胃王”本身就是截然不同的人群,拥有毫不相似的受众。甚至这几个类型的“吃播”人群加起来,数量可能要远远超过通过“暴饮暴食”吸睛的“大胃王”。

但是视频平台为了方便,直接将“吃播”“大胃王”两个词屏蔽,这便意味着过去所有“吃播”人群为了自己视频能让平台搜索出来,都会避免“吃播”两个字出现在标题内,或者在使用创意标题时,不会再使用“大胃王”三个字。

此外,浪费的从来不是“大胃王”三个字,也不是“吃播”全部群体。享用美食,对美食渴望是人本能的一种。许多“吃播”曾通过食物,跨越不同文化,不同地域,吸引粉丝对形色各异的美食产生兴趣,进而了解美食背后的文化传承。如日本某位知名“吃播”,就曾通过吃中国的螺蛳粉,向不同国家的粉丝介绍中国食物;而国内同样有“吃播”通过亲自试吃鲱鱼罐头,向大家科普瑞典食用鲱鱼的传统。因此,平台偷懒通过屏蔽词汇,间接导致整个“吃播”群体和暴饮暴食的“大胃王”关联,甚至有被污名化的倾向。

“珍惜粮食,拒绝浪费”是好事,禁止视频中出现宣扬暴饮暴食、猎奇的内容也是好事,但是应该平台好好担起责任,执行自己审核能力的时候,却直接放弃思考干脆“一刀切”。这不是一个通过“后浪”视频宣扬内容多样化的平台该做的事情,也不是喊出“记录美好生活”的平台该有的行为。

来源:消费日报网

内容安全审核待加强:比心平台被指涉黄

“网游陪玩”非常受欢迎,但是近年来出现的一些问题不容忽视! 8月20日晚上,人民网报道说,比心陪练平台涉及色情内容。在幕后团伙的指挥下,一些女陪练向玩家兜售“深夜服务”,例如视频裸聊,并明码标价。另外,平台玩家的年龄审查并不严格,未成年人很多。

对此,8月21日下午,比心APP官微发文回应人民网指其涉黄一文,针对当事人账号已采取账号冻结、列入黑名单风控系统等措施,比心APP表示,目前已上线“人脸识别、强化未成年人保护模式”等技术手段和方法,切实履行平台监管责任。

近几年电子游戏逐渐风靡,游戏陪玩服务在满足用户在深层次社交方面需求的同时,也成为投资方追捧的行业。但游戏陪玩行业带有互联网监管难属性,可能在野蛮生长期滋生多种形式的犯罪行为。陪玩行业市场太小,还没有引起监管部门关注,随着网络游戏市场规模进一步发展,陪玩与游戏行业可能共同纳入监管。事件发生的背后是内容审核的不严格,那么要如何去加强内容审核呢?

首先要了解信息审核的四大原则

1.违反国家法律法规、不符合国家网络安全法的内容

包含不健康的的相关帖子;直接暴露或描写人体性部位的内容;侵犯个人隐私内容;非法广告等相关内容;不允许通过,发现后立马删除,给予发帖者禁言、封号等处理。

2.互联网犯罪、诈骗、虚假信息等内容

股神消息、网络借贷、网络刷单,这些诈骗内容进行禁言、封号等处理。

3.涉及个人隐私、个人信息的相关内容

很多网友发帖爆料时,直接曝光了其他人的个人隐私,这些都属于违法违规内容,首先要核实事件真实性,如果诋毁造谣,这种给予不通过处理;如果事情真实,对涉及侵犯个人隐私的需要做相关处理。

4.其他危害网站用户体验,垃圾广告等相关内容

主要是广告等垃圾信息,如何识别广告?评判依据可以从是否以盈利为目的来看。如微商广告、纯产品介绍,可以对用户以禁言处理,并发站内信告知原因。

其次审核工作的操作:

先审后发和先发后审的区别?

先审后发是指用户发布内容先进入审核后台,工作人员审核通过后才显示;先发后审是指用户发布的内容直接在APP上显示,工作人员事后进行审核的处理方式。

敏感词库有什么用?

后台设置敏感词库,同时设置带有敏感词的主题和评论是否在待审期间直接显示,默认敏感词库可以根据多年运营经验总结一套关键词库,带有敏感词的内容有违规的可能。

网络平台是大众的空间,需要广大群众及社会组织积极参与。为社会主义事业发展营造安全、健康、绿色的网络环境,各社交软件、平台及网络媒体顺应数字时代发展,践行社会责任,弘扬社会主义核心价值观,加强行业自律,不断升级未成年人保护,普及社交软件、网站及媒体的未成年人使用模式。同时依法依规主动加大对平台内容审核力度,对各种不良信息以及容易导致未成年人成瘾的网络游戏等进行屏蔽,还未成年人成长以健康环境。

王思聪投资的游戏陪练平台被指涉黄,回应将加强内容审核

8月20日晚,人民网报道称,比心陪练平台(比心APP)涉黄,一些女陪练在幕后团伙的指挥下向玩家兜售视频裸聊等“深夜服务”并明码标价。此外,平台玩家年龄审核不严,未成年人不在少数。

对此,8月21日下午,比心APP官微发文回应人民网指其涉黄一文,针对当事人账号,已采取账号冻结、列入黑名单风控系统等措施。

比心APP表示,表示其平台坚持开展净网活动,目前累计永久封禁涉黄账号超过2万个。目前已上线“人脸识别、强化未成年人保护模式”等技术手段和方法,切实履行平台监管责任,

天眼查APP数据显示,比心陪练的天使轮投资方为王思聪旗下公司,王思聪本人曾在比心陪练上担任陪练师,设置价格约为951元/小时。

根据公开报道,比心陪练前身为鱼泡泡APP ,由鱼泡泡团队于2014年打造。是一款 “游戏陪练”+“技能分享”的游戏陪练APP。现比心用户超过4000万,大神陪练师超500万。

据人民网报道,近几年电子游戏逐渐风靡,游戏陪玩服务在满足用户在深层次社交方面需求的同时,也成为投资方追捧行业,但游戏陪玩行业带有互联网监管难属性,可能在野蛮生长期滋生多种形式的犯罪行为。陪玩行业市场太小,还没有引起监管部门关注。随着网络游戏市场规模进一步发展,陪玩与游戏行业可能共同纳入监管。

附:《比心陪练平台关于加强内容审核的声明》

近日网传平台出现低俗内容,比心团队高度重视经紧急排查,针对当事人在比心平台上的账号,在接到用户举报和风控系统识别告警后,平台已采取账号冻结、列入黑名单风控系统等措施。

比心陪练平台始终支持并严格遵守国家法律法规规定。坚决抵制一切破坏网络环境违背公序良俗的低俗内容。平台持续开展的净网行动,目前累计永久封禁涉黄账号超过2万个。

比心陪练平台对一切违规行为始终秉持零容忍“态度,并已上线人脸识别、强化未成年人保护模式“等技术手段和方法,切实履行平台监管责任,也欢迎广大公众监督,共同维护绿色健康的网络环境。

来源:界面新闻

评论内容审核至关重要,解析网易云为何变成网“抑”云?

今天,你“网抑云”了吗?

“生而为人,我很抱歉”

“一开口就是老网抑云了”

“兄弟们,打开网抑云给我哭”

网易云本是一个很普通的听音乐软件,不知从何时起逐渐演变为青年网友的情绪发泄的聚集地。而无论什么歌曲,都能被广大网友强行“抑郁起来”,其中的民谣,舒缓音乐区尤为严重。

大量悲春伤秋的评论,丧都有了模版。评论消息区域中的常见关键字是:失恋、考研、大海、酒精等。他们中的大多数人还是在粗暴地复制和粘贴,充满了满满消极的负能量,而一些走心的评论却上不了热评。可以说,劣币驱逐良币。也难怪现在的人们调侃网易云为“网抑云”了。

悲伤本来是一种正常的情绪状态,但它却被恶意地玩弄,嘲笑和调侃其他人,因此,某些真正将网易云音乐评论区用作树洞的用户不再敞开心扉与陌生人互动。现在的一些恶意违规的评论也真得该好好整顿一下了,让大家听好音乐的同时还能看到一些好的评论,感受一下美好!

8月3日,官方及时发现并进行救治方案 。

针对“网抑云”现象,网易云音乐正式推出了“云村评论治愈计划”,并启动了三大举措,邀请心理学家和万余名心理专业志愿者加入“云村治愈所”,万名乐评达人组成云村乐评团发起乐评征集大赛,以建立一个温暖友爱、真实有趣的音乐社区。

就网易云的网抑云事件,同时也带给了人们很沉重的话题——评论审核对于现在一些APP来说有多重要呢?

国家互联网信息办公室发布的《互联网跟帖评论服务管理规定》建议建立跟帖评论审查管理,实时检查,应急响应和其他信息安全管理系统,以及时发现和处理非法信息。

国家网络空间管理局有关负责人表示,这是针对用户公开发布的信息,而不是个人通讯信息,不会损害个人隐私;所需要处理的是非法信息,不存在妨碍言论自由等的问题。

网络跟帖评论已成为网民互动,表达意见和监督公众舆论的重要方式,但也存在不受欢迎的现象,例如散布在线谣言,散布某些极端负面信息以及发布非法和非法信息。该法规旨在贯彻《网络安全法》的精神,促进互联网健康,有序发展。

就目前来说,评论审核成为各大APP,如音乐软件视频软件等评论多的优先级最高需求,不管是通过人工审核还是AI审核,都要以最能安全并且最适合的审核方式为主,不要让网民们说是限制言论自由。当前,随着国家对自媒体行业监管的力度不断提升,评论信息健不健康,安不安全也已然成为国家的重点关注对象了。

在各大平台中,常见的违规评论,比如说一些带有谩骂、黄色、侮辱人等的一些评论,这种违规评论很容易被人所看到;而有些评论则是很需要仔细进行评论审核的,如:一些变形语气的评论,还有一些通过‘打包伪装’之后的评论,这些对于通过关键违规词的AI审核来说是很难去审核出来的。

当然,如上述所说的网抑云传播的负面评论“生而为人,我很抱歉”等的话语对于AI审核来说更是难上加难,单纯利用AI审核,是不彻底的,需要全面去消除这些不好的评论的,所以说现在大部分的企业纷纷启用了人工+AI两种审核的方式,这种评论审核的方式极大地去抑制了违规评论的流出。

中国演出行业协会发布倡议书:加大内容审核力度、规范主播带货行为

8月5日,针对8部门通报网络直播行业专项整治和规范管理工作,中国演出行业协会发布倡议书,督促会员企业加大内容审核力度,及时果断处置违法和不良信息;深入推进主播“黑名单”联合惩戒机制;引导用户理性消费,避免造成不良围观效应和消费误导;规范主播带货行为;全面自查平台运营资质。

中国演出行业协会表示,将在主管部门指导下,开展行业调研,汇总企业意见,并召集专家学者进行论证,为行业规范管理提出政策建议,推动主播账号分级分类管理和规范打赏等行业规则出台。同时,带领行业企业共同构建起激励高质量信息内容供给的新型直播管理体系,配合监管部门扎实有效推进源头治理。

针对会员企业的具体倡议包括:1.加强本平台网络信息内容生态治理工作,引导培育践行社会主义核心价值观、积极健康、向上向善的网络文化。加大内容审核力度,及时果断处置违法和不良信息。

2.提升直播平台文化品位,加大、鼓励知识分享、传统文化、爱心公益等高品质、正能量内容生产。

3.保护青少年健康成长,进一步优化青少年模式,净化“网课”直播生态,全面清理各类违法违规内容,加大青少年“内容池”供给,为青少年成长提供绿色、健康的网络环境。建立起涉未成年人举报或投诉的绿色解决通道。

4.深入推进主播“黑名单”联合惩戒机制,坚决打击网络直播违法犯罪行为,对色情低俗、网络赌博、网络诈骗等违反国家法律法规的行为绝不姑息。对炒作热点事件,博眼球吸流量造成严重社会影响等行为,即发现即封禁,坚决扼制歪风邪气。

5.引导用户理性消费,避免造成不良围观效应和消费误导。加强主播管理,引导主播合理使用直播打赏等互动手段,不得利用违法违规手段诱导打赏,引导主播为广大网民提供优秀健康的互联网直播内容。

6.规范主播带货行为,直播频道内禁止出现破坏交易秩序、牟取不正当利益、侵犯消费者合法权益的行为。如虚假宣传、售卖三无产品、假冒产品等等。

7.全面自查平台运营资质,根据相关主管部门的要求,如实、完善备案手续。

来源:北京商报