内容审核区块链参与方包括哪几大机构

内容审核区块链参与方包括内容提供机构、内容审核机构、内容播出机构(或 内容发布机构)和监管机构。

(1)内容提供机构

是内容发行机构或内容制作机构,为内容播出机构提供内容源。

(2)内容审核机构

由政府部门组织确定并给予权威审查授权的审核节点,传统内容播出机构的 内容审核部门通过审查后,也可授权作为内容审核机构节点加入内容审核区块链。

(3)内容播出机构

包括传统的广播电视播出机构(例如:各级电视台、各级有线电视网络公司 等)、新媒体平台(例如:各级 IPTV 播控平台、OTT 平台等)以及其他网络视 听节目服务单位(例如:爱奇艺、优酷、腾讯等互联网视频服务平台)。

(4)监管机构

是具有公信力的监管部门,具有审核联盟成员的权利,监管部门保存全量数 据,并拥有查看每一笔交易以及参与者管理的权限。 在多方参与的联盟链中,各参与方在分工协作的同时要职责分明、各司其职。 各参与各方根据用户角色具有不同的权限,包括各类业务数据的写入、读取、业 务权限控制,由区块链数字身份系统实现,底层链节点负责对这些权限进行验证、 响应和处理。

网信办:未成年人网课平台需抓好内容审核,杜绝游戏广告等

据网信中国消息,近日,中央网信办、教育部联合印发《关于进一步加强涉未成年人网课平台规范管理的通知》,推动未成年人网课平台长远规范发展。

《通知》提出,要强化日常监管,督促涉未成年人网课平台以正确价值导向为引领,加强网课教学大纲和图文、视频授课内容等审核把关,将弹窗、边栏、悬浮框、信息流加载、互动社交等环节纳入重点管理范畴。

另外,各地网信部门要紧盯属地涉未成年人网课平台页面周边生态,将弹窗、边栏、悬浮框、信息流加载等环节纳入重点管理范畴,对互动社交版块加强巡查监看,严防网课周边出现网络游戏广告以及色情低俗、暴力血腥等不良图文信息。

全文内容如下:

各省、自治区、直辖市网信办、教育厅(教委),新疆生产建设兵团网信办、教育局:

为切实保障优质线上教育资源供给,推动涉未成年人网课平台健康有序发展,营造未成年人良好网络学习环境,现就进一步加强未成年人网课平台规范管理有关事项通知如下:

一、加强备案管理

(一)完善备案管理。各地要定期公布属地未成年人网课平台备案名单,逐步建立属地网课平台黑白名单制度。网课平台上线新应用或发生重大功能调整时,应重新提交审核并更新相关备案信息。

(二)坚决堵塞漏洞。各地网信部门会同教育部门,定期排查属地网课平台,对于应备案未备案的网课平台,由相应教育部门提出处理意见,采取暂时下线或下架、限期整改的处置措施,待整改完成后,教育部门重新审核备案。

(三)推动全面覆盖。各地网信部门要将面向中小学的非学科类网课平台纳入网络生态日常巡查监看范围,建立管理工作台账。

二、强化日常监管

(一)把好价值导向。各地网信部门要督促属地涉未成年人网课平台以正确价值导向为引领,不得传播违背社会主义核心价值观的内容,不得散布色情低俗、血腥暴力等违背公序良俗的内容,不得以“技术中立”或“算法推荐”为由,推送不适宜未成年人的信息或广告引流内容。

(二)抓好内容审核。各地教育部门要指导属地涉未成年人网课平台加强课程内容管理,对网课教学大纲和图文、视频授课内容等认真审核、严格把关。不断完善审核标准、提升审核技术,对直播课程随机抽检,对图文、视频课程二次审核。

(三)管好页面生态。各地网信部门要紧盯属地涉未成年人网课平台页面周边生态,将弹窗、边栏、悬浮框、信息流加载等环节纳入重点管理范畴,对互动社交版块加强巡查监看,严防网课周边出现网络游戏广告以及色情低俗、暴力血腥等不良图文信息。

三、提升人员素质

(一)加强授课教师资质审核。各地教育部门要依据相关规定,指导网课平台配备相对稳定的师资队伍,对相关人员资质进行严格审核,确保学科类教师具备教师资格,将遵纪守法情况、思想政治素质作为教师入职考察的重要因素。

(二)端正产品设计和运营理念。各地网信部门要指导属地涉未成年人网课平台,增强网课产品设计和运营人员未成年人保护意识,将传播知识、传播思想、传播真理放在教育学习类应用和产品开发设计首位,不得在市场运营推广时采取不适宜未成年人的手段方式。

四、注重协同治理

(一)建立日常巡查机制。各地网信部门会同教育部门,梳理属地涉未成年人网课平台重点环节、重点问题监看清单,建立技术与人工相结合、全网巡查与重点监看相结合的监测机制,定期通报巡看情况,会商研究问题线索,提出应对措施,实现常态化监管。

(二)适时开展专项治理。各地根据日常监看情况,针对一定时期内未成年人网课平台突出问题、难点问题,适时开展专项整治,集中排查处置。

(三)加大执法处罚力度。各地网信部门对侵犯未成年人权益的违法违规网课平台,按照“发现一起、处置一起”原则,依法依规采取暂停更新、关闭下架等措施,始终保持高压严打态势。对屡教不改的网课平台,一律从严从重处罚。

(四)动员社会广泛参与治理。各地网信、教育部门要积极与行业协会、社会组织以及中小学校、家长委员会等合作,定期评议涉未成年人网课平台治理成效。社会和公众可向各地网信部门举报相关违法违规线索。

各地要充分认识加强涉未成年人网课平台规范管理的重要意义,增强责任感紧迫感,将加强涉未成年人网课平台规范管理作为属地网络生态治理的重点内容,制定工作方案,健全工作机制,推动长效治理。

来源:中央网信办

YouTube用AI 内容审核代替人工审核员后,又决定返聘

YouTube 在今年初,将内容人工审核团队大量裁撤,全部替换成为 AI 进行内容审核。

所以,今年 4-6 月整个第二季度里,YouTube 线上的所有视频,都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度,没有人工审核员参与内容初审。

这一大步跨越,带来了不小的后果,YouTube 在近期叫停这项举措,并且大批返聘在年初解雇的人工审核团队。

AI 替换人工:下架视频数创纪录

AI 审核被叫停的重要原因之一,就是 AI 审核的规则相较于人工,更为严格,甚至会导致误伤。

根据 Google 在定期的透明度报告中提到:在 2020 年 AI 接管内容审核的 4-6 月中,共有 1100 万个视频被 AI 标记违规并下架,这些视频主要来自于美国、印度和巴西。

但是,在今年的第一季度里,被鉴定违规并下架的视频,仅仅只有 660 万。而 从人工换成 AI 之后,被下架的视频数几乎翻了一番。

因为 AI 审核遭下架的视频,占全部下架视频的 95%

(数据来源:Google 官方透明度报告)

在被 AI 下架的 1100 万个视频中,多数为色情、虚假、涉恐犯罪类型,但是也有不少是误伤。

其中,就有 32 万个被 AI 标记下架的视频提出了申诉,最后近半数都通过二次审核,并重新上线。而在过去,进行申诉的视频,只有 25% 左右可能重新上线。

YouTube 的审核 AI,以一己之力,让 YouTube 的播主们瑟瑟发抖,花更多时间自查内容,一时间怨声载道让 YouTube 头疼不已;大量的申诉,还给 YouTube 团队,增加了不少重新审核的工作量。

人工再上位:时机尚未成熟,AI 仍需努力

在年初 YouTube 裁减人工审核团队前,全职或外包的审核岗位多达 10000 个。

这些人工审核员分布在 Google 的全球办公室,或是外包供应商的各个办公点。

万人团队:巨大运营成本

人工审核员的岗位要求并不低,比如要负责中东地区的内容审核岗位,需要掌握阿拉伯语和阿拉伯方言语系,并对中东地区上传视频进行审核,以便及时标记出涉及恐怖、暴力、煽动内容的视频。

这样的工作,每周需要审核 500 小时以上的视频,初级岗位的薪水可以达到 18.5 美元/小时,年薪可达 37000 美元左右。

再资深的内容审核岗位,需要掌握一些的法律知识,不仅能得到 Google 全职员工的待遇,还可以获得近 100000 美元的年薪。

从菲律宾的青年外包工人,到湾区的风控运营,

都在内容审核中发挥着重要作用

风光的背后,Google 也同时在承担着不小的成本,这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。

这次返聘 YouTube 也提及:疫情让人工审核成本变高、难度加大。当初迫不得已,必须在人工干预不足和 AI 过度干预两者之中,选择了 AI。

人工审核:边缘职业身心俱疲

内容审核不是一份简单的工作,不仅每周有固定的工作指标,还要长时间面对儿童色情、暴力、恐怖类型的画面,往往也会让人身心俱疲。

《华盛顿邮报》、《财富杂志》等美国主流媒体均对内容审核员这一职业,做出过深度报道。接受采访的内容审核员,无一例外都表达了这份职业,对自己的身心健康产生了强烈的负面影响。

《财富杂志》用带着防毒面具的审核员,

比喻审核工作给人带来的心理创伤

媒体的舆论影响也敦促了科技公司对这类岗位进行了一系列的改善,比如限制每周观看不适视频的时间上限、定期的心理治疗等措施。

人工还是 AI:不用着急下定论

人工审核的支出、对人心理的伤害、机器学习的技术进步,这些都推动了近年各平台对自动化内容审核的研究和快速应用。

AI 虽然有一定的误伤几率,但是在对违规内容的审查中,的确展现了超过人工审核的高效。

YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时,提到了一组数据「被 AI 标记删除的 1100 万个视频中,超过 50% 的视频,在没有用户播放前就被下架;超过 80% 的视频,播放 10 次以内就被下架。」

YouTube 作为大规模用 AI 代替人工的先行者,势必会踩坑,但同时也为其他公司甚至全社会,指明了人与 AI 协同关系中更加清晰的发展方向。

这样的实验虽然折腾,但着实有必要。这需要公司有吃螃蟹的精神、承担舆论非议的勇气和快速善后的决心。同样开放透明的数据,也让媒体和社会在接受未来的不确定性,有更多的共识和信心。

银川治理直播乱象 今后主播持证上岗直播内容要审核

9月17日,记者从银川市网络安全宣传周法治宣传新闻发布会上了解到,近期,针对网民反映强烈的网络直播“打赏”、吃播、低俗表演等严重冲击主流价值观突出问题,银川市委网信办、“扫黄打非”办等部门将联合开展网络直播行业专项整治和规范管理行动。

根据国家新闻出版广电总局相关要求,该市将从强化法律监管、提高行业准入门槛、组织主播进行学习等方面治理直播乱象。目前,银川市正在规范相关工作,今后将要求网络主播持证上岗、实名认证,要求直播报备,银川市委网信办将对直播主播、内容等进行审核。同时,该市将组织主播进行道德规范、法律法规学习,宣传引导主播自觉遵守道德规范和平台规则,营造良好直播环境。

留下美好生活“小确幸”视频审核不能一刀切

8月12日,央视新闻援引联合国粮农组织统计,称全球每年有三分之一的粮食被损耗和浪费。8月14日,中国演出行业协会相关负责人表示,针对餐饮浪费现象,网络表演(直播)分会日前发文,提示各会员企业进一步加强直播内容管理,坚决禁止在直播中出现假吃、催吐、猎奇、宣扬量大多吃、暴饮暴食,以及其他铺张浪费的直播行为。

一夜之间,各大平台都高度警惕吃播视频。据多家媒体报道,抖音快手回应称,宣扬量大多吃可直接封号,斗鱼方面则表示将加强美食类直播内容审核。

尽管央视新闻以及各个餐饮协会批评的对象十分明确,即“餐饮浪费”“猎奇”“宣扬量大多吃”“暴饮暴食”人群,但是这些初衷本是好意的想法,到了各个平台的执行层面,呈现的结果却成了最大限度节省审核精力的“一刀切”。

一个明显的事实是,标题带有“吃播”和“大胃王”词语的视频一夜之间全部消失,“吃播”和“大胃王”甚至成为短视频标题里绝对不能出现的“禁词”。无论是B站还是抖音,如今在搜索框内输入“吃播”和“大胃王”,都不会出现任何个人视频。

此外,在社交平台上越来越多的网友开始对“吃播”博主的“吃播”行为进行攻击。

我们或许需要清楚一件事情,在职业多样化,甚至视频行业一种职业千种玩法的当下,“吃播”群体从来不完全是“大胃王”。而标题带有“大胃王”三个字的视频,也不全部都是猎奇、浪费和暴饮暴食。

首先,“吃播”群体包含展示做菜同时展示吃饭的美食博主,“吃播”群体也包含以展示宠物吃饭为主的萌宠类博主,甚至包含主要展示ASMR(自发性知觉经络反应)的技术流博主,这些同为“吃播”的博主,距离“浪费”“猎奇”“暴饮暴食”的“大胃王”本身就是截然不同的人群,拥有毫不相似的受众。甚至这几个类型的“吃播”人群加起来,数量可能要远远超过通过“暴饮暴食”吸睛的“大胃王”。

但是视频平台为了方便,直接将“吃播”“大胃王”两个词屏蔽,这便意味着过去所有“吃播”人群为了自己视频能让平台搜索出来,都会避免“吃播”两个字出现在标题内,或者在使用创意标题时,不会再使用“大胃王”三个字。

此外,浪费的从来不是“大胃王”三个字,也不是“吃播”全部群体。享用美食,对美食渴望是人本能的一种。许多“吃播”曾通过食物,跨越不同文化,不同地域,吸引粉丝对形色各异的美食产生兴趣,进而了解美食背后的文化传承。如日本某位知名“吃播”,就曾通过吃中国的螺蛳粉,向不同国家的粉丝介绍中国食物;而国内同样有“吃播”通过亲自试吃鲱鱼罐头,向大家科普瑞典食用鲱鱼的传统。因此,平台偷懒通过屏蔽词汇,间接导致整个“吃播”群体和暴饮暴食的“大胃王”关联,甚至有被污名化的倾向。

“珍惜粮食,拒绝浪费”是好事,禁止视频中出现宣扬暴饮暴食、猎奇的内容也是好事,但是应该平台好好担起责任,执行自己审核能力的时候,却直接放弃思考干脆“一刀切”。这不是一个通过“后浪”视频宣扬内容多样化的平台该做的事情,也不是喊出“记录美好生活”的平台该有的行为。

来源:消费日报网

内容安全审核待加强:比心平台被指涉黄

“网游陪玩”非常受欢迎,但是近年来出现的一些问题不容忽视! 8月20日晚上,人民网报道说,比心陪练平台涉及色情内容。在幕后团伙的指挥下,一些女陪练向玩家兜售“深夜服务”,例如视频裸聊,并明码标价。另外,平台玩家的年龄审查并不严格,未成年人很多。

对此,8月21日下午,比心APP官微发文回应人民网指其涉黄一文,针对当事人账号已采取账号冻结、列入黑名单风控系统等措施,比心APP表示,目前已上线“人脸识别、强化未成年人保护模式”等技术手段和方法,切实履行平台监管责任。

近几年电子游戏逐渐风靡,游戏陪玩服务在满足用户在深层次社交方面需求的同时,也成为投资方追捧的行业。但游戏陪玩行业带有互联网监管难属性,可能在野蛮生长期滋生多种形式的犯罪行为。陪玩行业市场太小,还没有引起监管部门关注,随着网络游戏市场规模进一步发展,陪玩与游戏行业可能共同纳入监管。事件发生的背后是内容审核的不严格,那么要如何去加强内容审核呢?

首先要了解信息审核的四大原则

1.违反国家法律法规、不符合国家网络安全法的内容

包含不健康的的相关帖子;直接暴露或描写人体性部位的内容;侵犯个人隐私内容;非法广告等相关内容;不允许通过,发现后立马删除,给予发帖者禁言、封号等处理。

2.互联网犯罪、诈骗、虚假信息等内容

股神消息、网络借贷、网络刷单,这些诈骗内容进行禁言、封号等处理。

3.涉及个人隐私、个人信息的相关内容

很多网友发帖爆料时,直接曝光了其他人的个人隐私,这些都属于违法违规内容,首先要核实事件真实性,如果诋毁造谣,这种给予不通过处理;如果事情真实,对涉及侵犯个人隐私的需要做相关处理。

4.其他危害网站用户体验,垃圾广告等相关内容

主要是广告等垃圾信息,如何识别广告?评判依据可以从是否以盈利为目的来看。如微商广告、纯产品介绍,可以对用户以禁言处理,并发站内信告知原因。

其次审核工作的操作:

先审后发和先发后审的区别?

先审后发是指用户发布内容先进入审核后台,工作人员审核通过后才显示;先发后审是指用户发布的内容直接在APP上显示,工作人员事后进行审核的处理方式。

敏感词库有什么用?

后台设置敏感词库,同时设置带有敏感词的主题和评论是否在待审期间直接显示,默认敏感词库可以根据多年运营经验总结一套关键词库,带有敏感词的内容有违规的可能。

网络平台是大众的空间,需要广大群众及社会组织积极参与。为社会主义事业发展营造安全、健康、绿色的网络环境,各社交软件、平台及网络媒体顺应数字时代发展,践行社会责任,弘扬社会主义核心价值观,加强行业自律,不断升级未成年人保护,普及社交软件、网站及媒体的未成年人使用模式。同时依法依规主动加大对平台内容审核力度,对各种不良信息以及容易导致未成年人成瘾的网络游戏等进行屏蔽,还未成年人成长以健康环境。

抖音短视频内容审核:违法上传种植罂粟花视频

抖音短视频是一个旨在帮助大众用户表达自我,记录美好生活的短视频分享平台。抖音的存在,为用户创造丰富多样的玩法,让用户在生活中轻松快速产出短视频。而且近些年来,抖音短视频也越来越受大家欢迎了。一般情况下,大家在抖音短视频的发布内容主要是服装类、美妆类(直播带货和美妆测评)、美食类、宠物类以及其他新奇的短视频,但近日,安徽省休宁县公安局齐云山派出所通过抖音视频查处一起非法种植毒品原植物——罂粟的案件。

派出所民警在抖音上发现一条和罂粟花合照的视频。通过民警的调查与反复观看该段视频,通过视频上显示的地形与地貌,初步确定种植罂粟的地方就在自己的辖区里,而且该名男子是辖区里齐云山镇岩前村的陈某,随即赶往其家中。

通过民警的现场清点,民警发现陈某非法种植毒品原植物共有5株。当被民警问及“为什么要种植罂粟”时,陈某解释说,是自己是因为觉得罂粟花非常好看,所以才在自家院子的花盆里种植了一些。至于为什么会发布在抖音平台上,纯粹是因为看见家里的罂粟花开了非常好看,想要发布到抖音平台上炫耀一番,结果令他没想到的是,引来了民警。

民警对陈某进行法律知识宣传,陈某对自己的违法行为表示后悔,主动将自己种植的罂粟铲除,并将罂粟花抖音视频删除。简而言之,就是“男子抖音晒罂粟花博眼球,却引来了民警”。

抖音平台以流量为导向,算法技术推荐大量眼球视频,其内容审核严重不足,风险控制缺失,经常导致年轻人盲目跟风,安全风险巨大,对其个人健康造成伤害,是对平台上未成年用户的失责。

年轻用户对短视频中的内容很好奇,而且还处于模仿的年龄。一旦内容审核做得不够,短视频内容就会出现问题,这一部分用户就很容易成受害者。

以算法驾驭价值观向来是抖音或今日头条底层运营心态,在这种心态下,抖音内容推荐已经形成了流量、点击率模型、算法技术失去了对人类价值观的指导,盲目推荐给用户高度受欢迎,吸引眼球,甚至破坏了人生观和价值观的内容,导致围观和模仿,近几年来频频出现问题。

种植罂粟花本就违法,但这些为了博取眼球的视频,却能在抖音顺利通过审核并广泛传播,本身折射的就是抖音平台形同虚设的审核机制抖音短视频平台只有对内容审核这一块高度重视,不能对平台内容放任不管的话,那么,抖音这个受大家喜爱的短视频平台,未来势必会遭到反噬,面临法律严格监管的同时,或许还会失去民心。

所以,从长远发展来看,抖音短视频要加强内容审核机制,只有加强了内容审核机制,提高视频上传门槛,加强人工审核,着手进行内容净化,将不符合抖音运营标准的视频内容都逐出平台,抖音才能得到用户的信任进而留住用户。

哪张脸是真的?研究人员用频率分析来识别Deep-Fake图像

在人工智能和Deep-Fake日益盛行的放下,不少照片看似真实,但实际上是由电脑制作的。不过这些图像已经相当具有欺骗性——所谓的深度假图像是由机器学习算法生成的,人类几乎无法将它们与真实照片区分开来。

Horst Grtz Institute的的研究人员和“大规模对手时代的网络安全”(Casa)卓越集群开发了一种有效识别深度伪造图像的新方法。

这种方法被让那些由计算机算法而不是人类创建的伪造图像“一览无遗”。为此,他们还分析了频域中的对象,这是一种已建立的信号处理技术。

该团队在2020年7月15日的国际机器学习会议(ICML)上展示了他们的工作,该会议是机器学习领域的主要会议之一。此外,研究人员将他们的代码免费发布在网上,这样其他小组就可以复制他们的结果。

两种算法的相互作用产生新的图像

deep -fake images是“深度学习”(deep learning)和“fake”(fake)的合成词,是在计算机模型的帮助下生成的,也就是所谓的“生成式对抗网络”(Generative Adversarial Networks),简称GANs。

在这些网络中有两种算法一起工作:第一种算法根据特定的输入数据创建随机图像。第二种算法需要判断图像是否为假图像。如果发现图像是伪造的,则第二种算法会向第一种算法发出修改图像的命令——直到不再将其识别为伪造为止。

近年来,Deep-Fake这种技术已经让那些深度的算法合成假图像变得越来越真实。

在一些网站上,用户可以检查他们是否能够区分真假照片。“在假新闻时代,如果用户不能区分电脑生成的图像和原始图像,这可能会成为一个问题,”系统安全系主任托尔斯滕·霍尔兹(Thorsten Holz)教授说。

为了进行分析,Bochum Fake Image研究小组成员使用了数据集,这些数据集也构成上述页面“哪张脸是真实的”(Which Face is Real)的基础。

在这个跨学科项目中,系统安全系主任Joel Frank、Thorsten Eisenhofer和Thorsten Holz教授、机器学习系主任Asja Fischer教授、数字信号处理系主任Lea Schonherr和Dorothea Kolossa教授达成了合作。

图像频率分析暴露了假图像的“伪影”

到目前为止,不少研究团队已经使用复杂的统计方法分析了伪造的图像。而Bochum Fake Image研究小组选择了一种不同的方法,通过使用离散余弦变换将图像转换到频域。生成的图像因此表示为许多不同余弦函数的和。自然图像主要由低频函数组成。

变换到频域的人物图像:左上角代表低频图像区域,右下角代表高频区域。在左侧,您可以看到真实人物照片的变换:频率范围是均匀分布的。计算机生成的照片的转换(右)包含一个在高频范围内的典型网格结构-典型的伪像。

分析表明,GANs生成的图像在高频范围内会显示伪影。例如,在伪图像的频率表示中出现了一种典型的网格结构。“我们的实验表明,这些伪影不仅出现在GAN生成的图像中。它们是所有深度学习算法的一个结构性问题。系统安全主席Joel Frank解释说。

“我们认为研究中描述的伪影将始终告诉我们该图像是否是由机器学习创建的伪造图像,” Frank补充道。 “因此,频率分析是自动识别计算机生成图像的有效方法。”

《互联网内容审核职业技能等级标准》发行!快来了解相关政策!

随着4G不断普及,2019年我国网民人均使用流量达7.82GB/月/户,而2018年、2017年、2016年的这一数据分别为4.64GB/月/户、1.73GB/月/户、0.76GB/月/户,与之相匹配的是,我国4G用户总数达到12.8亿户,在这个庞大的数字之下,标志着近年来我国移动互联网的高速发展趋势,而PC端生产的数据量和WIFI环境下的用网数据量,更难以统计。根据相关数据显示:2022年,视频在互联网的数据中占比将达到83%,爆炸式的数据仍不断增加,互联网内容审核则是扛着巨大压力缓慢前行。

近年来,网络用户对内容的需求日益多元化:新闻资讯、短视频、影视综艺、音频、动漫、网络小说等类型的内容,大量占据着用户的日常时间,互联网内容逐渐呈现出多元化、碎片化的特点,人们的阅读习惯也发生着变化,为了增长流量,各大互联网内容平台可谓是“快马加鞭”的输出内容,这样一来,免不了出现劣质内容“野蛮生长”,内容违规问题日渐凸显。

由于绝大多数网民对信息的真伪难以辨识,因此,高度依赖于互联网平台对内容的把关,内容审核工作就成为整个互联网平台的有力保障,互联网平台内容信息的真实性、可靠性高,其公信力就就会越高,随之而来的是人们对平台的依赖程度越大,这样,平台自身的发展才会更加完善,形成良性循环;反之,若互联网企业对平台的内容不加筛选、规范和有序引导,会逐渐丧失公信力,不仅如此,其有害内容对青少年用户造成的伤害更是不可估量!

因此,对每一家互联网内容平台来说,确保平台内容的合法性和规范性,健全平台内容审核机制,是关键且需要高度重视的问题。而培养一批素质较高、责任意识强的内容审核人员,成为互联网行业持续繁荣和企业快速发展的迫切需要。

近日,由中国电子学会组织编制的《互联网内容审核职业技能等级标准》(以下简称为标准)正式对外发布。该标准是中国电子学会按照《国家职业教育改革实施方案》的部署,为加强互联网内容审核人才队伍建设,充分发挥科技社团第三方作用,联合有关单位根据《职业技能等级标准开发指南》的有关要求组织编制的,标准规定了互联网内容审核职业技能等级对应的工作领域、工作任务及技能要求。

在标准中提出:互联网内容审核职业技能分为三个等级:初级、中级、高级,依次递进,高级别涵盖低级别要求。

根据中国电子学会教育工作委员会副秘书长王海涛介绍:人才标准编制是中国电子学会作为工业和信息化部直属事业单位、民政部5A级全国性学术类社会团体、人力资源和社会保障部认定的国家级专业技术人员继续教育基地,开展教育培训工作的组成部分,也是中国电子学会“全国电子信息人才能力提升工程”的重要任务之一。人才标准编制是根据市场需求为导向,以技能提升为目标,旨在为相关单位选人用人、教育培训、考核评价提供重要参考依据。

此次,“互联网内容审核”人才标准的发布,得到了中国信息安全评测中心、百度、网易、华为、网景盛世、齐聚科技、中科汇联、中工信推、中联国创等多家单位和专家的支持参与。而这项标准,将会进一步得到修订和完善,并且开展编写培训教材、研发实训平台、组织考核评价等工作,积极与政府有关部门对接进行项目申报和政策衔接,面向院校和社会提供优质的人才培养服务。