短视频内容审核:平台展示“萌宠”,非法交易野生动物

近日,国内野生动物保护组织美境自然(BRC)发布《短视频社交媒体上的野生动物贸易》,以11种保护野生动物为对象,在各种短视频平台上对相关内容进行了为期一个月的调查。

打着“萌宠照”的幌子,短视频平台正在成为非法买卖野生动物的新平台。一只只看着可爱的野生动物,它们面临着被交易的事实,等待它们的可能是被圈养甚至不当饲养后的死亡。短视频平台为野保动物交易站台,助纣为虐实属不该。

调查所涉及的国内三大头部短视频平台中哔哩哔哩和抖音两家暂没有明确的野生动物保护政策,即使建立了政策明确的快手平台,也没有履行检查和核对的义务,高达77%的视频仍有评论询问如何购买。有一个国家《野生动物保护法》对野生动物的保护有具体的等级。早就明确规定严禁保护禁止交易的野生动物,但仍然在网上明目张胆的出售,明目张胆的违法。面对短视频平台的“触雷”,野生动物保护部门应该毫不留情地予以打击。

那么,短视频平台应该如何加强审核,从而维护平台本身的利益呢?

这就要求媒体行业从多种方面提高视频审核效率,具体来说:

一、针对敏感词去进行监控

敏感词的监控机制不仅监控发布的内容,还监控评论。一旦内容监控到敏感词拒绝直接发送,评论区监控到敏感词满足一定的审查要求,需要对视频进行审查,并将敏感评论的用户记录到“嫌疑人关押处”。

二、建立健全对视频发布者的认证与审查机制

为了维护良好的网络环境,短视频平台应建立视频发布者认证机制,建立发布低俗、敏感、色情相关信息的用户黑名单,采取加强审核、禁止视频发布等措施,完善用户审核机制,避免使用新账号继续发布非法视频。

三、视频评分机制

视频评分机制有两种类型。一个是连续优秀视频发布商发布的视频系统自动通过审核。这个优秀的标准是非常严格的,比如毫无污点,达到一定数量的喜欢、评论和关注。只有这样才能评为优秀;还有手动评分机制。评分标准将非法内容的直接删除反馈给发布者,记录用户数据、操作者、原因、时间,以便每次审核都可以追溯。同时也可以用来统计App里发的是什么类型的视频,用于年度总结和反思。

四、员工考核机制

员工考核机制包括每日完成率、审批通过率、单位平均视频审核时间等。其目的是防止员工偷懒,而不是严格审核,奖励优秀员工。

科技可以为媒体创造更多的发展空间和盈利模式。作为一个新媒体平台,不要忘记相关短视频运营商首先要履行法律赋予的义务。短视频平台不能为赌博、吸毒等非法活动以及非法野生动物贸易提供舞台。加强审核,遵守规则,维护平台利益,为网民创造健康安全的环境。

APP内容审核:步步高家教机多次涉黄内容审核该如何去做?

步步高家教机最近被推到了舆论的前沿,因为其应用商店中的“小肚皮”应用包含不适合未成年人观看的内容。

据悉,该软件具有职业换装、“圈子”社区、“小窝”、“游乐园”等功能,而其中的“处关系“交友。也被批评为低俗和不适合未成年人。

甚至还有诱导自拍,‘按要求充值VIP’,“躺床上拍,伸直,从大腿跟拍到脚指头“等内容。这都是被控诱导猥亵未成年人,影响是可怕的。

数起涉黄的事件许多父母担心。毕竟学习机的用户主要是未成年人,很难区分信息的好坏。对于孩子来说,这样的信息无疑是非常危险的。

而新闻里的事件,绝不是个例也不是偶然。虽然每次步步高都有回应,但这不是它的错,主要是因为第三方软件的内容有问题,而且已经被它自己审核过了。但审核不严难道就没有错吗?

事实上,步步高的审核不严,放松管理与其产品中不断出现的此类问题密切相关。步步高应该如何去做好内容审核呢?

一、审核方法包括机器审核和人工审核

机器审计解决批量问题,人工审计解决其他问题。所有平台都成立了人工审核小组。机器审计只适用于具有明显特征和公众共识的违规行为,也可以作为人工审计的辅助判断工具。

二、通过社交媒体宣传自己

抓住微博,微信等社交媒体兴起和广泛使用的机会。积极扩大宣传口号。您可以通过这些社交平台将您的思想,观念和精神传递给社会。在这个过程中,沟通的内容非常重要。步步高家教机作为儿童教育的辅助软件,必须使用多种渠道来促进正能量。

三、充分利用舆论监督系统

通过舆情监测系统,可以监测和检查信息发布者,舆论发生的时间和发展以及敏感词的出现,并可以预先制定舆论应对计划。当舆情监测系统在软件上检测到不良信息时,它将立即做出响应。积极回应并不是为了避免问题,而是要对问题及其将来的解决方案做出合理的解释。积极消息将在处理后积极传播。

在为青少年创造安全学习方面,步步高还有很长的路要走。因此,要想在竞争中获得一席之地,不被淘汰,步步高家教机不仅要大力发展人工智能技术,做好产品研发,还要为这些“小用户”的成长承担更大的责任。

对于步步高家教机,在当前时代,要获得更多的资源,要更好地操作它并不容易。面对互联网上的负面舆论,如何避免它也是长期运行的必要条件。只有通过各种监测避免滋生负面舆论,我们才能保持自己的良好形象。对于整个行业来说,只有基于人工智能技术,保证用户的信息安全,认真做产品,而不是为了赚钱去做损害企业形象和社会利益的事情,才能更长远的发展。步步高的这个事件值得整个行业引以为戒,反思自己,努力前进。

央视点名直播带货乱象调查 直播平台如何进行审核?

直播带货是近几年兴起的一种新型的服务方式,直播电商行业的高速发展不仅给不少厂家和供应商打开了销路,也给消费者带来了便利。但是在直播带货兴起的同时虚假宣传、货不对板、售后维权难等一系列的问题也日渐凸显,直播带货行业究竟是一个什么样的景象呢?以下来看记者调查。

央视《正点财经》报道直播带货乱象

宋宁是某短视频平台一名主播,他告诉记者,今年以来直播带货行业发展迅猛,来找他们合作的商户也比过去有了大幅增加,除了一些品牌经销商和厂家,大量的第三方机构也在涌入直播带货行业。宋宁:“所谓的第三方,他们自己本身来讲没有产品的,但是他们能够通过一些关系找到一部分的产品,他们也没有对这个产品做一个基本的认证或者质检,就直接来找到我们了,往往这种机构找的产品价格肯定是相当低的,但是对于品质来讲是要画一个大大的问号了。”

据业内人士介绍,第三方机构给的价格通常是全网最低价,价格上的优势明显,符合现在大部分机构的选品标准,但同时第三方机构的质量问题在把控上却是最难的,一旦发生质量问题,就极易产生虚假宣传、货不对板等问题。

“因为大部分MCN机构,在选品的时候都有三个标准,第一个标准是国内比较知名的品牌;第二个标准就是进过绝对头部的达人,头部网红直播间的产品。如果它前两个条件都没有达到的话,它能给到MCN机构全网最低价的话,也会去选择这样子的产品进入到直播间,第三个标准的话是最容易翻车的。”

辛巴、罗永浩和康巴赫厨具因售卖假货或者虚假宣传被处罚

近日,广州市市场监管局通报了“辛巴燕窝”事件的调查处理结果,拟对辛巴旗下公司广州和翊电子商务有限公司做出责令停止违法行为,罚款90万元的行政处罚。对明知品牌燕窝供应方广州融煜公司作出责令停止违法行为,罚款两百万元的行政处罚。

(“辛巴燕窝”事件的调查处理结果)

实际上,直播翻车的不止辛巴,罗永浩在直播间销售“皮尔卡丹羊毛衫”后经检验产品为非羊毛制品。巴赫厨具有限公司也被浙江武义县市场监管部门处以罚款,被责令停止违法行为尽快消除影响。理由正是,使用德国品牌等引人误解的虚假宣传的违法行为。

(康巴赫厨具因虚假宣传被浙江武义县市场监管部门处罚)

市场监管总局发布网络直播营销活动监管新规

方碧云(广东艾特朗律师事务所律师):“消费者首先是可以向这种商品的经销商,要求经销商来承担一个法律责任。那么在经销商如果找不到的情况下,那么你也可以同时找主播,因为主播相当于是一个广告推介、广告代言人的角色,在法律上面,主播他就要承担对消费者的这一个责任。平台其实是也是有一个合理的审查义务的,如果平台在明知这个产品是存在问题的情况下,仍然允许在他的平台发布的话,那么电子商务平台它也是要对消费者来承担这个赔偿责任。”

市场监管总局日前发布《关于加强网络直播营销活动监管的指导意见》对网络直播营销活动中三大主体即网络平台、商品经营者、网络直播者的责任进行梳理,分层次进行责任划分。

同时,这份意见还要求,要依法查处网络直播营销违法行为,涉及擅自删除消费者评价等电子商务违法、侵犯消费者合法权益、不正当竞争、产品质量违法、侵犯知识产权、食品安全违法、广告违法、价格违法等8大违法行为,并明确依据相应的法律予以查处。

来源:上游新闻

内容审核区块链参与方包括哪几大机构

内容审核区块链参与方包括内容提供机构、内容审核机构、内容播出机构(或 内容发布机构)和监管机构。

(1)内容提供机构

是内容发行机构或内容制作机构,为内容播出机构提供内容源。

(2)内容审核机构

由政府部门组织确定并给予权威审查授权的审核节点,传统内容播出机构的 内容审核部门通过审查后,也可授权作为内容审核机构节点加入内容审核区块链。

(3)内容播出机构

包括传统的广播电视播出机构(例如:各级电视台、各级有线电视网络公司 等)、新媒体平台(例如:各级 IPTV 播控平台、OTT 平台等)以及其他网络视 听节目服务单位(例如:爱奇艺、优酷、腾讯等互联网视频服务平台)。

(4)监管机构

是具有公信力的监管部门,具有审核联盟成员的权利,监管部门保存全量数 据,并拥有查看每一笔交易以及参与者管理的权限。 在多方参与的联盟链中,各参与方在分工协作的同时要职责分明、各司其职。 各参与各方根据用户角色具有不同的权限,包括各类业务数据的写入、读取、业 务权限控制,由区块链数字身份系统实现,底层链节点负责对这些权限进行验证、 响应和处理。

工信部重拳出击,26款毒瘤APP被下架,网友点赞:必须严惩

互联网时代,新技术、新产品的推广和应用一直在深入消费者的日常生活。在为消费者带来方便的同时,也造成消费者个人信息易被窃取泄露的安全隐患。

尤其是在刷脸技术推广开来后,越来越多的消费者照片被不法分子窃取贩卖;部分应用软件甚至专门通过非法收取、转卖用户人脸信息来获利。

对于这些不断诞生的新业态和新技术,我国相关部门一直采取审慎、包容的监管原则。对于新型技术,监管部门通过包容来助推创新,同时寻找合适的监管力度和途径。

但这并非意味着包容就是放纵,也并不意味着这个领域是法外之地。因此,近日工信部重拳出击,对26款毒瘤APP直接采取下架处理,以此惩罚违规APP及其背后的运营者,同时也起到了一定的警醒作用。

12月16日,工信部信息通信管理局发布一则通报。根据通报内容,相关职责部门在针对12月3日通报的60家存在侵害用户权益行为APP企业进行核查复检后发现,仍有部分APP没有按照工信部要求完成整改。

因此,根据《网络安全法》以及《移动智能终端应用软件预置和分发管理暂行规定》(工信部信管【2016】407号)等法律和规范性文件要求,对26款APP进行下架。

从工信部公布下架应用软件名单中可知,其中不少APP都是部分消费者用过的软件,例如小蚁摄像机、最美证件照、九元航空等。

可能部分软件并没有想要利用消费者的个人信息做不法勾当,但强制、违规收集用户个人信息等行为,同样需要整改。对于工信部的严格要求,不少网友都点赞并支持严惩。

笔者了解到,2020年工信部推进的APP侵害用户权益专项整治行动中,自查自纠阶段,已有8000多款APP按要求完成整改。

不过,新型技术或者应用的诞生,永远走在国家法律和相关法规的前面。对于这些技术或应用,国家相关部门已经在加紧制定更合理更有力的监管措施,虽然会慢一步,但红线就在那里。

只要APP或背后的企业不碰红线,尊重消费者的权益和隐私,遵守市场竞争的基本原则,监管的重拳就不会轻易砸到头上。

猫途鹰APP被国家网信办下架 官博称内容审核出现漏洞

12月8日,国家网信办发布消息称,自11月5日起组织开展移动应用程序信息内容乱象专项整治,首批清理下架猫途鹰等105款违法违规移动应用程序。对此,猫途鹰官方微博回复称,内容审核出现了一些漏洞,公司下架进行修整。

据了解,此次国家网信办下架违法违规移动应用程序,是针对网民反映强烈的部分移动应用程序传播淫秽色情、暴恐血腥等违法违规信息,提供诈骗赌博、招嫖卖淫等违法违规服务的网络乱象。而猫途鹰则成为首批清理下架的违法违规移动应用程序。北京商报记者发现,有网友在猫途鹰官方微博下留言询问下架一事。随后,猫途鹰官博回复称“global这边内容审核出现了一些漏洞,我们下架进行修整和再审核。”

公开信息显示,TripAdvisor猫途鹰app除了提供全球旅游酒店订票,以及全球旅行者的点评建议外,还涉及旅行规划和酒店、景点、餐厅预订等功能。上述下架信息发布后,北京商报记者尝试在安卓应用商店、苹果应用商店中搜寻该软件,已无法找到相关信息。

来源:北京商报

最严直播审核管理规定来了:主播须实名 未成年人禁“打赏”

直播打赏必须实名认证、未成年人不能打赏、打赏资金须设置延迟到账“冷静期”……近日,国家广电总局、市场监管总局接连发布直播平台及电商直播监管新规,直播乱象迎来强监管。那么,“最严新规”严在哪里?我们一起来了解。

规定一:严禁未成年人打赏。

“打赏”是直播平台盈利的重要方式之一,但未成年人自控力和辨别力较差,极易被光怪陆离的网络直播所吸引进而作出不当行为。

即将出台的《直播行业打赏行为管理规则》等通知明确,网络秀场直播平台要对“打赏”用户实行实名制管理。未实名制注册的用户不能打赏,未成年用户不能打赏。要通过实名验证、人脸识别、人工审核等措施,确保实名制要求落到实处,封禁未成年用户的打赏功能。

有专家表示,确保政策落实到位,防止“上有政策,下有对策”,一方面要全面推行“注册实名认证+支付前二次识别”的双认证系统,只有注册用户信息和二次识别信息相匹配才能打赏。同时,有必要通过责任划分倒逼企业落实相关政策。比如发生相关纠纷时,直播平台如果不能证明自己充分履行了相关审查义务和职责,就应无条件退还相关款项。

规定二:直播带货的商家和个人须实名认证。

国家广电总局发布的《关于加强网络秀场直播和电商直播管理的通知》要求,网络电商直播平台要对开设直播带货的商家和个人进行相关资质审查和实名认证,完整保存审查和认证记录,不得为无资质、无实名、冒名登记的商家或个人开通直播带货服务。

此外,要积极探索利用大数据、人工智能等新技术服务于鼓励倡导的直播节目,让算法支撑优质视听内容的推送,对违规不良内容实现精准预警和及时阻断。

直播带货作为一种新兴的电商营销模式,兴盛与乱象并存,乱象主要包括以低价吸引顾客和观众,推销假冒伪劣商品。出台相应的法规,促使平台对于带货的短视频或者直播做好相应审核,可以有效保障消费者权益,使行业健康发展。

规定三:将屡教不改的主播纳入黑名单,不允许更换“马甲”再度开播。

对于直播内容问题性质严重、屡教不改的主播,《通知》要求,网络秀场直播平台要建立直播间和主播的业务评分档案,细化节目质量评分和违规评分等级,并将评分与推荐推广挂钩。要做好主播尤其是头部主播政策法律法规和相关知识培训。对于多次出现问题的直播间和主播,应采取停止推荐、限制时长、排序沉底、限期整改等处理措施。对于问题性质严重、屡教不改的,关闭直播间,将相关主播纳入黑名单并向广播电视主管部门报告,不允许其更换“马甲”或更换平台后再度开播。

中国消费者协会消费监督部主任张德志认为,这一规定将直播带货监管提到核心位置,明确直播平台和主播等相关主体责任,规范直播带货行为,违法直播查处方式更加明确,不仅有利于网络直播平台的良性运行和维护,也有利于更好的保护消费者合法权益。

下一步,需要从法律和道德层面夯实平台责任,平台需要强化技术手段限制直播中的违规行为。此外,要加强行业组织自律,同时建立第三方监督、投诉机制,多部门联手,在法律、行政监管之上形成一整套社会制约机制,营造行业健康生态。

来源:中国政策研究网

谷歌收紧内部留言板规则:加强内容审核

据报道,谷歌内部文件显示,由于员工的讨论越来越激烈,因此该公司要求更加积极地审核内部留言板的内容。

谷歌内部社区管理团队表示,其内部留言板上被标记为种族主义和辱骂性信息的内容越来越多。该团队认为,这是因为员工在家工作期间分享了更多信息,以及“艰难的全球对话”增加所致。

因此,该公司从2019年开始扩大内容审核试点,共覆盖多个平台的超过75个讨论组,还要求多数讨论组的负责人扮演审核员的角色,并完成审核培训。此外还要制定章程来定义小组目的,在保证内容符合章程的情况下确保小组对话的包容性。

谷歌内部社区管理团队在内部博客中表示,正是因为当今世界出现各种复杂局面,因此才亟需确保工作场所成为一个受人欢迎的地方。