短视频内容审核:平台展示“萌宠”,非法交易野生动物

近日,国内野生动物保护组织美境自然(BRC)发布《短视频社交媒体上的野生动物贸易》,以11种保护野生动物为对象,在各种短视频平台上对相关内容进行了为期一个月的调查。

打着“萌宠照”的幌子,短视频平台正在成为非法买卖野生动物的新平台。一只只看着可爱的野生动物,它们面临着被交易的事实,等待它们的可能是被圈养甚至不当饲养后的死亡。短视频平台为野保动物交易站台,助纣为虐实属不该。

调查所涉及的国内三大头部短视频平台中哔哩哔哩和抖音两家暂没有明确的野生动物保护政策,即使建立了政策明确的快手平台,也没有履行检查和核对的义务,高达77%的视频仍有评论询问如何购买。有一个国家《野生动物保护法》对野生动物的保护有具体的等级。早就明确规定严禁保护禁止交易的野生动物,但仍然在网上明目张胆的出售,明目张胆的违法。面对短视频平台的“触雷”,野生动物保护部门应该毫不留情地予以打击。

那么,短视频平台应该如何加强审核,从而维护平台本身的利益呢?

这就要求媒体行业从多种方面提高视频审核效率,具体来说:

一、针对敏感词去进行监控

敏感词的监控机制不仅监控发布的内容,还监控评论。一旦内容监控到敏感词拒绝直接发送,评论区监控到敏感词满足一定的审查要求,需要对视频进行审查,并将敏感评论的用户记录到“嫌疑人关押处”。

二、建立健全对视频发布者的认证与审查机制

为了维护良好的网络环境,短视频平台应建立视频发布者认证机制,建立发布低俗、敏感、色情相关信息的用户黑名单,采取加强审核、禁止视频发布等措施,完善用户审核机制,避免使用新账号继续发布非法视频。

三、视频评分机制

视频评分机制有两种类型。一个是连续优秀视频发布商发布的视频系统自动通过审核。这个优秀的标准是非常严格的,比如毫无污点,达到一定数量的喜欢、评论和关注。只有这样才能评为优秀;还有手动评分机制。评分标准将非法内容的直接删除反馈给发布者,记录用户数据、操作者、原因、时间,以便每次审核都可以追溯。同时也可以用来统计App里发的是什么类型的视频,用于年度总结和反思。

四、员工考核机制

员工考核机制包括每日完成率、审批通过率、单位平均视频审核时间等。其目的是防止员工偷懒,而不是严格审核,奖励优秀员工。

科技可以为媒体创造更多的发展空间和盈利模式。作为一个新媒体平台,不要忘记相关短视频运营商首先要履行法律赋予的义务。短视频平台不能为赌博、吸毒等非法活动以及非法野生动物贸易提供舞台。加强审核,遵守规则,维护平台利益,为网民创造健康安全的环境。

APP内容审核:步步高家教机多次涉黄内容审核该如何去做?

步步高家教机最近被推到了舆论的前沿,因为其应用商店中的“小肚皮”应用包含不适合未成年人观看的内容。

据悉,该软件具有职业换装、“圈子”社区、“小窝”、“游乐园”等功能,而其中的“处关系“交友。也被批评为低俗和不适合未成年人。

甚至还有诱导自拍,‘按要求充值VIP’,“躺床上拍,伸直,从大腿跟拍到脚指头“等内容。这都是被控诱导猥亵未成年人,影响是可怕的。

数起涉黄的事件许多父母担心。毕竟学习机的用户主要是未成年人,很难区分信息的好坏。对于孩子来说,这样的信息无疑是非常危险的。

而新闻里的事件,绝不是个例也不是偶然。虽然每次步步高都有回应,但这不是它的错,主要是因为第三方软件的内容有问题,而且已经被它自己审核过了。但审核不严难道就没有错吗?

事实上,步步高的审核不严,放松管理与其产品中不断出现的此类问题密切相关。步步高应该如何去做好内容审核呢?

一、审核方法包括机器审核和人工审核

机器审计解决批量问题,人工审计解决其他问题。所有平台都成立了人工审核小组。机器审计只适用于具有明显特征和公众共识的违规行为,也可以作为人工审计的辅助判断工具。

二、通过社交媒体宣传自己

抓住微博,微信等社交媒体兴起和广泛使用的机会。积极扩大宣传口号。您可以通过这些社交平台将您的思想,观念和精神传递给社会。在这个过程中,沟通的内容非常重要。步步高家教机作为儿童教育的辅助软件,必须使用多种渠道来促进正能量。

三、充分利用舆论监督系统

通过舆情监测系统,可以监测和检查信息发布者,舆论发生的时间和发展以及敏感词的出现,并可以预先制定舆论应对计划。当舆情监测系统在软件上检测到不良信息时,它将立即做出响应。积极回应并不是为了避免问题,而是要对问题及其将来的解决方案做出合理的解释。积极消息将在处理后积极传播。

在为青少年创造安全学习方面,步步高还有很长的路要走。因此,要想在竞争中获得一席之地,不被淘汰,步步高家教机不仅要大力发展人工智能技术,做好产品研发,还要为这些“小用户”的成长承担更大的责任。

对于步步高家教机,在当前时代,要获得更多的资源,要更好地操作它并不容易。面对互联网上的负面舆论,如何避免它也是长期运行的必要条件。只有通过各种监测避免滋生负面舆论,我们才能保持自己的良好形象。对于整个行业来说,只有基于人工智能技术,保证用户的信息安全,认真做产品,而不是为了赚钱去做损害企业形象和社会利益的事情,才能更长远的发展。步步高的这个事件值得整个行业引以为戒,反思自己,努力前进。

工信部重拳出击,26款毒瘤APP被下架,网友点赞:必须严惩

互联网时代,新技术、新产品的推广和应用一直在深入消费者的日常生活。在为消费者带来方便的同时,也造成消费者个人信息易被窃取泄露的安全隐患。

尤其是在刷脸技术推广开来后,越来越多的消费者照片被不法分子窃取贩卖;部分应用软件甚至专门通过非法收取、转卖用户人脸信息来获利。

对于这些不断诞生的新业态和新技术,我国相关部门一直采取审慎、包容的监管原则。对于新型技术,监管部门通过包容来助推创新,同时寻找合适的监管力度和途径。

但这并非意味着包容就是放纵,也并不意味着这个领域是法外之地。因此,近日工信部重拳出击,对26款毒瘤APP直接采取下架处理,以此惩罚违规APP及其背后的运营者,同时也起到了一定的警醒作用。

12月16日,工信部信息通信管理局发布一则通报。根据通报内容,相关职责部门在针对12月3日通报的60家存在侵害用户权益行为APP企业进行核查复检后发现,仍有部分APP没有按照工信部要求完成整改。

因此,根据《网络安全法》以及《移动智能终端应用软件预置和分发管理暂行规定》(工信部信管【2016】407号)等法律和规范性文件要求,对26款APP进行下架。

从工信部公布下架应用软件名单中可知,其中不少APP都是部分消费者用过的软件,例如小蚁摄像机、最美证件照、九元航空等。

可能部分软件并没有想要利用消费者的个人信息做不法勾当,但强制、违规收集用户个人信息等行为,同样需要整改。对于工信部的严格要求,不少网友都点赞并支持严惩。

笔者了解到,2020年工信部推进的APP侵害用户权益专项整治行动中,自查自纠阶段,已有8000多款APP按要求完成整改。

不过,新型技术或者应用的诞生,永远走在国家法律和相关法规的前面。对于这些技术或应用,国家相关部门已经在加紧制定更合理更有力的监管措施,虽然会慢一步,但红线就在那里。

只要APP或背后的企业不碰红线,尊重消费者的权益和隐私,遵守市场竞争的基本原则,监管的重拳就不会轻易砸到头上。

猫途鹰APP被国家网信办下架 官博称内容审核出现漏洞

12月8日,国家网信办发布消息称,自11月5日起组织开展移动应用程序信息内容乱象专项整治,首批清理下架猫途鹰等105款违法违规移动应用程序。对此,猫途鹰官方微博回复称,内容审核出现了一些漏洞,公司下架进行修整。

据了解,此次国家网信办下架违法违规移动应用程序,是针对网民反映强烈的部分移动应用程序传播淫秽色情、暴恐血腥等违法违规信息,提供诈骗赌博、招嫖卖淫等违法违规服务的网络乱象。而猫途鹰则成为首批清理下架的违法违规移动应用程序。北京商报记者发现,有网友在猫途鹰官方微博下留言询问下架一事。随后,猫途鹰官博回复称“global这边内容审核出现了一些漏洞,我们下架进行修整和再审核。”

公开信息显示,TripAdvisor猫途鹰app除了提供全球旅游酒店订票,以及全球旅行者的点评建议外,还涉及旅行规划和酒店、景点、餐厅预订等功能。上述下架信息发布后,北京商报记者尝试在安卓应用商店、苹果应用商店中搜寻该软件,已无法找到相关信息。

来源:北京商报

最严直播审核管理规定来了:主播须实名 未成年人禁“打赏”

直播打赏必须实名认证、未成年人不能打赏、打赏资金须设置延迟到账“冷静期”……近日,国家广电总局、市场监管总局接连发布直播平台及电商直播监管新规,直播乱象迎来强监管。那么,“最严新规”严在哪里?我们一起来了解。

规定一:严禁未成年人打赏。

“打赏”是直播平台盈利的重要方式之一,但未成年人自控力和辨别力较差,极易被光怪陆离的网络直播所吸引进而作出不当行为。

即将出台的《直播行业打赏行为管理规则》等通知明确,网络秀场直播平台要对“打赏”用户实行实名制管理。未实名制注册的用户不能打赏,未成年用户不能打赏。要通过实名验证、人脸识别、人工审核等措施,确保实名制要求落到实处,封禁未成年用户的打赏功能。

有专家表示,确保政策落实到位,防止“上有政策,下有对策”,一方面要全面推行“注册实名认证+支付前二次识别”的双认证系统,只有注册用户信息和二次识别信息相匹配才能打赏。同时,有必要通过责任划分倒逼企业落实相关政策。比如发生相关纠纷时,直播平台如果不能证明自己充分履行了相关审查义务和职责,就应无条件退还相关款项。

规定二:直播带货的商家和个人须实名认证。

国家广电总局发布的《关于加强网络秀场直播和电商直播管理的通知》要求,网络电商直播平台要对开设直播带货的商家和个人进行相关资质审查和实名认证,完整保存审查和认证记录,不得为无资质、无实名、冒名登记的商家或个人开通直播带货服务。

此外,要积极探索利用大数据、人工智能等新技术服务于鼓励倡导的直播节目,让算法支撑优质视听内容的推送,对违规不良内容实现精准预警和及时阻断。

直播带货作为一种新兴的电商营销模式,兴盛与乱象并存,乱象主要包括以低价吸引顾客和观众,推销假冒伪劣商品。出台相应的法规,促使平台对于带货的短视频或者直播做好相应审核,可以有效保障消费者权益,使行业健康发展。

规定三:将屡教不改的主播纳入黑名单,不允许更换“马甲”再度开播。

对于直播内容问题性质严重、屡教不改的主播,《通知》要求,网络秀场直播平台要建立直播间和主播的业务评分档案,细化节目质量评分和违规评分等级,并将评分与推荐推广挂钩。要做好主播尤其是头部主播政策法律法规和相关知识培训。对于多次出现问题的直播间和主播,应采取停止推荐、限制时长、排序沉底、限期整改等处理措施。对于问题性质严重、屡教不改的,关闭直播间,将相关主播纳入黑名单并向广播电视主管部门报告,不允许其更换“马甲”或更换平台后再度开播。

中国消费者协会消费监督部主任张德志认为,这一规定将直播带货监管提到核心位置,明确直播平台和主播等相关主体责任,规范直播带货行为,违法直播查处方式更加明确,不仅有利于网络直播平台的良性运行和维护,也有利于更好的保护消费者合法权益。

下一步,需要从法律和道德层面夯实平台责任,平台需要强化技术手段限制直播中的违规行为。此外,要加强行业组织自律,同时建立第三方监督、投诉机制,多部门联手,在法律、行政监管之上形成一整套社会制约机制,营造行业健康生态。

来源:中国政策研究网

谷歌收紧内部留言板规则:加强内容审核

据报道,谷歌内部文件显示,由于员工的讨论越来越激烈,因此该公司要求更加积极地审核内部留言板的内容。

谷歌内部社区管理团队表示,其内部留言板上被标记为种族主义和辱骂性信息的内容越来越多。该团队认为,这是因为员工在家工作期间分享了更多信息,以及“艰难的全球对话”增加所致。

因此,该公司从2019年开始扩大内容审核试点,共覆盖多个平台的超过75个讨论组,还要求多数讨论组的负责人扮演审核员的角色,并完成审核培训。此外还要制定章程来定义小组目的,在保证内容符合章程的情况下确保小组对话的包容性。

谷歌内部社区管理团队在内部博客中表示,正是因为当今世界出现各种复杂局面,因此才亟需确保工作场所成为一个受人欢迎的地方。

音视频直播平台乱象侵害未成年人 专家建议加大内容风险审核力度

直播间低俗表演、“诱导打赏”、封禁主播借壳复出······近日,在2020音视频直播行业绿色内容生态共建峰会上,南都网络内容生态治理研究中心发布了《音视频直播平台内容痛点及治理创新报告》(以下简称《报告》)。

报告指出,音视频直播平台目前仍存在不规范现象,平台在内容监管上要思考治理创新。

自2019年12月起,南都网络内容生态治理研究中心(以下简称“研究中心”)对音视频直播行业的100余家平台展开为期一年的持续监测,剖析了行业在主播管理、内容审核、直播打赏、未成年人、内容建设五个方面存在的管理瓶颈以及行业治理现状。

经过一年多时间的监测巡查,研究中心发现主播常见违规行为可归集为四种类型:第一种是沉疴已久的直播间低俗表演、传递不良价值观等行为;第二种是主播及其经纪代理的“诱导打赏”行为;第三种是利用直播间等公开渠道售卖违规资源或者色情服务;第四种是已遭平台甚至行业封禁主播通过换马甲、换平台借壳复出,比如,注册小号、采用“变声器”以身犯险。

在内容审核方面,研究中心发现目前音视频直播审核能力参差不齐、中小平台审核力量薄弱的问题依然存在,最鲜明的表现是对举报处理的响应迟缓。

今年7月,研究中心曾对13家直播平台的举报便捷度和反馈效率进行实测,在举报部分直播间低俗内容后,12小时内有8家平台作出回应,38%的平台没有回音,部分平台虽通过私信告知用户已接收到举报,但48小时内均未给出任何后续进展消息。

《报告》指出,作为一种新型消费服务形态,直播打赏的创新与漏洞并存。

研究中心曾针对直播打赏展开调查,发现存在打赏金额上限普遍设定过高、直播间内打赏过于频繁、利用“抽奖”“竞猜”“返利”等方式涉嫌组织网络赌博等现象。比如,通过100家平台的礼物打赏额度进行梳理,发现四成平台设置单次打赏金额最高可超百万元。

未成年人打赏难退的纠纷,则暴露了平台在未成年人识别、退款机制不健全等诸多方面的短板。南都网络内容生态治理研究中心曾梳理25家平台用户协议中和未成年人相关的条款,发现仅有不足四成平台对未成年人的充值消费行为作出提示,且多为“免责条款”。

在未成年人保护方面,目前,未成年人浏览区域推荐低俗内容、适合未成年人浏览内容供给不足等现象在行业中比较常见。

今年9月,南都网络内容生态治理研究中心在调查中仍发现,有的视频网站中教育频道存在与教育无关的短视频,其中包含标题封面性暗示、传播伪成功学、情感PUA、输出低俗庸俗价值观等内容,目前,相关资源现已下架。

在对全国15个省份近2000名未成年人家长进行的问卷调查中发现,仅三成受访家长表示会开启青少年模式管理孩子浏览视频、直播的行为。

音视频直播平台如何实现内容监管的治理创新?《报告》发现,目前部分平台已通过建立信用评价体系、AI技术赋能审核、技术识别未成年人、优化青少年模式,以及算法干预内容导向等措施加强治理。

在主播管理方面,较多的是建立信用管理体系和严格的评分机制,如酷狗直播等平台采取了主播管理分级分类措施,让主播行为直接与本人信用分关联,并与公会信誉值挂钩,一旦主播违规,则公会也会被连带影响信誉值。

在审核方面,目前多数平台都采取了人机审核相结合的模式,比如自主研发AI、声纹等智能识别算法模型,用户内容一经上传,首先经过图片识别、语音识别等技术过滤,再由人工团队进行复核。

关于未成年人消费、打赏难退等问题,《报告》建议,有效识别未成年人身份,实现事前阻断是防范关键。目前,多数平台已建立起未成年人身份识别系统,通过人脸识别、用户画像、行为数据分析等多种技术手段来定位未成年用户,实施拦截。未成年人内容供给方面,多数平台通过对青少年模式的优化,实现内容的多元化、个性化输送。

数美科技运用人工智能技术进行风险识别,该公司创始人、CEO唐会军指出,当前在内容审核上人工成本高,如果平台规模大,投入成本是非常高昂的,而在语音等特殊场景下,对内容的风险识别有很大的技术难度,“很多人在一起说话,非常嘈杂,再放些背景音乐,识别起来就更有一定挑战。”

在中国信息通信研究院互联网法律研究中心研究员石月看来,平台需要在治理中发挥关键作用,加强平台文字、图片等内容监控技术,加大语音审核巡查的研发,“可能也需要政府出台一些鼓励性政策,来鼓励企业在这方面进行一些研发。”石月认为,平台还要加强提升正面、高质量内容的输出。

来源:中国青年报

步步高家教机现“成人内容” 检察日报:凸显内容审核缺位

为了帮助孩子学习,张先生去年给8岁的女儿买了一台步步高家教机。就在前不久,他发现家教机里一个名为“小肚皮”的App软件中,竟含有不适合孩子观看的“成人内容”,不仅有相对暴露的图片,甚至还有性爱漫画。就此,步步高教育电子有限公司客服回应称,“小肚皮”App是第三方软件,目前已经将该软件下架。“小肚皮”App工作人员则表示,类似问题可能是审查疏忽导致,将组织技术人员尽快处理(7月5日《北京青年报》)。

本来是帮助孩子学习的家教机,却出现少儿不宜的“成人内容”。这一严重侵犯青少年心理健康的现象自然会让家长异常担忧。虽然据报道可知,这些含有成人内容的App并非原装的软件,可能是用户自己安装的。但这也凸显出,无论是应用商店还是App提供者,都存在着严重的不负责任。

众所周知,未成年人心智不成熟、自制力差、好奇心和模仿力强。在一些“成人内容”的诱导下,更容易有样学样,误入歧途。要知道,家教机本来就是给学生学习用的,其用户群体大都是中小学生。他们本应该远离那些少儿不宜的“成人内容”。无论是家长还是社会都应为其提供一道绿色的隔离墙。

尤其是,既然是专供中小学生使用的家教机,那么,无论是家长还是教师,都会想当然地认为其中大部分是适合青少年的内容,至少不含有少儿不宜的内容。进而放心地将家教机交给中小学生使用。也就是说,暗藏在家教机这一隐秘角落中的“成人内容”,更会让家长和老师防不胜防,进而不声不响地侵害未成年人的心理健康。

由此可见,这些提供“成人内容”的App以及应用商店,显然是以牺牲未成年人的权益来赚钱,既违法又无德。因为,在任何具有常识和正常判断能力的人来看,这些内容均有损未成年人身心健康。对此,App运营者不可能不知道,应用商店不可能不知道,提供家教机的厂商不可能不知道。可见,其明知故犯的行为就是在拿未成年人的未来开玩笑。

对此,无论是网络安全法还是《移动互联网应用程序信息服务管理规定》,都严格禁止利用App等途径制作、复制、发布、传播法律法规禁止的信息内容。违反者,可能受到罚款、暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照的处罚,甚至应承担刑事责任。

而实际上,在现有技术条件下,在专门针对学生的家教机、应用商店中屏蔽少儿不宜内容并非难题。完全可以采取大数据技术筛查、剔除可能损害未成年人身心健康的内容。可见,在家教机中的应用商店内出现涉及“成人内容”的App,是有关机构不作为、不审核甚至是有意放纵。监管部门显然不能装作没看见,而应果断查处,严肃惩戒。

呵护青少年健康成长是全社会的责任。而短短一段“成人内容”给学生带来的损害可能抵消学习一天所获得的收益。这就要求,面向学生群体的学习教育类产品厂商,包括App开发者,必须明确主体责任,完善审核和过滤机制,守住底线。监管机构也要加强审查监管,加强处罚力度,让那些以侵害未成年人合法权益换取收益的行为承担代价,为青少年健康成长提供优良的外部环境。