工信部重拳出击,26款毒瘤APP被下架,网友点赞:必须严惩

互联网时代,新技术、新产品的推广和应用一直在深入消费者的日常生活。在为消费者带来方便的同时,也造成消费者个人信息易被窃取泄露的安全隐患。

尤其是在刷脸技术推广开来后,越来越多的消费者照片被不法分子窃取贩卖;部分应用软件甚至专门通过非法收取、转卖用户人脸信息来获利。

对于这些不断诞生的新业态和新技术,我国相关部门一直采取审慎、包容的监管原则。对于新型技术,监管部门通过包容来助推创新,同时寻找合适的监管力度和途径。

但这并非意味着包容就是放纵,也并不意味着这个领域是法外之地。因此,近日工信部重拳出击,对26款毒瘤APP直接采取下架处理,以此惩罚违规APP及其背后的运营者,同时也起到了一定的警醒作用。

12月16日,工信部信息通信管理局发布一则通报。根据通报内容,相关职责部门在针对12月3日通报的60家存在侵害用户权益行为APP企业进行核查复检后发现,仍有部分APP没有按照工信部要求完成整改。

因此,根据《网络安全法》以及《移动智能终端应用软件预置和分发管理暂行规定》(工信部信管【2016】407号)等法律和规范性文件要求,对26款APP进行下架。

从工信部公布下架应用软件名单中可知,其中不少APP都是部分消费者用过的软件,例如小蚁摄像机、最美证件照、九元航空等。

可能部分软件并没有想要利用消费者的个人信息做不法勾当,但强制、违规收集用户个人信息等行为,同样需要整改。对于工信部的严格要求,不少网友都点赞并支持严惩。

笔者了解到,2020年工信部推进的APP侵害用户权益专项整治行动中,自查自纠阶段,已有8000多款APP按要求完成整改。

不过,新型技术或者应用的诞生,永远走在国家法律和相关法规的前面。对于这些技术或应用,国家相关部门已经在加紧制定更合理更有力的监管措施,虽然会慢一步,但红线就在那里。

只要APP或背后的企业不碰红线,尊重消费者的权益和隐私,遵守市场竞争的基本原则,监管的重拳就不会轻易砸到头上。

猫途鹰APP被国家网信办下架 官博称内容审核出现漏洞

12月8日,国家网信办发布消息称,自11月5日起组织开展移动应用程序信息内容乱象专项整治,首批清理下架猫途鹰等105款违法违规移动应用程序。对此,猫途鹰官方微博回复称,内容审核出现了一些漏洞,公司下架进行修整。

据了解,此次国家网信办下架违法违规移动应用程序,是针对网民反映强烈的部分移动应用程序传播淫秽色情、暴恐血腥等违法违规信息,提供诈骗赌博、招嫖卖淫等违法违规服务的网络乱象。而猫途鹰则成为首批清理下架的违法违规移动应用程序。北京商报记者发现,有网友在猫途鹰官方微博下留言询问下架一事。随后,猫途鹰官博回复称“global这边内容审核出现了一些漏洞,我们下架进行修整和再审核。”

公开信息显示,TripAdvisor猫途鹰app除了提供全球旅游酒店订票,以及全球旅行者的点评建议外,还涉及旅行规划和酒店、景点、餐厅预订等功能。上述下架信息发布后,北京商报记者尝试在安卓应用商店、苹果应用商店中搜寻该软件,已无法找到相关信息。

来源:北京商报

最严直播审核管理规定来了:主播须实名 未成年人禁“打赏”

直播打赏必须实名认证、未成年人不能打赏、打赏资金须设置延迟到账“冷静期”……近日,国家广电总局、市场监管总局接连发布直播平台及电商直播监管新规,直播乱象迎来强监管。那么,“最严新规”严在哪里?我们一起来了解。

规定一:严禁未成年人打赏。

“打赏”是直播平台盈利的重要方式之一,但未成年人自控力和辨别力较差,极易被光怪陆离的网络直播所吸引进而作出不当行为。

即将出台的《直播行业打赏行为管理规则》等通知明确,网络秀场直播平台要对“打赏”用户实行实名制管理。未实名制注册的用户不能打赏,未成年用户不能打赏。要通过实名验证、人脸识别、人工审核等措施,确保实名制要求落到实处,封禁未成年用户的打赏功能。

有专家表示,确保政策落实到位,防止“上有政策,下有对策”,一方面要全面推行“注册实名认证+支付前二次识别”的双认证系统,只有注册用户信息和二次识别信息相匹配才能打赏。同时,有必要通过责任划分倒逼企业落实相关政策。比如发生相关纠纷时,直播平台如果不能证明自己充分履行了相关审查义务和职责,就应无条件退还相关款项。

规定二:直播带货的商家和个人须实名认证。

国家广电总局发布的《关于加强网络秀场直播和电商直播管理的通知》要求,网络电商直播平台要对开设直播带货的商家和个人进行相关资质审查和实名认证,完整保存审查和认证记录,不得为无资质、无实名、冒名登记的商家或个人开通直播带货服务。

此外,要积极探索利用大数据、人工智能等新技术服务于鼓励倡导的直播节目,让算法支撑优质视听内容的推送,对违规不良内容实现精准预警和及时阻断。

直播带货作为一种新兴的电商营销模式,兴盛与乱象并存,乱象主要包括以低价吸引顾客和观众,推销假冒伪劣商品。出台相应的法规,促使平台对于带货的短视频或者直播做好相应审核,可以有效保障消费者权益,使行业健康发展。

规定三:将屡教不改的主播纳入黑名单,不允许更换“马甲”再度开播。

对于直播内容问题性质严重、屡教不改的主播,《通知》要求,网络秀场直播平台要建立直播间和主播的业务评分档案,细化节目质量评分和违规评分等级,并将评分与推荐推广挂钩。要做好主播尤其是头部主播政策法律法规和相关知识培训。对于多次出现问题的直播间和主播,应采取停止推荐、限制时长、排序沉底、限期整改等处理措施。对于问题性质严重、屡教不改的,关闭直播间,将相关主播纳入黑名单并向广播电视主管部门报告,不允许其更换“马甲”或更换平台后再度开播。

中国消费者协会消费监督部主任张德志认为,这一规定将直播带货监管提到核心位置,明确直播平台和主播等相关主体责任,规范直播带货行为,违法直播查处方式更加明确,不仅有利于网络直播平台的良性运行和维护,也有利于更好的保护消费者合法权益。

下一步,需要从法律和道德层面夯实平台责任,平台需要强化技术手段限制直播中的违规行为。此外,要加强行业组织自律,同时建立第三方监督、投诉机制,多部门联手,在法律、行政监管之上形成一整套社会制约机制,营造行业健康生态。

来源:中国政策研究网

谷歌收紧内部留言板规则:加强内容审核

据报道,谷歌内部文件显示,由于员工的讨论越来越激烈,因此该公司要求更加积极地审核内部留言板的内容。

谷歌内部社区管理团队表示,其内部留言板上被标记为种族主义和辱骂性信息的内容越来越多。该团队认为,这是因为员工在家工作期间分享了更多信息,以及“艰难的全球对话”增加所致。

因此,该公司从2019年开始扩大内容审核试点,共覆盖多个平台的超过75个讨论组,还要求多数讨论组的负责人扮演审核员的角色,并完成审核培训。此外还要制定章程来定义小组目的,在保证内容符合章程的情况下确保小组对话的包容性。

谷歌内部社区管理团队在内部博客中表示,正是因为当今世界出现各种复杂局面,因此才亟需确保工作场所成为一个受人欢迎的地方。

网信办:未成年人网课平台需抓好内容审核,杜绝游戏广告等

据网信中国消息,近日,中央网信办、教育部联合印发《关于进一步加强涉未成年人网课平台规范管理的通知》,推动未成年人网课平台长远规范发展。

《通知》提出,要强化日常监管,督促涉未成年人网课平台以正确价值导向为引领,加强网课教学大纲和图文、视频授课内容等审核把关,将弹窗、边栏、悬浮框、信息流加载、互动社交等环节纳入重点管理范畴。

另外,各地网信部门要紧盯属地涉未成年人网课平台页面周边生态,将弹窗、边栏、悬浮框、信息流加载等环节纳入重点管理范畴,对互动社交版块加强巡查监看,严防网课周边出现网络游戏广告以及色情低俗、暴力血腥等不良图文信息。

全文内容如下:

各省、自治区、直辖市网信办、教育厅(教委),新疆生产建设兵团网信办、教育局:

为切实保障优质线上教育资源供给,推动涉未成年人网课平台健康有序发展,营造未成年人良好网络学习环境,现就进一步加强未成年人网课平台规范管理有关事项通知如下:

一、加强备案管理

(一)完善备案管理。各地要定期公布属地未成年人网课平台备案名单,逐步建立属地网课平台黑白名单制度。网课平台上线新应用或发生重大功能调整时,应重新提交审核并更新相关备案信息。

(二)坚决堵塞漏洞。各地网信部门会同教育部门,定期排查属地网课平台,对于应备案未备案的网课平台,由相应教育部门提出处理意见,采取暂时下线或下架、限期整改的处置措施,待整改完成后,教育部门重新审核备案。

(三)推动全面覆盖。各地网信部门要将面向中小学的非学科类网课平台纳入网络生态日常巡查监看范围,建立管理工作台账。

二、强化日常监管

(一)把好价值导向。各地网信部门要督促属地涉未成年人网课平台以正确价值导向为引领,不得传播违背社会主义核心价值观的内容,不得散布色情低俗、血腥暴力等违背公序良俗的内容,不得以“技术中立”或“算法推荐”为由,推送不适宜未成年人的信息或广告引流内容。

(二)抓好内容审核。各地教育部门要指导属地涉未成年人网课平台加强课程内容管理,对网课教学大纲和图文、视频授课内容等认真审核、严格把关。不断完善审核标准、提升审核技术,对直播课程随机抽检,对图文、视频课程二次审核。

(三)管好页面生态。各地网信部门要紧盯属地涉未成年人网课平台页面周边生态,将弹窗、边栏、悬浮框、信息流加载等环节纳入重点管理范畴,对互动社交版块加强巡查监看,严防网课周边出现网络游戏广告以及色情低俗、暴力血腥等不良图文信息。

三、提升人员素质

(一)加强授课教师资质审核。各地教育部门要依据相关规定,指导网课平台配备相对稳定的师资队伍,对相关人员资质进行严格审核,确保学科类教师具备教师资格,将遵纪守法情况、思想政治素质作为教师入职考察的重要因素。

(二)端正产品设计和运营理念。各地网信部门要指导属地涉未成年人网课平台,增强网课产品设计和运营人员未成年人保护意识,将传播知识、传播思想、传播真理放在教育学习类应用和产品开发设计首位,不得在市场运营推广时采取不适宜未成年人的手段方式。

四、注重协同治理

(一)建立日常巡查机制。各地网信部门会同教育部门,梳理属地涉未成年人网课平台重点环节、重点问题监看清单,建立技术与人工相结合、全网巡查与重点监看相结合的监测机制,定期通报巡看情况,会商研究问题线索,提出应对措施,实现常态化监管。

(二)适时开展专项治理。各地根据日常监看情况,针对一定时期内未成年人网课平台突出问题、难点问题,适时开展专项整治,集中排查处置。

(三)加大执法处罚力度。各地网信部门对侵犯未成年人权益的违法违规网课平台,按照“发现一起、处置一起”原则,依法依规采取暂停更新、关闭下架等措施,始终保持高压严打态势。对屡教不改的网课平台,一律从严从重处罚。

(四)动员社会广泛参与治理。各地网信、教育部门要积极与行业协会、社会组织以及中小学校、家长委员会等合作,定期评议涉未成年人网课平台治理成效。社会和公众可向各地网信部门举报相关违法违规线索。

各地要充分认识加强涉未成年人网课平台规范管理的重要意义,增强责任感紧迫感,将加强涉未成年人网课平台规范管理作为属地网络生态治理的重点内容,制定工作方案,健全工作机制,推动长效治理。

来源:中央网信办

音视频直播平台乱象侵害未成年人 专家建议加大内容风险审核力度

直播间低俗表演、“诱导打赏”、封禁主播借壳复出······近日,在2020音视频直播行业绿色内容生态共建峰会上,南都网络内容生态治理研究中心发布了《音视频直播平台内容痛点及治理创新报告》(以下简称《报告》)。

报告指出,音视频直播平台目前仍存在不规范现象,平台在内容监管上要思考治理创新。

自2019年12月起,南都网络内容生态治理研究中心(以下简称“研究中心”)对音视频直播行业的100余家平台展开为期一年的持续监测,剖析了行业在主播管理、内容审核、直播打赏、未成年人、内容建设五个方面存在的管理瓶颈以及行业治理现状。

经过一年多时间的监测巡查,研究中心发现主播常见违规行为可归集为四种类型:第一种是沉疴已久的直播间低俗表演、传递不良价值观等行为;第二种是主播及其经纪代理的“诱导打赏”行为;第三种是利用直播间等公开渠道售卖违规资源或者色情服务;第四种是已遭平台甚至行业封禁主播通过换马甲、换平台借壳复出,比如,注册小号、采用“变声器”以身犯险。

在内容审核方面,研究中心发现目前音视频直播审核能力参差不齐、中小平台审核力量薄弱的问题依然存在,最鲜明的表现是对举报处理的响应迟缓。

今年7月,研究中心曾对13家直播平台的举报便捷度和反馈效率进行实测,在举报部分直播间低俗内容后,12小时内有8家平台作出回应,38%的平台没有回音,部分平台虽通过私信告知用户已接收到举报,但48小时内均未给出任何后续进展消息。

《报告》指出,作为一种新型消费服务形态,直播打赏的创新与漏洞并存。

研究中心曾针对直播打赏展开调查,发现存在打赏金额上限普遍设定过高、直播间内打赏过于频繁、利用“抽奖”“竞猜”“返利”等方式涉嫌组织网络赌博等现象。比如,通过100家平台的礼物打赏额度进行梳理,发现四成平台设置单次打赏金额最高可超百万元。

未成年人打赏难退的纠纷,则暴露了平台在未成年人识别、退款机制不健全等诸多方面的短板。南都网络内容生态治理研究中心曾梳理25家平台用户协议中和未成年人相关的条款,发现仅有不足四成平台对未成年人的充值消费行为作出提示,且多为“免责条款”。

在未成年人保护方面,目前,未成年人浏览区域推荐低俗内容、适合未成年人浏览内容供给不足等现象在行业中比较常见。

今年9月,南都网络内容生态治理研究中心在调查中仍发现,有的视频网站中教育频道存在与教育无关的短视频,其中包含标题封面性暗示、传播伪成功学、情感PUA、输出低俗庸俗价值观等内容,目前,相关资源现已下架。

在对全国15个省份近2000名未成年人家长进行的问卷调查中发现,仅三成受访家长表示会开启青少年模式管理孩子浏览视频、直播的行为。

音视频直播平台如何实现内容监管的治理创新?《报告》发现,目前部分平台已通过建立信用评价体系、AI技术赋能审核、技术识别未成年人、优化青少年模式,以及算法干预内容导向等措施加强治理。

在主播管理方面,较多的是建立信用管理体系和严格的评分机制,如酷狗直播等平台采取了主播管理分级分类措施,让主播行为直接与本人信用分关联,并与公会信誉值挂钩,一旦主播违规,则公会也会被连带影响信誉值。

在审核方面,目前多数平台都采取了人机审核相结合的模式,比如自主研发AI、声纹等智能识别算法模型,用户内容一经上传,首先经过图片识别、语音识别等技术过滤,再由人工团队进行复核。

关于未成年人消费、打赏难退等问题,《报告》建议,有效识别未成年人身份,实现事前阻断是防范关键。目前,多数平台已建立起未成年人身份识别系统,通过人脸识别、用户画像、行为数据分析等多种技术手段来定位未成年用户,实施拦截。未成年人内容供给方面,多数平台通过对青少年模式的优化,实现内容的多元化、个性化输送。

数美科技运用人工智能技术进行风险识别,该公司创始人、CEO唐会军指出,当前在内容审核上人工成本高,如果平台规模大,投入成本是非常高昂的,而在语音等特殊场景下,对内容的风险识别有很大的技术难度,“很多人在一起说话,非常嘈杂,再放些背景音乐,识别起来就更有一定挑战。”

在中国信息通信研究院互联网法律研究中心研究员石月看来,平台需要在治理中发挥关键作用,加强平台文字、图片等内容监控技术,加大语音审核巡查的研发,“可能也需要政府出台一些鼓励性政策,来鼓励企业在这方面进行一些研发。”石月认为,平台还要加强提升正面、高质量内容的输出。

来源:中国青年报

国家网信办:多款学习教育类APP推送低俗色情内容被处罚,内容审核迫在眉睫

近期,国家网信办持续深入推进2020“清朗”专项行动,联合教育部开展涉未成年人网课平台专项整治,依法严厉打击影响青少年身心健康的违法违规信息和行为。截至目前,全国网信系统累计暂停更新相关版块功能网站99家,会同电信主管部门取消违法网站许可或备案、关闭违法网站13942家;有关网站平台依据用户服务协议关闭各类违法违规账号578万余个。部分典型案例公布如下:

4款学习教育类APP推送低俗色情和与学习无关内容

12KM作文APP“文学原创”栏目存在低俗色情小说内容,“追星”专栏渲染早恋、吸烟等导向不良内容。

出口成章APP部分用户头像、账号名称及简介中包含低俗色情内容。

美术宝APP存在低俗色情帖文和跟帖评论,部分用户头像、账号名称包含色情资源推广有害内容。

万门中学APP推送恋爱、股市等与学习无关内容。

3家网站平台的网课学习栏目推送游戏、直播、影视剧等与学习无关内容

斗鱼直播APP及PC端网页“守护成长”“教育”频道、PP视频APP及PC端网页“小学课堂”“热播好课”栏目、乐视视频APP及PC端网页“优质课程”“中小学”栏目推送网络游戏、美女直播、低俗小说、影视剧等与学习无关内容。

3款青少年常用APP存在涉低俗色情的图文信息、对话体小说

堆糖APP存在低俗色情图片以及诱导未成年人抽烟、谩骂等不良行为的图文内容,部分用户头像、账号名称包含低俗色情内容。

克拉克拉APP和克拉有读APP“群组”版块存在低俗色情内容以及大量涉低俗色情对话体小说。

2家网站平台“动画”“动漫”栏目存在低俗色情内容

半次元、柚次元APP等平台的“漫画”“短漫”“MMD”等栏目、圈子中存在包含低俗色情图文内容的动画、动漫产品,部分圈子、用户名称包含低俗媚俗内容。

2家网站平台发布传播以未成年人为主角的大尺度图片和视频

新浪微博“小熊座的甜甜奶茶”“迎春坊”等账号发布涉未成年人不雅图文、出售“福利资源”、传播疑似未成年人援交招嫖等内容。

百度贴吧“LOLI吧”“CQY吧”等贴吧和账号发布未成年“福利姬”色情信息,借陪玩、陪聊名义售卖未成年人色情自拍、视频等资源。

针对上述网站平台存在的突出问题,国家网信办视违规情节和问题性质,依法分别采取约谈、责令限期整改、停止相关功能、全面下架等处罚措施,坚决打击损害未成年人合法权益和身心健康的违法违规行为。

国家网信办将会同有关部门持续保持高压严管态势,加大巡查监看力度,从严惩处问题严重、屡查屡犯的网站平台并公开曝光,督促平台切实履行主体责任,积极传播青少年课业知识和积极向上的正能量内容。同时,欢迎广大网民、媒体和社会各界积极参与监督举报,共同为未成年人营造健康的网络环境(国家网信办违法和不良信息举报中心网址:www.12377.cn)。

国家网信办近一个月处置违规“吃播”账号1.36万个

国家网信办网站9月2日晚发布的消息称,8月31日,国家网信办召开深入推进商业网站平台和“自媒体”传播秩序突出问题集中整治、“自媒体”基础管理专项治理和网络直播行业专项整治推进会,通报近1个月工作进展,对深入推进“三项整治”行动进行再部署。

会议指出,“三项整治”行动开展以来,国家网信办会同有关部门,聚焦突出问题,强化统筹联动,压茬推进、重拳出击;各地网信办、职能部门和主要网站平台,认真履行属地管理责任和网站平台主体责任,深入开展自查自纠和清理整治;广大网民和社会各界高度关注、踊跃参与,专项行动取得阶段性成效。

1个月来,主要网站平台共清理各类违法违规信息603万条,处置违法违规账号559万个,冻结“僵尸”账号92.8万个,处置百万粉丝以上账号169个;从应用商店移出无新闻服务资质应用程序7.2万款;依法处置违法违规直播平台338款,关闭主播直播间7.4万个,封禁违规主播账号10.5万个,处置违规“吃播”账号1.36万个,网络传播秩序明显改观,网络生态有效改善,行业规范管理水平逐步提升。

但一些网站平台管理制度和规则还不健全,少数“自媒体”平台推进分级分类管理标准质量还不高,部分网站平台还存在违规发布转载新闻信息、传播有害内容等问题,自净能力不足,距离人民群众和社会各界期待还有不小差距。

来源:华商报

留下美好生活“小确幸”视频审核不能一刀切

8月12日,央视新闻援引联合国粮农组织统计,称全球每年有三分之一的粮食被损耗和浪费。8月14日,中国演出行业协会相关负责人表示,针对餐饮浪费现象,网络表演(直播)分会日前发文,提示各会员企业进一步加强直播内容管理,坚决禁止在直播中出现假吃、催吐、猎奇、宣扬量大多吃、暴饮暴食,以及其他铺张浪费的直播行为。

一夜之间,各大平台都高度警惕吃播视频。据多家媒体报道,抖音快手回应称,宣扬量大多吃可直接封号,斗鱼方面则表示将加强美食类直播内容审核。

尽管央视新闻以及各个餐饮协会批评的对象十分明确,即“餐饮浪费”“猎奇”“宣扬量大多吃”“暴饮暴食”人群,但是这些初衷本是好意的想法,到了各个平台的执行层面,呈现的结果却成了最大限度节省审核精力的“一刀切”。

一个明显的事实是,标题带有“吃播”和“大胃王”词语的视频一夜之间全部消失,“吃播”和“大胃王”甚至成为短视频标题里绝对不能出现的“禁词”。无论是B站还是抖音,如今在搜索框内输入“吃播”和“大胃王”,都不会出现任何个人视频。

此外,在社交平台上越来越多的网友开始对“吃播”博主的“吃播”行为进行攻击。

我们或许需要清楚一件事情,在职业多样化,甚至视频行业一种职业千种玩法的当下,“吃播”群体从来不完全是“大胃王”。而标题带有“大胃王”三个字的视频,也不全部都是猎奇、浪费和暴饮暴食。

首先,“吃播”群体包含展示做菜同时展示吃饭的美食博主,“吃播”群体也包含以展示宠物吃饭为主的萌宠类博主,甚至包含主要展示ASMR(自发性知觉经络反应)的技术流博主,这些同为“吃播”的博主,距离“浪费”“猎奇”“暴饮暴食”的“大胃王”本身就是截然不同的人群,拥有毫不相似的受众。甚至这几个类型的“吃播”人群加起来,数量可能要远远超过通过“暴饮暴食”吸睛的“大胃王”。

但是视频平台为了方便,直接将“吃播”“大胃王”两个词屏蔽,这便意味着过去所有“吃播”人群为了自己视频能让平台搜索出来,都会避免“吃播”两个字出现在标题内,或者在使用创意标题时,不会再使用“大胃王”三个字。

此外,浪费的从来不是“大胃王”三个字,也不是“吃播”全部群体。享用美食,对美食渴望是人本能的一种。许多“吃播”曾通过食物,跨越不同文化,不同地域,吸引粉丝对形色各异的美食产生兴趣,进而了解美食背后的文化传承。如日本某位知名“吃播”,就曾通过吃中国的螺蛳粉,向不同国家的粉丝介绍中国食物;而国内同样有“吃播”通过亲自试吃鲱鱼罐头,向大家科普瑞典食用鲱鱼的传统。因此,平台偷懒通过屏蔽词汇,间接导致整个“吃播”群体和暴饮暴食的“大胃王”关联,甚至有被污名化的倾向。

“珍惜粮食,拒绝浪费”是好事,禁止视频中出现宣扬暴饮暴食、猎奇的内容也是好事,但是应该平台好好担起责任,执行自己审核能力的时候,却直接放弃思考干脆“一刀切”。这不是一个通过“后浪”视频宣扬内容多样化的平台该做的事情,也不是喊出“记录美好生活”的平台该有的行为。

来源:消费日报网