AI审核:全力保护互联网平台的生命线

在这个互联网高速发展的时代,每一个人都被海量的信息环环围绕,人们在享受信息便捷带来的服务和消费体验升级的同时,大量未经核实信息的出现,对国家安全、社会稳定、青少年健康等都造成了不良影响。随着大量UGC内容的爆炸式增长,一些违规内容也随之横行,不仅给平台的营销、经营及品牌造成极大伤害,更为严重的是一些违规内容也会涉及棘手的法律问题。

由于没有一个标准的内容体系,大部分人对网络信息的真伪难以辨识,能高度依赖于互联网平台对内容的把关。因此,审核工作就成为整个互联网平台的生命线。

随着网络内容的骤增、用户体验不断提高、负面事件风险增加以及审核标准严苛细化,非标准化审核管理系统犹如一块巨石压得审核工作者喘不过气。

一方面,各大媒体平台的人数不断增加。在国内,主流的社交媒体平台的审核人员几乎都达到上千人以上的规模。去年4月,快手发布大规模招聘信息,面向全国新增招聘3000名内容审核编辑,将目前的审核团队从2000人扩大至5000人。

而在国外,Facebook在自有算法的情况下,人工审核团队规模达到1.5万人;youtube在谷歌大脑算法支持的情况下,审核团队的人数也达到了1万+,由此可见,人机协同审核仍是未来很长一段时间的审核模式。

另一方面,运营商往往希望运营部门能够保障用户体验,因此耗费大量财力物力来培养审核团队,尽管人人皆知内容安全是第一位的,但由于每天会有大量UGC的内容产生,这就意味着,人工审核与审核需求量不成正比,因此,便衍生出AI审核这一系统,但是,企业开发一个AI系统,投入的成本很高,因此,第三方审核服务正慢慢成为当下发展趋势。

什么是AI审核?

AI审核是基于自然语言处理、语言识别、语义理解、图像分类、目标检测、深度学习等核心技术,面向金融、保险、证券、互联网等客户群体,提供包括文本、图像、音频、视频等内容安全识别。

AI审核有哪些优点?

AI审核可根据企业的需求,设定相关审核规则,其强大的审核机制可以大大提高企业的审核效率使得审核工作达到事半功倍的效果;此外,AI审核还能够保障企业的信息安全,避免信息遭到泄露。AI智能审核的运用,能全面提升企业智能化、批量化UGC等内容综合处理能力、为用户构建牢不可破的安全防御体系。

「专利解密」字节跳动如何使用深度学习处理视频?

目前在很多行业中,例如广告行业,会有控制视频类广告中的字符与图像的比例的要求,目的是为了满足客户要求或者为了追求广告效果,为了达到不同的广告效果。

这种场景会需要将字符在视频类广告中的占比进行不同的控制,例如,通常会要求视频类广告中的字符内容的占比要低于图像内容的占比,也可能会要求视频类广告中的字符内容的占比大于图像内容的占比等。

目前在对视频类广告中字符内容与图像内容的比例进行判断时,通常还是会根据人工的主观判断来对视频类广告中的字符占比进行判断,在这样的情况下,判断同一个视频类广告中的字符占比是否满足预定的条件时的判断结果通常会根据不同的人的主观感觉的不同而不同,无法达到对视频类广告中的字符内容的占比与图像内容的占比之间关系的精确判断。

因此,为了解决如何通过对视频内容的处理来精确地确定视频中字符内容与图像内容之间的占比关系,字节跳动在19年9月3日申请了一项名为“视频处理方法、装置、介质和设备”的发明专利(申请号:201910829463.1),申请人为北京字节跳动网络技术有限公司。

根据目前该专利公开的资料,让我们一起来看看这项视频处理方法吧。

如上图所示为视频处理方法的流程图,首先,获取目标视频中的目标视频帧图像,目标视频即为需要根据字符面积占比来进行处理的视频文件,可以是视频类广告,也可以为短视频平台上传的各类短视频或者电影等长视频。

目标视频帧图像为目标视频中的所有视频帧或者一部分具有代表性的视频帧,即根据预设的提取方法所得到的关键帧,例如在目标视频中的每一秒内选取第一帧作为该秒的关键帧等。实际应用时可以根据实际情况来确定目标视频帧图像,例如,当目标视频的时长过长时,可以将关键帧作为目标视频帧图像,以加速视频的处理。

其次,将目标视频帧图像输入预设深度学习模型中,以确定目标视频帧图像中属于字符区域的目标像素点。在确定该目标视频帧图像之后,利用已预先训练好的预设深度学习模型来对每一张目标视频帧图像进行处理,以确定每一张目标视频帧图像中属于字符区域的目标像素点。

最后,根据目标视频帧图像的目标像素点在目标视频帧图像的所有像素点中的占比,确定目标视频是否为文字类视频。例如,若目标视频帧图像中一共有50万像素点,其中目标像素点共有20万像素,则进而就可以根据该占比来确定目标视频是否为文字类视频。

这样,无需再通过人工判断的方式对目标视频中的字符内容的占比多少进行判断,利用这种通过对视频中字符内容占比精确识别从而对视频进行分类的视频处理方式,大大提高了对视频处理的精确性。

如上图所示为视频处理方法中确定目标视频帧图像中属于字符区域的目标像素点的方法的流程图,首先,确定目标视频帧图像中每个像素点属于字符区域的概率,其次再将目标视频帧图像中属于字符区域的概率大于第一预设阈值的像素点确定为目标像素点。

例如第一预设阈值可以为60%,当确定目标视频帧图像中的某一个像素点属于字符区域的概率大于60%时,则确定该像素点为目标像素点,即将该像素点确定为属于字符区域的像素点。

当确定该目标视频帧图像中的某一个像素点属于字符区域的概率小于60%时,则将该像素点确定为不属于字符区域的像素点。

如上图为视频处理装置的结构框图,该装置包括:获取模块10,用于获取目标视频中的目标视频帧图像;第一确定模块20,用于将目标视频帧图像输入预设深度学习模型中,以确定目标视频帧图像中属于字符区域的目标像素点;第二确定模块30,根据目标视频帧图像的目标像素点在目标视频帧图像的所有像素点中的占比,确定目标视频帧图像是否为文字类视频。

以上就是字节跳动发明的视频处理方法,通过深度学习模型准确分割目标视频中的每个目标视频帧图像中的属于字符区域的目标像素点,从而精确得到每个目标视频帧图像中属于字符区域的占比,进而就能根据该目标视频中的所有目标视频帧图像中属于字符区域的比例来确定该目标视频是否为文字类视频。无需再通过人工判断的方式对目标视频中的字符内容的占比多少进行判断,大大提高了对视频处理的精确性!

人气造假、虚假交易……直播带货该如何监管?

信息公示不到位、涉嫌虚假宣传产品功效、人气造假和评论造假……

直播带货如何变“一时火”为“一直火”

在30个直播带货体验样本中,有9个样本涉嫌存在证照信息公示问题,占比30%;有3个样本涉嫌通过虚假宣传产品功效或极限用词诱导消费者购买商品,占比10%。

6月16日,北京市消费者协会发布的《直播带货消费调查报告》显示,直播带货消费存在不少问题,除了上述证照问题及虚假宣传外,部分直播带货商家页面没有任何商品的文字或图片信息,个别直播带货商家要求“定金不退”。

今年以来,直播带货大火,但这种新的消费模式一直问题不断。相关专家表示,直播带货要变“一时火”为“一直火”,需要为其“立规矩”,让平台商家真正为消费者“带货”而不是“带祸”。

部分主播涉嫌虚假宣传诱导消费者

“可以降血脂,促进血液循环,预防心脑血管、动脉硬化、中风、心脏病、高血压,对老花眼、青光眼、视力模糊有很好的效果”“我们家的产品质量这一块绝对是NO.1”……

这是北京市消协体验人员于5月27日通过京东直播选购一款价格149元的保健品时,主播对该保健品的介绍。

本次体验调查的30个直播带货样本中,还有两个样本涉嫌通过虚假宣传产品功效或极限用词诱导消费者购买商品,侵犯了消费者的知情权和公平交易权。

体验人员通过天猫直播平台购买一款“谷益元红豆薏米粉代餐粉”时,主播宣称“3天可以减1~5斤”“产品吃3天没有效果的话,来我们家给承诺无效退款”。

体验人员在苏宁易购直播平台购买一款黑玛卡时,主播宣称该商品“能够提高免疫力,改善睡眠,抗疲劳,补充脑力体力,补肾壮阳。男性长期喝玛卡,可以改善男性肾功能”。

根据中国消费者协会今年3月底发布的《直播电商购物消费者满意度在线调查报告》,由于信息不对称,一些消费者被夸大宣传或虚假信息误导,购买到假冒商品和“三无”产品等。

人气和评论造假、虚假交易等须重视

本次体验调查的30个直播带货样本中,有9个样本涉嫌存在证照信息公示问题。例如,快手直播平台的“燕姐品牌护肤”和“长春小月彩妆达人”两家店铺,虽然已实名认证和缴纳店铺保证金,但均未上传资质证明。有29个体验样本均能够做到“7天无理由退货”,只有1个体验样本“无理由退货”遭到拒绝。

体验人员调查还发现,部分直播带货商家虽然标注“退货包运费”,但退货时实际支付12元运费,商家只补贴10元运费;部分微博直播带货过程中,除了主播语音介绍,平台和商家页面没有任何商品的文字或图片信息;个别直播带货商家要求先交定金,并提示“我已同意定金不退等预售协议”,否则无法提交订单。

此前,《工人日报》记者在调查中还发现,一些直播平台和商家还存在人气造假、评论造假等行为,以及各类诱导交易、虚假交易、规避安全监管的私下交易行为。在保险等专业领域,一些并不具有专业保险知识的主播也开始通过直播推荐保险产品,这些尤为值得监管部门重视。

违法频次较多的主播可拉入黑名单

北京市盈科(深圳)律师事务所律师朱逸聪指出,今年以来,直播带货模式为企业复产复工、促进产品销售做出了积极贡献,但上述问题损害了消费者权益,不利于行业的长远健康发展。直播带货要想“一直火”,必须规范发展,为消费者提供性价比高、质量又有保障的“好货”。

对此,北京市消协建议,通过立法或制定行业标准等方式,进一步明确直播带货相关平台、商家与主播之间的责任划分,加大对平台、商家和主播等各方主体的监管和处罚力度。

同时,建议进一步强化直播平台对直播带货行为的监督管理责任,明确平台要严格按照相关法律法规及政策要求,完善内部监管措施和自治规则,加强对直播带货交易全流程的审核把关和生态治理。

此外,北京市消协呼吁建立行业自律和诚信评价机制。对于随意夸大宣传、欺骗和误导消费者的直播带货行为,应纳入社会诚信评价体系;对在直播带货虚假宣传的主播,除了进行经济处罚,还应将违法情节严重、违法频次较多的主播拉入黑名单,实行直播市场禁入,提高违法直播带货成本,增强监管震慑力。

来源:工人日报

直播平台不是法外之地 流量平台当建价值高地

直播助农,让田间地头农产品畅销全国;在线学习,让知识跨越千山万水;分享日常,让生活技能方便你我……近年来,网络直播成为互联网世界的一个“风口”,一个个流量平台纷纷崛起,在产品营销、知识共享、远程办公医疗等方面发挥着积极作用。人们在直播中寻得商机,在直播中觅得便利,也在直播中拓宽出路。

应该看到,网络直播作为发展中的新事物,犹如一个赛车道,直播平台像赛车手,抓住用户注意力就更容易加速冲刺,“直播竞赛”就此展开。当然,这条赛道的门槛和标准参差不齐,出现了一些需要正视、亟待解决的问题。对此,中央网信办等8部门近日集中开展网络直播行业专项整治行动,首批依法依规对44款网络直播平台进行相应处罚,再次释放出坚决治理直播行业乱象的强烈信号。

推动直播行业健康发展,只有全面审视,才能对症下药。看规模,据《2020中国MCN行业发展研究白皮书》,聚合内容创作者的多频道网络(MCN)机构数量已超2万家;据第四十五次《中国互联网络发展状况统计报告》,截至今年3月,我国网络直播用户规模达5.60亿。看特点,直播平台内容同质、功能相似、特色模糊等现象明显。可以说,不少直播平台往往低水平入门、低质量竞争。平台数量多、用户规模大在一定程度上彰显了网络直播的发展活力,但人们更期待去粗取精的发展质量。

互联网行业有个“三角形框架”,即服务用户的“产品”、留住用户的“运营”及转化盈利的“流量”。从这个模型出发,无论是产品还是运营,成功与否往往系于流量。可以说,流量生态在很大程度上影响着商业转化价值。但从实践来看,如果直播平台唯流量是从,只顾流量热度、内容热度,不顾质量、不负责任,就会滋生一些违背公序良俗的言行,冲击法律与道德底线。从这个意义上讲,直播平台需要来一场聚焦责任感、价值观的“质量革命”。

直播平台不是法外之地,更不是道德洼地,而应成为责任之地、价值高地。近年来,针对网络直播出现的问题,从平台备案许可到主播实名制认证,从建立直播内容审核制度到履行内容日志信息留存要求,从建立信用等级管理体系到黑名单管理制度,一系列监管与规范、自律与他律的制度在不断完善。今年全国两会期间,有人大代表建议,强化平台的监督管理责任。直播平台是公共平台,不能重流量轻责任、重收益轻担当,这已经成为广泛共识。唯有平衡好平台利益与公共责任,扎紧制度篱笆,平台当好“把关人”、相关部门当好“守门员”,这一朝气蓬勃的行业才能真正迎来发展的春天。

开放、共享是互联网的内在精神,越是开放、共享,越应该把价值导向摆在首位,每个直播平台都应该成为价值出口。抗击新冠肺炎疫情期间,不少流量平台科普抗疫知识,传递战疫温暖时刻,为不少行业打开了线上销售之门,在疫情防控中起到积极作用。实践证明,“把握好手里的麦克风”,让主流价值充盈直播间,才能让直播平台沃土广袤、蓬勃发展。

来源:人民日报

建立网络文学内容审核机制,实行创作者实名注册制度

近日,国家新闻出版署印发《关于进一步加强网络文学出版管理的通知》,要求规范网络文学行业秩序,加强网络文学出版管理,引导网络文学出版单位始终坚持正确出版导向,坚持把社会效益放在首位,坚持高质量发展,努力以精品奉献人民,推动网络文学繁荣健康发展。

资料图 新华社供图

通知要求,网络文学出版单位要严格落实平台主体责任,建立健全网络文学内容审核机制,强化内容把关职责,支持优质创新内容,控制总量、优化结构、提高质量,确保内容导向正确、格调健康向上,坚决抵制模式化、同质化倾向;严格规范登载发布行为,实行网络文学创作者实名注册制度,在平台上明示登载规则和服务约定,对创作者登载发布行为提出明确要求;加强对作品排行榜、互动评论等作品相关发布信息的动态管理,正确引导用户阅读。

通知要求,各级出版主管部门要组织开展网络文学出版单位社会效益评价考核,对考核结果优秀的单位予以奖励和支持,对考核结果不合格的进行批评和处罚;加强评奖推选活动管理,举办全国性网络文学评奖须向国家新闻出版署提出申请;进一步规范市场秩序,对内容导向出现偏差的作品和单位,综合运用多种措施进行处置;加强网络文学出版队伍建设,引导广大网络文学从业人员对读者负责、对社会负责,恪守公序良俗,弘扬新风正气,打造精品力作,维护网络文学行业良好声誉和网络文学出版工作者良好形象。

通知强调,各级出版主管部门要严格落实意识形态工作责任制,切实履行属地管理职责,加强对属地网络文学业务的管理,建立和充实网络文学阅评队伍,提高科学管理效能,确保各项管理责任落到实处。

延伸阅读

唐家三少谈中国网络文学海外走红

5月27日,全国政协委员张威(唐家三少)在谈到网络文学创作时表示,网络文学的故事性使它能够传播开来,故事是世界性的,把文化潜藏在故事中,是中国文化走出去的一个好办法,网络文学要做有世界影响力的中国IP。

据@人民日报 官方微博27日报道,唐家三少在接受采访时表示,中国的网络文学经过20多年的发展,能发展到现在有接近5亿读者,绝不是靠一些良莠不齐的东西,而是以在符合法律法规的范围内弘扬真善美为大前提,创作的广大人民群众喜闻乐见的作品,这些作品的调性是年轻、积极、健康、向上、绿色、热血。

他认为,中国网络文学在国外传播得很好,优势是靠故事取胜,故事是世界性的,把文化潜藏在故事中,是中国文化走出去的一个好办法,“他们能看得懂,也会逐渐感兴趣,我们要做有世界影响力的中国IP。”

对于此前备受争议的网络文学作者与平台之间的版权问题,他表示,任何一个作者都更愿意将自己全部精力用于创作,而不是因为版权,或者这样那样的问题纠结,影响自己的心态和创作,最理想的状态就是作家创作,平台帮作家把内容运营好,做他们的投资人和经纪人,从中获得一定利益,共生共赢才是长久之计。