您的位置:首页 > 互联网

内容审核,靠人工还是靠机器?

发布时间:2019-08-22 18:30:19  来源:互联网     背景:

  去年开始,快手、火山小视频等数十家短视频社交平台在数月内相继被网信办约谈,短视频社交平台从此迎来了一系列大刀阔斧的整改篇章。不久前,网信办会同有关部门对吱呀、语玩、一说FM等26款音频社交平台进行新一轮全面集中整治,新兴的音频社交平台因此迎来不少质疑。

  在一年多的时间内,互联网的UGC内容审查方向均在走向人工强干预,业界甚至有人认为,真正靠AI审核内容可能还需要5-10年的窗口期。现实已经表明,只有督促互联网公司承担社会责任,强调算法的价值观,在产品设计上创新未成年人保护措施,加强内容安全监管,才能杜绝短视频社交平台中的种种乱象。

    人工干预已成行业共识

  得益于算法技术的发展,互联网公司通过用户画像实现了相对精准的信息推送。但如果不对信息的分发加以干预,诸如强烈性暗示、虚假信息、软色情等内容就会在推荐网络中蔓延,科技界、媒体界由此展开了关于“算法有没有价值观”的讨论。

  字节跳动创始人张一鸣曾发表公开信,表明为纠正机器与算法的缺陷,将原有6000人的运营审核队伍,扩大到10000人。2018年4月被网信办约谈后,快手官方表示,将原有2000人的审核团队扩充至5000人。在“算法有没有价值观”这一命题上,快手和字节跳动最终作出了少有的共同选择。

  今年4月,探探因整改下架,在其后陌陌第1季度财报会议中,唐岩表示将加大内容审核业务上的资源投入。最新一轮开展集中整治的26款音频社交平台中,社交应用Soul也公开回应称将严格审核相关功能和内容,其整改措施中同样包括加强审核团队建设,将会增招大量内容审核及主管级人员。

  如今的探探,在其朋友圈发表动态会进入长时间的审核状态。而在Soul,其动态内容审核据称已全面覆盖除机器判定外的两道人工审核流程,在未来新版本中当动态内容判断为涉嫌违规时也会直接给予用户提醒。

  上述四款应用的整改措施都在强化人工审核在内容审查机制中的主导作用,从一个侧面印证了机器分发的局限性。

    机器审核只能辅助识别

  得益于音视频技术的发展,音视频匹配通话、音视频直播、音视频信息流等新型媒介走进人们的数字屏幕,给人们带来崭新的通讯体验和娱乐视听上的享受。音视频内容技术审核要求高,完善审查机制耗费较大人力财力,但这并不代表一筹莫展。

  音频内容的机器审核方案中,音频识别转文本匹配关键词是目前通用的基础方案。先识别音频中的语言语种,语音识别转化为文本信息后索引出关键词,在这一过程就可以植入现有文本识别中的上下语义分析,机器识别出与模型相似度最高的垃圾内容进行剔除。但正如机器与算法的缺陷,目前业界的音频识别技术能力尚未到达可以完全代替人工审核的阶段,特别是在处理方言、有不同音轨的杂音等场景时。

  视频内容实则由音频内容、视频画面内容两个对象组成,视频画面内容的机器审核,业界目前常采用截取画面帧上传识别,最终复用的是图片识别通道对场景、人物、物品进行判断是否违规。但以常用的24帧标准为例,一个60秒的视频就多达1440个画面帧,要实现覆盖全画面帧的机器审核则会耗费极大的资源,故此常见的审核设计是设定视频的截取时段选取部分画面帧进行机器审核。在无法覆盖全画面帧的审核的条件下,自然就出现了视频内容“闪现”色情违禁内容的风险,更有甚者,一些人通过画面内容隐晦表达,图片的机器审核难以理解表义。

  其实无论什么载体的媒介,在真正的AI时代来临之前,所有的机器审核都只会是人工的辅助。在流程设计上,机器审核可以做到的就是帮助运维者先行剔除大量确切违规的内容,剩下的人工审核流程可不能说省就省。举个例子,一张人像图片,可以划分为“色情”、“性感”、“正常”三个维度,机器审核可以根据肉体裸露的程度进行判断,实际上信息的表义可没那么简单,究竟该怎么定义“性感”?全无裸露的人体通过场景与动作的表达能不能达到人们对“色情”的认知?

  人生而爱美,如果说“性感”可以从性暗示程度、信息接收者的舒适度作为标杆,那么定性标尺就掌握在网站运维者手上,各社交平台的编辑责任制也因此诞生。

    围绕重点开展技术创新

  今年3月,国家网信办组织抖音、快手、火山小视频试点“青少年防沉迷系统”,其主要功能在于独立分发未成年用户的专属内容,以及限制其使用时长。

  防沉迷系统最初应用于游戏行业,而短视频新媒介具有沉浸式体验强、占据用户时长的特点,将防沉迷系统适配到短视频里,在业界起到了理想的标杆效应。

  今年“六一”儿童节前夕,国家网信办再次指导西瓜视频、好看视频、哔哩哔哩、微博等14家短视频社交平台,以及腾讯视频、爱奇艺、优酷、PP视频等4家网络视频平台统一上线“青少年防沉迷系统”。

特别提醒:本网内容转载自其他媒体,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。


返回网站首页

本文评论
海南全岛 “零关税”:买苹果 iPhone 11 Pro Max 可省 1000 多
据搜狐科技报道,6 月 1 日晚,《海南自由贸易港建设总体方案》全文公布。其中,全岛封关、零关税、......
日期:06-03
协助抗击疫情 百度“问医生”超10万医生在线服务
目前,新型冠状病毒肺炎疫情仍处于扩散阶段,局部地区有迅速上升趋势,形势复杂严峻。疫情非常时期......
日期:02-01
你能想象没有手机的日子吗?李彦宏将给你比手机更好玩的东西
现代生活中,手机成了人们生活办公必不可少的工具。人们每天需要高频率地使用手机,如联系他人......
日期:04-23
技术+创新 教育业务或成字节跳动新重点
字节跳动组织升级后,教育业务或将成为新重点。 不久前,成立八周年的字节跳动进行了组织架构升级。公开信中创始人张一...
日期:04-09
小网关·大融合新一代ICT融合网关H3C MSR3610-I霸气来袭
近日微信新功能“拍了拍”走火 路由群里小伙伴们也玩的不亦乐乎 对于......
日期:07-01
IFS再度荣膺Gartner 2019 现场服务管理魔力象限领导者
自2014年以来,IFS已连续多年被Gartner FSM魔力象限认定为领导者...
日期:05-28
毛羽:我们今天需要怎样的现实主义电视剧
聚焦现实、讴歌英雄,是新时代赋予电视剧创作、播出的光荣使命。《破冰行动》以真实案例为创作素材......
日期:06-19
腾讯启动战略升级:扎根消费互联网 拥抱产业互联网
腾讯公司今天发文宣布组织架构进行新一轮优化调整,在原有七大事业群(BG)的基础上进行重组整合,保......
日期:09-30
戴尔为何一直拒绝将商用本的超薄推向极致?
一个小巧精致的香槟塔,一块造型简单的翻糖蛋糕,在一群观礼嘉宾与记者的掌声中,几位长期合作的中国客......
日期:11-11
《新基建,新机遇:中国智能经济发展白皮书》重磅首发 百度以AI“助燃”
疫情全球爆发、世界经济面临困局亟待转型,以人工智能为核心驱动力的智能经济新时代呼之欲出。6月18......
日期:06-18
《鬓边不是海棠红》带动京剧艺术受追捧 爱奇艺“鬓边百科”单日点击超百万
近日,爱奇艺自制剧《鬓边不是海棠红》正在爱奇艺热播。由于该剧中对京剧艺术做了充分展示,爱奇艺......
日期:03-27
从Flip上看家庭教育新方式:智慧、自由、探索
关于孩子的教育问题,每个家长有着不同的追求和预期:想让他成为满腹诗书的小才子,想让她成为多才......
日期:06-01
微软Windows 10 20H1快速预览版18936开始推送
7月11日消息 今天微软推送了最新的Windows 10 20H1快速预览版18936,带来了一系列的新功能和特性。Y......
日期:07-11
华为张宇昕:5G创新,华为云助力互联网产业协同共进
6月17日,以“智能互联,创领未来”为主题的2020互联网5G创新峰会,于广东华为松山湖欧洲......
日期:07-21
总经理亲任主播,广东电信“全民升5G 智享双千兆”引爆全网
5月26日下午3点,中国电信广东公司总经理陈志然、中国电信广东公司市场部副总经理戎江波亮相直播间......
日期:05-27
微软超越苹果:成为全球市值最高的公司
今天微软发布了新的财报,看起来非常的稳定,特别是云服务的表现,其总营收为305.71亿美元,与去年......
日期:04-26
长亭科技连续三年亮相国家网络安全宣传周
9月16日,2019年国家网络安全宣传周在天津正式拉开帷幕,主题为“网络安全为人民,网络安全靠......
日期:09-17
平安旗下两大研究院联合发布全球疫情预测报告
平安旗下宏观经济研究院、医疗科技研究院联合发布全球疫情预测报告,欧美疫情有望10天迎拐点,以下为......
日期:03-23
a豆携手多位斗鱼颜值主播,带来a豆x鲨鱼娘定制礼盒等颜值新品
5月31日a豆带来了一场主题为“颜值至上 a豆主张”的a豆家族尝鲜推介会。邀请了三位在年轻......
日期:06-01
依托科技发力环保与管理 平安科技助力国家可持续发展
随着我国经济的迅速发展,环境的治理与保护问题已经成为重中之重的课题之一。在“大数据&rdquo......
日期:09-12