首页 >民生救助

金山云金睛智能监管破解内容审核难题

2018-08-10 22:14:55 | 来源: 民生救助

金山云“金睛”智能监管 破解内容审核难题

近期,短视频、直播行业从集万千宠爱于一身到深陷舆论泥潭,值得深思。回顾当前中国短视频发展现状,2017年,用户规模已超过2.42亿,日活跃用户数量超过6300万人,每日使用次数达到7亿次。与短视频遥相呼应的视频直播行业在经历一番野蛮生长之后,到2017年用户规模达到4.22亿,年增长率依然高达到22.6%,行业热度空前。

井喷式的行业发展,使得各方监管变得心余力绌。违规内容成了平台审核之痛,发展之殇。在此背景下,主管部门重拳出击,多个短视频平台遭约谈、整改、下架。短视频、直播平台持有对违规内容绝不姑息的坚定立场以及从严处理的决心,在投入庞大资金的同时,并已开始大幅度扩大审核团队,加大人工审核力度进行紧急应对。

规范传播内容、保护未成年人健康成长,弘扬正确的社会主义核心价值观,各视频平台和关联企业都有着不可推卸的和义务。然而,由于视频量巨大,人工审核力有不逮,在加大人工审核力度之外,金山云金睛一站式AI内容安全服务为视频平台提供了全新的解决方案。

金睛上岗配合人工大幅提高审核效率

金山云AI内容安全监管平台金睛,早在2016年直播、短视频方兴未艾之际,紧随《互联直播服务管理规定》同步上线,致力于为平台方提供一站式AI内容安全服务。金睛见证了短视频、直播行业的整个兴盛过程,同时夯实了自身基础。

当前,每天新增的短视频、直播数量不低于5000万条,不良UP主、主播使出十八般武艺钻监管漏洞,常出现图像正常而语音违规、违规行为持续时间短、打规则擦边球等问题,都会加大审核难度。巨大的审核工作依靠现有的堆人战术已经很难从当下的困局中突围,引入基于深度学习、图像识别、云技术的AI内容安全监管能力,提升审核效率和精准度,变得尤为重要。对比发现,采用传统的人工审核方式,可做到3万张/人/天,准确率约80%,而金山云金睛可以做到全天24小时不限量识别

金山云金睛智能监管破解内容审核难题

,1s之内响应,准确率高达99%以上,可大大提升效率。

单一依靠人工审核来保持络环境的洁净安全,成本之高和耗时耗力之大显然无法应对飞速增长的数据量。面对复杂的络环境,金睛与人工审核相结合的方式,是金山云提供给行业破局最行之有效的解决方案。

目前,金山云为90%的互联、媒体及广电等行业头部客户提供服务,业务覆盖直播、短视频、长视频、OTT等多种视频业态。从最早入局视频、直播行业,经过多年积累,目前拥有10亿精标数据,夯实了金山云金睛广泛应用的基础。金睛基于精准AI算法模型,支持涉黄、涉恐、涉政、不良广告等多种违规场景的内容审核,同时提供直播实时AI内容安全监管服务、短视频AI安全审核解决方案,从而有效净化络环境。基于深厚的大数据沉淀,金山云金睛对违规场景进行精细化标签,目前分别支持200+暴恐类标签识别和1000+敏感人物识别,鉴黄识别方面准确率超过99%。

金山云金睛低俗场景判断结果与其他平台对比

金睛 严审违规与辅助平台深度运营同举

众多直播、短视频平台都先后选择使用金山云金睛来进行内容安全监管服务,例如龙珠直播。龙珠直播是国内最全的赛事直播,最丰富的游戏视频互动平台。龙珠直播借助金山云金睛平台领先的内容监管能力,确保平台上不出现淫秽色情、凶杀暴力等有害信息,不传播泛娱乐化、低俗、恶搞等不良内容。

区别于传统的SDK、API方式的技术应用,龙珠直播将实时的直播流同步共享在金山云金睛平台上,金睛高效对直播流进行抽帧解析,从审核、响应、复审到违规结果传输给龙珠运营人员,全程30s之内高效执行并同步发送给龙珠运营人员进行跟进。另外,金睛根据龙珠平台上主播直播时间、行为、内容的抓取进行数据沉淀,利于运营方对主播的管理,对有潜在违规倾向的主播进行监控。

监管同时,关注用户的视频消费体验也是重点,监管做到不死管,才是真正的维护消费者的切身权益。例如维护体赛事直播的健康发展,金睛为龙珠直播上球类内容进行识别,杜绝非版权赛事视频在平台的恶性传播。对于游戏玩家,金睛针对平台上热门的吃鸡游戏进行了定制化的内容识别,精准识别主播游戏数据,辅助直播平台进行深度运营,增加电子竞技的观赏性,实现用户体验和主流价值观正确引导的统一。

猜你喜欢