酷应用

七牛云内容审核全线升级，「AI + 人工」一站式完美保障运营安全

动态作者：七牛云 2018-07-24 11:23:17

时间来到 2018 年，直播与短视频平台早已不是什么新鲜事物，4.22 亿的用户数量证明它们已经成为了互联网传播的主流形态。经过几年的生长与洗牌，各平台已成为全网流量的巨大入口。千万月活用户、数以亿计的每日新增内容在带来可观收入的同时，却也让违规内容数量激增。

2017 年 6 月，《网络安全法》、《互联网新闻信息服务管理规定》等相关法律法规正式实施。

当月，网络违法和不良信息有效举报量便创历史新高，达 366.9 万件，其中淫秽色情、违规涉政、违规涉暴占据违规内容总量的 91%。

近一年来，国家网信办、文化部等部门先后多次大规模约谈知名内容平台，针对平台内的违规内容作出下架、封号、罚款甚至关停等处罚。因此，在国家政策与社会舆论的双重监督下，内容平台必须以最高标准规范其内容，杜绝违规内容对平台自身带来的运营风险，乃至对于社会造成的负面影响。

监管高标准凸显审核难题

对于直播、短视频等平台而言，内容审核也是挑战性最高的业务环节之一。尤其对于 UGC 内容平台来说，由于内容创作权完全在用户手中，平台运营方根本无法掌控下一秒的内容会发生什么。从创作者角度来说，想要从成千上外的「同行」中博得足够的关注度，难免会有打擦边球现象存在。面对短短数秒审核时间和层出不穷的违规新类型，运营方面临着巨大审核难题。

机器审核胜任 90% 以上审核工作

基于计算机视觉技术的机器审核目前已大量应用于各平台的内容审核环节。面对每天数以亿计的新内容，使用机器审核的确能够以较低的成本完成绝大部分工作。但是，即使机器审核的准确度能够达到 98% 以上，仍难免会有遗漏。

自建人审保证安全却带来高昂成本

那么采用人工审核是否就能解决问题？其实，对于各个平台来说，违规内容也许只占到 1%，如果所有平台均组建自有的人审团队，动辄成百上千的审核人员将会给企业带来巨大的成本支出，人员雇佣、管理、培训等都会成为企业本不必承受的负担。

高效高质的内容审核与轻便轻量的管理成本怎样兼得？也许你该看看专家的方案。

七牛云「AI +人工」一站式内容审核服务

七牛云人工智能实验室在内容审核领域深耕多年，对审核需求有高度的敏感和理解。早在 2015 年七牛云就推出了图片鉴黄、鉴暴恐、政治人物识别服务，准确度超过 99.5%，可以替代 90% 以上的人工审核。现已累积识别图片超过 4500 亿张、审核视频超过 100 亿个。合作客户包括熊猫直播、Faceu 激萌、淡蓝、平安银行、新华社等数千家互联网企业和政企机构。

和他们一起用七牛，解决内容审核难题

七牛云不仅提供优质的 AI 内容审核，基于多年对监管标准和客户需求的充分理解，七牛云正式推出「AI+人工」一站式内容审核服务，让客户享受无忧内容安全体验的同时不必承担高额成本。

内容审核流程

紧贴政策

七牛云人工智能实验室与多个国家和地方监管部门深度合作，第一时间更新审核标准，精准识别色情内容、多达 13 类的暴恐场景、 1700 余名国内外元首、副国级以上领导人、反华势力和劣迹艺人等，保障内容平台实时紧贴审核政策。

快速迭代

除了通常的涉黄、涉暴和涉政违规内容，对于新发生的敏感事件，也需要及时应对。利用分布式深度学习平台 AVA，七牛云内容审核产品能够快速迭代训练模型，满足所有新增审核需求。

便捷操作

七牛云内容审核已全面融合了鉴黄、鉴暴恐和政治人物识别接口，一键即可接入。除此之外，平台运营人员还可以自定审核标准和阈值，制定灵活的审核和运营方案，一站式完成内容审核功能部署。

七牛云在内容审核方面有着丰富的实战经验，在短视频社交以及广电、公安、安防、金融等各行业领域均被广泛应用，助力各大企业约束内容乱象、规范平台运营，全线保障平台内容质量。