直播当道，平台该如何做好内容审核规避风险？

内容审核就是检查用户在互联网平台上上传、发布或分享的内容（例如一些文字评论、音频视频以及图片）。

内容审核主要目的是过滤低质量的庸俗内容，保持互联网内容产品的内容质量，保持良好的内容环境，有利于提高用户体验。

特别是如今直播平台爆火，平台容易出现一些违规、违法的内容，比如涉恐、涉政、色情等敏感内容。

现在很多互联网内容平台都采用智能算法审核系统和人工审核进行过滤，这两种方式的有效结合可以大大的提高效率。过滤后的内容基本上是无害的，即使质量不高，也不存在风险问题。

图谱科技成立于2014年，是最早切入做内容审核的服务商，采用人工智能和计算机视觉技术，提供涉黄、暴恐、色情等违规内容的自动审核解决方案，其精确度做到综合数据几乎第一的成绩。同时服务能力更加的多元，对各种违法内容和标签进行定制化服务。

大家如果感兴趣，可以到图谱科技官网进行查询。

近几年，直播成了一个巨大的风口，迎来爆发式成长，然而直播的发展喜忧参半。一方面，国内开启了“全面直播”时代，大量网红、明星加入直播大队，消费者在主播的直播间下单、娱乐成为一种新潮；另一方面，直播平台内容庸俗、低俗问题，早已不是新鲜事，内容生态难题成为所有直播平台绕不过去的困境。

据统计，国家各部委机关在 2021 年就出台了近 22 个法律法规，开展了约 15 次监管专项行动。全年，监管封禁 7200 余名主播，处置账号 13.4 亿个，清理违法和不良信息 2200 万余条，下架应用程序、小程序 2160 余款。

直播的互动性强，使得传统的内容风控手段无法及时统筹各方面内容。直播平台需要做好内容安全体系化建设，才能有效规避内容安全风险。

面向直播行业的难题，网易易盾构建了一套自适应的内容安全体系。新的体系摆脱了以往单点防护的思路，基于 PPDR 模型，即以风险预测（predict）为起点、结合安全防御（prevent）、合规检测（detect）、事件响应（respond）等维度形成安全闭环。

风险预测 舆情组合拳，获取、传达、分析与应对有妙招

“互联网+”时代，社交和信息的发布以网络媒体平台为聚集地，舆情在此产生和传播。新媒体环境下，信息来源复杂且渠道多样，如从海量信息数据中精准发掘舆情是一项技术问题。

舆情获取：顺应时代趋势，易盾建立了丰富的舆情通道，包含官方渠道、技术渠道、共建共享渠道等，抓住当期与历史节点上要重点防护的风险对象，第一时间解读与传递舆情，帮助企业提前预防内容风险。

舆情传达：以 5 月份为例，易盾向企业客户同步近百起热点舆情。易盾自研舆情监测平台，通过舆情日历、舆情日报、舆情预案三大方向，让企业有效掌握新媒体环境下的舆情，做到 24 小时不间断，在不同时间段提前做好内容安全工作计划，出台应对措施。

舆情分析与应对：易盾还搭建了一支舆情监测队伍，定期开展网评员、信息员等培训班，不断提升舆情工作人员媒体素养、专业知识及技能，助力企业提升风控软实力。

安全防御 安全培训，完善从业者的风控知识

要在应对直播风控中赢得主动，安全策略与制度的完善是直播风控的重中之重。易盾提供各项服务，助力 MCN 机构加强人才队伍、培训交流等方面的措施，实现有力保障。

安全培训课程赋能：易盾将 20 多年内容安全保障经验，通过培训的方式赋能给 MCN 机构，熟悉监管政策关注的各项风险。安全培训课分为初、中、高三级，面向一线、中层管理、高管等人群，定制了差异化的课程体系，助力各职能完善相应的内容安全意识，为不同的培训对象补齐知识短板。

重大时期安全保障：在重大敏感时期，如国庆、两会期间，网络生态治理更为严格。为落实互联网生态，各单位需要建立防护、监测、响应的安全机制，易盾为客户提供了重保服务，安全专家以驻场的方式，第一时间传达监管要求，第一时间策略布控及巡专项舆情，第一事件识别风险内容，确保及时处置数字内容隐患，充分保障企业的业务稳定开展。

内容安全体系建设：从不良违规内容，到广告营销违规。易盾助力 MCN 机构构建一套完善的直播行业内容安全工作机制，制度与办法源自多年内容审核的实践经验，涵盖信息安全管理、信息安全评估管理、数据安全管理、信息安全培训管理、审核人员管理、审核人员管理、信息源管理、第三方合作管理、信息内容审核管理等方向。通过管理制度和规范机制，直播行业高效把握内容审核节奏，规避数据处理不安全、人员不稳定、效果不稳定等衍生风险。

合规检测 AI 机审+人审双重保障

易盾拥有强大的智能检测能力，内容检测的 AI 机器模型超过 200 多种，配备自定义配置的关键词库和图库，适应图、文、音、视多类型内容。此外，方案结合多级标签机制适应内容运营策略，除黄色、暴力、涉政、广告、诈骗等多种常规不良违规类目之外，可以满足各类定制化内容审核需求。

客户超千家，每审数据量近万亿条，丰沛的实践经验助力内容审核更精准。这是由于多年数据样本可不断反哺训练模型，有效将检测精准度提升至 99% 以上。针对 1% 的内容风险，提供精细化的人工审核，绝不放过任何潜在风险。

智能审核管理平台：通过智能审核管理平台，直播机构可对数据的统计分析，展现可视化的安全态势，用数据来论证安全强度，用数据量化内容安全风控效果，实现内容统一管控、全程溯源、实时审查、降本增效。

多项审核功能创新：文本、图片、音视频、直播、文档、网页等融媒体数据审核全覆盖；自定义多轮审核流程，自由选择一审二审三审、盲审、抽审模式；支持极速/分类审核、多人同审、关联审核、聚类审核；独创的直播电视墙审核模式，极大降低安全风险，提升内容审核效率。

专业人工审核团队：审核团队基于机器智能检测，提供 7x24 小时人工内容审核支持，搭配智能审核系统，助力企业人审效率提速 5 倍以上。团队成员经过培训与考核上岗，多次参与参与人社部、中国电子学会、公安部《网络与信息安全管理员国家职业技能标准》、《互联网内容审核职业技能等级标准》的开发制定，与中国电子学会共同创办培训班，为行业输送人才。

事件响应 直播内容安全应急处置有措施

互联网产品在运营过程中突然遭遇境外冲塔、舆情风险等紧急事件并不少见。

在应急响应阶段，易盾提供全天候的专家支持，给予企业公关处置建议，提供内容安全策略咨询与技术服务支持，助力企业应对监管专项行动和爆发的紧急安全事件。

专属服务群：为客户建立专属专家团队，由 AI 算法专家、安全研究员、政策法规研究专员组成，全天候履行三大职能：应急安全策略更新、响应安全效果调优与输出应急工作报告，以应对监管检测。团队成员具备丰富的应急响应经验，为业务正常运行保驾护航。

易盾直播护航方案的优势

快速符合行业监管要求

基于 PPDR 模型的直播内容安全服务，满足国家监管单位提出的以安全技术保障、策略运营管理、风险监测预警、安全应急响应为核心的安全要求。

大幅降低直播内容风险

易盾内容安全服务为企业从风险预测、安全防护、安全检测、应急响应等维度构建了内容安全闭环模型，由被动防御转变为动态防御，可以及时发现风险和响应消除事件带来的影响和损失。

轻量化投入、提供针对性安全服务

易盾内容安全服务可以针对不同类型企业提供自适应的安全方案，企业无需为内容安全投入大量精力进行内容安全工作规划、设计、实施和维护，可大幅降低内容风控带来的负担。

直播行业安全护航实践

某头部电商直播机构

1、工作人员安全意识薄弱，对广告法认知不足，直播间因涉嫌虚假宣传，被监管单位处罚。

2、缺乏完善的内容审核机制，导致直播物料、直播台本暴露内容合规风险。

易盾为该机构和主播提供“AI 机审+人工审核+智能审核系统”一体化解决方案，审核召回率达 99%，人工审核成本降低 90%。点击快速免费试用易盾直播内容风控方案