企业如何解决内容审核的安全风险？

内容审核是什么&＃xff1f;

随着互联网的快速发展&＃xff0c;与之而来的是信息爆炸式增长&＃xff0c;而且这些互联网信息良莠不齐&＃xff0c;其发布者也鱼龙混杂&＃xff0c;常常混入很多不良或者违规违法信息&＃xff0c;例如涉政、涉黄、暴恐、违禁、不良价值观、广告等。

信息发布平台的运营企业要规避内容风险&＃xff0c;避免出现内容安全事件&＃xff1b;社会需要净化网络空间&＃xff0c;营造良好网络生态&＃xff1b;个人需要晴朗的网络环境&＃xff0c;避免网络暴力、网络谣言、网络诈骗等。因此&＃xff0c;也就有“内容审核”需求。

内容审核指的是审核员针对用户在网站上上传的文字、图片、视频、音频等进行审核&＃xff0c;检测是否存在广告、涉政、涉黄、敏感人物等内容&＃xff0c;此外&＃xff0c;一些平台还有AI智能审核&＃xff0c;而这样做是为了净化网络和降低业务违规风险。

对于很多企业&＃xff0c;尤其是互联网内容企业来说&＃xff0c;内容安全是企业的生死线。例如&＃xff0c;此前有某文学网站因审核把关不严&＃xff0c;履行主体责任不力&＃xff0c;对其用户发布的信息未尽管理义务的问题&＃xff0c;网站负责人被约谈&＃xff0c;责令整改并从严处理相关负责人&＃xff1b;2021年&＃xff0c;某知名社区类网站因屡次出现违法内容&＃xff0c;责令其整改并罚款150万元&＃xff0c;该网站当年内被罚20次&＃xff0c;累计900万元……

简言之&＃xff0c;凡是存在内容生产、内容存储、内容分发或内容展示场景的行业和企业&＃xff0c;原则上都必须做内容过滤&＃xff0c;内容安全是合规经营的重要组成部分&＃xff0c;在建设网络强国的时代背景下&＃xff0c;监管层面对于内容安全违规实施“零容忍”的高压态势。

很多企业为了规避内容风险&＃xff0c;一般都通过人工和算法的有效结合来识别、过滤不良内容&＃xff0c;常用的审核方式基本包含&＃xff1a;机器审核&＃43;人工审核&＃43;用户投诉审核&＃43;结果审核。虽然有机器审核&＃xff0c;但人工审核仍然是不可或缺的重要部分&＃xff0c;因此&＃xff0c;很多企业尤其是内容对人工的需求量特别大。

同时&＃xff0c;为了降低人工成本&＃xff0c;会把人工审核这项工作外包出去&＃xff0c;但也给企业带来了数据信息泄露风险。由于外包人员的安全意识相对淡薄&＃xff0c;也缺乏劳动合同、保密协议约束&＃xff0c;一旦敏感的图文视频等内容被泄露出去&＃xff0c;可能会引发法律和舆情风险。

另外&＃xff0c;异地审核团队需要通过VPN访问企业内网的审核平台&＃xff0c;VPN网速较慢&＃xff0c;难以保障视频审核的体验和效率&＃xff0c;降低了内容审核的工作效率。

那么&＃xff0c;有内容审核的行业、企业&＃xff0c;如何在解决内容审核安全风险时&＃xff0c;又能兼顾其工作效率呢&＃xff1f;

基于兼顾内容审核的安全与效率的考虑&＃xff0c;数影方案的设计思路如下&＃xff1a;

一&＃xff0c;在数影管理后台&＃xff0c;创建内容审核平台的应用&＃xff0c;并授权给相应员工&＃xff1b;

二&＃xff0c;在数影管理后台&＃xff0c;针对内容审核平台这一应用配置安全策略&＃xff0c;涉及的策略包括&＃xff1a;下载管控、复制粘贴管控、网站水印、防截屏、录屏审计&＃xff1b;

三&＃xff0c;在数影管理后台&＃xff0c;针对在线文档配置安全策略&＃xff0c;涉及的安全策略包括&＃xff1a;复制粘贴管控、文档水印&＃xff1b;

四&＃xff0c;在数影管理后台&＃xff0c;针对内容审核平台这一应用配置安全网关&＃xff0c;强制该应用的流量从安全网关转发。

当企业采用数影方案后&＃xff0c;可实现下述效果&＃xff1a;

访问收口&＃xff1a;员工在且仅在数影办公空间里访问内容审核平台。

数据不落地&＃xff1a;内容审核平台上的图文、视频&＃xff0c;员工可以正常审核标注&＃xff0c;不影响工作效率&＃xff0c;但当尝试下载导出或复制相关内容时&＃xff0c;文件不会下载到员工的电脑上&＃xff0c;而是直接下载到数影的文件中台&＃xff08;存储在OSS上&＃xff09;。

底座安全&＃xff1a;员工尝试截屏&＃xff0c;会被拦截&＃xff0c;无法截取到内容审核平台上的内容&＃xff1b;员工尝试打开开发者模式&＃xff0c;会被拦截&＃xff0c;规避通过技术手段窃取内容的可能性&＃xff1b;员工尝试打印或另存整个网页&＃xff0c;会被拦截。

总之&＃xff0c;员工在数影办公空间内访问内容审核平台&＃xff0c;其图文视频等敏感数据不会被泄露出去&＃xff0c;企业能有效企业规避法律和舆情风险&＃xff1b;数影的零信任访问取代企业传统的VPN访问&＃xff0c;性能更好&＃xff0c;满足倍速视频审核需求&＃xff1b;让企业能安心将内容审核业务外包给异地团队&＃xff0c;降低企业的运营成本。