直播干货｜社会风控审计难点及解决方案

4月10日，针对社交行业音视频内容风险，数字化技术解决方案专家张磊对当前内容风险状况及监管压力、审计难点等进行了深入分析为客户解决问题，分享有效的识别内容。风险解决方案。

内容风险和监管压力并存

近年来，“陌生人社交”和“语音社交”产品层出不穷，2019年音频社交行业爆发式增长尤为明显，被称为“新一代社交产品元年”。随着行业的快速发展，社交产品呈现出数量多、种类多、形式丰富、内容多样的特点。与此同时，还有必须注意的内容风险。对于平台而言，风险主要是用户内容不可控，压力主要来自国家监管政策的持续收紧。

2019年下半年，政府监管部门先后发布了《儿童网络个人信息保护条例》、《网络音视频信息服务管理条例》、《网络信息内容生态条例》管治》等新规，以及“清网2020”、“保护苗家2020”、“秋风2020”的例行专项行动，重点打击淫秽色情信息和违法有害信息传播关于儿童风控系统审核主要审什么，不难看出，低俗软色情和儿童保护成为2020年监管的重点。

在大环境的影响下，面对纷繁复杂的网络内容，政府的监管会越来越严格，内容审查的难度和挑战也越来越大，其重要性和必要性也会增加。进一步突出显示。

机器+人工审核的方式成为主流

人工审核的优势在于逻辑推理、发现和判断的能力，可以有效地发现潜在风险；而机器审计的优点是覆盖面广、标准体系速度快、扩展迅速、真正意义上的实时审计。机器审核与人工审核相得益彰，相得益彰。对此，数美也提供了相应的解决方案——

天境——全栈智能内容识别引擎，识别范围涵盖视频、文字、图片、音频、网页，高危、高危风险可实时输出，可疑风险结果结果和正常的风险结果和相应的细化标签，帮助人们提高审计效率。

天鉴——人工内容审核平台。人事审计部分，提供审计平台，帮助新业务客户降低开发成本和上手难度。同时，还提供匹配的候选团队评分团队和质检团队，帮助用户打造审核闭环。

根据不同的用户形式，数美提供两种审核方案

发送前审核——适用于文字和图片 语音信息、视频文件等场景可以完整审核后发送。用户上传的数据会先通过机器审核给出结果，再经过人工审核控制后问题数据才会下发。

先审后审——鉴于语音流和视频流的特殊性，不可能先审后审，但可以先发后“实时审”。即在内容发布的同时，机器会实时审核，一发现风险就处理。

内容风险的挑战

结合具体场景，张磊从文字识别、音频识别、图像识别、视频识别四个方面分别介绍了内容风险识别的难点及解决方案。

广告导流包含大量垃圾低俗信息，严重影响平台用户体验。 2020年，引流内容中粗俗、刷屏的内容将成为监管重点。根据舒美长期对抗黑品的经验，打击广告黑品，需要多维度的特征识别。可疑内容识别与账号设备识别相结合风控系统审核主要审什么，可以有效解决文本变体带来的审计困难。

图像识别，单张图像信息量大，内容多。准确性和效率是人工审核最重要的评估指标。结合机器审核，可以提高人工审核的效率。通过三级标注体系，书美对违规行为进行了更详细的标注。将内容按照详细标签分类后交给人工审核，可以实现“专业审核”，即让人工重点审核熟悉的场景，提高审核。准确性和效率。

音频识别是近两年持续监管的重点。一方面，音频需要通过耳朵来审查。仅仅依靠人工审查是不现实的。此外，由于音频流的特殊性，无法进行实时审计。音频审计面临的挑战是如何在最短的时间内定位风险-确认问题-实施处罚-消除影响。

视频流作为一个场景，结合了图片和音频。复习的难点在于图片和声音的复习速度不匹配。对于这种情况，张磊给出了两个解决方案。一是分离音视频审核团队，自行处置审核结果，检索可疑片段相关数据；二是语音转文字，文字配图，一个人可以同时复习多种方式。

AI全栈，智能风控的未来

谈及智能风控的未来，张磊认为，基于人工智能的全栈智能风控是业务风控的未来。标准。

首先，提高对问题内容的预警和快速反应能力，对政策发布、处罚执行、敏感信息等监管动态的感知和机器识别能力的提升是非常必要的。

p>

其次，建立审计生态闭环。通过对审计数据进行分类分析，及时发现平台存在的问题和变化趋势，使审计体系不断迭代和完善。

第三，全栈内容识别引擎。一些数据调查结果显示，用户在同一平台发布非法内容后，转发的相关性在10%左右，而跨平台的同一场景相关性更高，用户标签和设备账号的风险识别可以更好地确定重点审计对象和优先审计对象。