2023-09-17-爱分析_网易易盾-2023数字内容风控行业白皮书_112页_32mb

2022年娱乐社交风控报告总结

数字风控的力量

• 数字风控守护网络生态，防止有害信息传播，保障用户安全与平台合规。
• 技术与运营结合，构建高效的内容审核体系。

社会责任篇

未成年人保护

• 实现对100%未成年人终端覆盖，识别和限制未成年人功能，保护身心健康。
• 内容审核布控多种有害分类，如儿童色情、暴力自残、不良信息等，覆盖多场景（直播、社交、游戏等）。

反诈骗与反欺诈

• 协助警方侦破网络诈骗案件，识别虚假账号、诈骗话术、团伙特征。
• 用户风险分级与审核策略，平衡安全与用户体验。

谣言治理

• 对突发谣言进行风控评级，即时布控，阻断传播路径。
• 技术手段结合用户举报，增强识别与自动化处理能力。

无障碍改造

• 成立无障碍小组，推出语音验证码，方便视障用户身份验证。
• 多机型适配与迭代优化，提升用户体验与安全性。

可信AI探索

• 参与中国信通院“可信人脸应用守护计划”，推动数据公平与算法透明。
• 增强AI公平性、透明度和稳健性，护航风控产品发展。

内容审核治理篇

产品力

• 机器检测能力：涵盖文本、图片、视频、音频四大维度，提供精细化识别与自定义策略。
• 行为分析能力：通过账号风险画像、行为序列、社交关系网，提前布控风险行为。
• 智能审核平台：人机协同，提升审核效率，支持多种语言与场景策略。

运营力

• 审核标准与处理机制：依照国家法规与平台政策，通过拦截、嫌疑、人工审核响应风险。
• 内容出海策略：针对不同国家政策，定制内容风控与合规方案，规避本地监管。

数据分析篇

• 2022年内容风控总量增长显著，主流载体为文本、图片、视频、音频，不良信息以色情、广告、违禁、涉价值观类为主。
• 高发时段集中在中午和晚间；高风险地区集中在广东、江苏、河南、山东、浙江。
• 未成年人为主要信息发布者，但黑灰产账号与被盗少年号成重要原因。

网络黑产与应对策略

• 黑灰产团伙呈产业化、团伙化趋势，涉及账号倒卖、内容篡改、广告引流、刷量等多种形式。
• 地狱模式从本地工具到云端对抗，涉及真人众包与AI结合。
• 建议平台采用多重技术、本地化合规策略，结合人机结合的风控能力提升防护。

结语与建议

• 易盾推出多种语言审核技术支持，专注技术与策略更新，助力平台合规与健康发展。
• 推荐企业选择合作伙伴进行内容风控，制定灵活合规策略，确保业务与生态并重。

编写单位：网易智企
总结完成：LangLang