德勤-人工智能与风险管理报告-2019.3-29页_3mb

金融服务企业AI风险管理与监管总结

核心内容

人工智能（AI）正逐渐成为金融服务企业战略转型的重要工具，其在提升效率、降低成本以及增强客户体验方面展现出巨大潜力。然而，随着AI的广泛应用，金融服务企业也面临一系列挑战，包括数据质量、模型透明性、合规性以及监管适应性等。监管者同样对AI技术在金融领域的应用表现出高度关注，并强调其在风险管理与合规中的重要性。

主要观点

• AI的潜力与风险并存：AI有助于提升运营效率、优化客户体验，但也可能引入新的风险，如算法偏差、不可解释性、数据安全问题等。
• 风险管理是关键：有效的风险管理不再是阻碍AI创新的因素，而是其成功应用的核心。企业需要重新审视和更新现有的风险管理框架，以适应AI技术的动态特性。
• 监管视角的转变：监管机构正在逐步调整其监管方式，从“技术中立”向更具体的AI技术指导和监管框架转变，以应对AI带来的新风险。
• AI治理与透明度：AI治理需要跨部门协作，包括风险、合规、内部审计和业务部门。透明度、可审计性和可解释性是监管和企业内部关注的重点。

关键信息

AI技术概述

AI是模仿人类智能的计算机系统，其核心技术包括：

• 机器学习：通过数据自动发现模式并进行预测。
• 深度学习：复杂算法，常被称为“黑匣子”，难以解释其决策过程。
• 语音识别与自然语言处理：用于理解客户交互并分析其潜在风险。
• 视觉识别：用于图像分析和风险评估。

金融服务企业采用AI的挑战

1. 数据问题：AI依赖大量高质量数据，但金融服务企业常受限于传统系统，导致数据流动和质量不佳。
2. 透明性和可审计性：AI的黑箱特性使其难以审计和解释，特别是深度学习模型。
3. 合规风险：AI可能与GDPR等法规冲突，特别是在数据使用和自动化决策方面。
4. 人才与组织文化：AI的引入需要企业调整其人才战略和组织文化，可能带来员工流失和技能不匹配的问题。
5. 模型与算法风险：包括偏差性、不准确性、反馈风险和滥用性等，需要持续监控与优化。

风险管理框架（RMF）的全生命周期

风险管理框架包含四个阶段：

1. 识别：确定AI应用可能带来的风险，并考虑其对业务和监管的影响。
2. 分析：评估AI模型的性能，识别偏差和不准确性的来源。
3. 管控：建立适当的控制措施，确保AI应用与公司风险偏好一致。
4. 监控与报告：持续监测AI模型的表现，并向管理层和监管机构报告结果。

AI治理与监管措施

• 治理结构：需要建立清晰的治理机制，包括责任分配、测试与批准流程、以及定期审查。
• 问责制：每个AI应用程序应有明确的负责人，确保其符合公司政策和监管要求。
• 第三方与外包：监管机构强调AI相关责任不能外包，所有AI解决方案必须经过内部测试和监控。
• GDPR与数据保护：AI在客户数据处理方面必须符合GDPR等法规，确保透明度和合法性。

监管机构的反思与应对策略

• 技术中立的局限性：虽然技术中立有助于避免法规过时，但也可能阻碍监管机构对特定AI应用的风险识别。
• 监管框架的演变：监管机构正在制定更具体的技术指导，如针对智能投顾、外包云平台和算法交易。
• 行业自律与合作：鼓励行业制定AI标准和行为准则，并与监管机构合作，确保合规性与风险管理。

中国AI风险管理和监管现状

• 政策支持：中国自2017年起将AI纳入国家战略，推动其与实体经济融合。
• 监管框架：
  • 《网络安全法》：规范个人信息保护，强调合法、正当、必要原则。
  • 《电子商务法》：限制大数据杀熟等行为，要求提供非个性化选项。
  • 《资管新规》：明确金融机构在AI应用中的责任，强调合规性、风险隔离和信息披露。
• 挑战与趋势：中国金融机构在AI风险管理方面仍存在不足，监管机构正加快制定相关指导方针，以应对AI带来的新型风险。

总结

AI在金融服务行业中的应用正逐步深化，但其带来的风险也日益复杂。企业需要从风险角度出发，重新构建风险管理框架，以适应AI的动态性和不可解释性。同时，监管机构也在调整其监管方式，以确保AI技术的合规使用。AI的治理和风险管理是一个双向学习过程，既需要企业提升对AI的理解，也需要监管机构加强对其技术特性的认识。中国在AI监管方面也已开始行动，但仍需进一步完善相关制度，以应对AI在金融领域所带来的广泛影响。