普华永道-可解释的人工智能（英文）-2021.5-28页_2mb

总结：Explainable AI 驱动商业价值通过更深入的理解

核心内容

Explainable AI（XAI）是确保人工智能系统透明、可解释的关键，尤其在高度复杂的机器学习模型中。随着AI在商业和社会中的广泛应用，其决策过程的可解释性变得尤为重要，以建立利益相关者的信任并实现AI的潜在价值。XAI不仅有助于满足监管和伦理要求，还能提升模型性能、增强控制力和商业洞察力。

主要观点

• AI的商业潜力：AI被估计将在2030年前为全球GDP带来15.7万亿美元的增长，但其复杂性和“黑箱”特性引发了信任问题。
• 信任的重要性：AI的广泛采用需要建立信任，特别是在涉及重大风险决策的领域，如金融、医疗和自动驾驶。
• 解释性需求的差异：并非所有AI系统都需要同等程度的解释性。解释性的必要性取决于用例的严重性、模型的复杂性、决策的影响以及监管要求。
• 解释性与性能的权衡：更复杂的模型通常具有更高的性能，但也更难解释。解释性可能需要牺牲一定的准确率，反之亦然。
• XAI的双重维度：解释性（why）和透明度（how）是理解AI决策过程的两个关键维度。
• XAI的实施挑战：在设计AI系统时，需提前考虑解释性，嵌入到系统架构中，并结合具体业务场景选择合适的算法和解释方法。

关键信息

• AI用例的严重性：影响解释性需求的三大经济因素包括单个预测的经济影响、理解预测原因的经济价值、以及从多个预测中获取洞察的经济价值。
• 解释技术：常见的解释方法包括特征重要性分析、自然语言生成（NLG）等，用于将模型决策转化为人类可理解的形式。
• 用例领域：六个关键领域用于评估AI用例的严重性，包括收入、监管、声誉、严谨性、风险和对组织环境的影响。
• 模型类型与解释性：决策树等规则型模型比深度神经网络等非规则型模型更容易解释，但深度模型在某些情况下能提供更丰富的解释。
• XAI与Responsible AI的结合：PwC提出了一个框架，将XAI与Responsible AI相结合，以确保AI的负责任应用，并通过差距分析评估现有系统的解释能力。

用例严重性评估

• 关键评估标准：
  • 单个预测的经济影响
  • 理解预测原因的经济价值
  • 多个预测中获取趋势和模式的经济价值
  • 决策频率（如每天数亿次 vs 每月几次）
  • 模型的鲁棒性（准确性与泛化能力）
  • 监管要求
  • 对企业声誉的影响
  • 预测结果的潜在危害

XAI实施要点

• 解释性设计：应在AI系统设计初期就考虑解释性，并嵌入到系统架构中。
• 算法选择：根据解释性需求选择合适的机器学习算法，如规则型模型更适合高解释性需求。
• 数据预处理：数据预处理可能影响解释性，如主成分分析（PCA）和词向量模型可能掩盖原始数据含义。
• 特征交互：解释性方法常忽略特征之间的相互作用，可能导致解释不全面。
• 人类解释的局限性：人类解释本身也存在偏差和不准确性，因此需要依赖技术手段增强AI的可解释性。

商业价值

• 增强信任：解释性有助于提升利益相关者对AI系统的信任，从而推动其采用。
• 提高性能：理解模型决策机制有助于优化和调整模型，提升其性能。
• 风险管理：解释性支持更有效的风险管理和控制，特别是在高风险用例中。
• 伦理与合规：解释性有助于确保AI符合伦理标准和监管要求，避免偏见和歧视。

结论

XAI在AI的主流化过程中扮演着至关重要的角色。随着AI技术的不断发展，确保其可解释性不仅是技术挑战，更是商业和社会责任。PwC提出的用例严重性评估框架和XAI最佳实践，有助于企业在不同场景下权衡解释性与性能，从而最大化AI的商业价值。