20200326-安永华明-如何通过风险预测获取人工智能洞察__16页_764kb

如何通过风险预测获取人工智能洞察？总结

核心内容

本文探讨了如何通过“信任设计”和风险预测来提升人工智能系统的可信任度，从而推动其在企业中的有效应用。文章强调了人工智能在带来巨大机遇的同时，也伴随着显著风险，企业必须在设计阶段就考虑风险因素，并通过持续监控和治理来建立用户信任。

主要观点

1. 人工智能的双刃剑特性
   人工智能可能成为人类文明史上最伟大的发明，也可能是最糟糕的发明。其潜在风险包括自动化武器的滥用、经济破坏以及社会不公。

2. 信任是关键
   信任是人工智能系统被广泛接纳的基础。企业需要在人工智能设计和运营过程中主动构建信任，而不是在出现问题后被动应对。

3. 信任设计（Trust by Design）
   信任设计是一种将风险预测思维嵌入人工智能生命周期的方法，旨在通过主动的风险管理提升系统的可信度。

4. 风险预测的价值
   风险预测可以帮助企业识别、量化和应对人工智能系统可能带来的风险，从而更好地做出决策并提升用户信心。

5. Trusted AI Platform的作用
   安永开发的Trusted AI Platform提供了一种综合方法，用于评估、量化和监控人工智能系统的风险和可信任度，帮助企业制定有效的风险缓释策略。

关键信息

人工智能四大关键风险领域

• 技术风险：评估基础技术、技术操作环境和自主性水平。
• 利益相关方影响：考虑人工智能代理的目标和目的，以及对用户的影响。
• 控制有效性：评估是否存在降低风险的控制机制及其有效性。
• 风险承受能力：衡量企业对人工智能风险的容忍程度。

人工智能风险应对策略

1. 风险规避：完全避免某些高风险活动，但可能失去人工智能带来的优势。
2. 风险转移：将风险转移给保险公司或第三方，但企业仍需承担最终责任。
3. 风险降低：通过控制措施降低风险，但仍需警惕控制措施不足的问题。
4. 风险接受：接受低影响风险，但需评估失败成本。

人工智能风险量化模型

• 公式：人工智能剩余风险 = (技术风险 × 利益相关方影响) - 控制有效性
• 优势：
  • 有助于映射风险组合并匹配企业风险承受能力。
  • 提供对风险驱动因素的深入理解。
  • 支持动态风险管理，预测设计变更对风险的影响。

监控机制的重要性

• 需要建立持续监控机制，确保人工智能系统按预期运行。
• 人工监督（如人在回路）与自动化监控结合，可以有效识别新风险。
• 监控机制需不断更新，以适应技术发展和操作环境的变化。

结论

通过将“信任设计”和风险预测融入人工智能的开发与运营过程，企业可以更有效地管理风险，提升系统的可信任度。安永的Trusted AI Platform为这一过程提供了强大的工具，帮助企业识别风险驱动因素、量化风险、制定应对策略并持续监控系统表现。最终，建立信任不仅是企业社会责任的体现，也是在人工智能时代获得竞争优势的关键。