德勤-推动人工智能发展：驾驭风险，攻克难关-2021.1-16页_1mb

报告摘要

推动人工智能发展：驾驭风险，攻克难关

核心内容

随着人工智能技术在全球范围内迅速发展，其带来的变革潜力和潜在风险并存。德勤《企业人工智能应用现状分析》报告指出，尽管大多数企业大幅增加了人工智能投资，并认识到其战略价值，但仍有 56% 的受访企业因风险顾虑而放缓人工智能的应用。主要顾虑集中在三个方面：对人工智能决策流程的信心、伦理规范以及市场不确定性。

主要观点

1. 人工智能的价值与战略意义

超过 75% 的受访者认为人工智能具有重要战略意义，较前一年上升 10%。
人工智能可提升流程效率、改善决策、提高员工生产力、改进产品和服务，为企业发展创造显著价值。

2. 企业对人工智能风险的顾虑

信心：73% 的受访企业高管在信心方面有重大或极大顾虑，尤其是对人工智能的可解释性和安全性的担忧。
伦理规范：57% 的受访者对伦理规范方面存在重大或极大顾虑，包括数据隐私、公平性、偏见和失业风险。
市场不确定性：55% 的受访者对市场不确定性有重大或极大顾虑，涉及监管变化、公众抵触、员工负面反应等。

3. 风险与成熟度的关系

企业人工智能成熟度越高，对风险的顾虑程度呈现铃型曲线，即中等成熟度企业顾虑最大。
低成熟度企业尚未充分认识到风险，而高成熟度企业具备更多应对能力。

4. 信心与伦理规范的关联

信心和伦理规范的顾虑最终都指向人工智能的可信度。
企业应确保人工智能工具透明、可靠、安全，并建立问责机制，以减少对人工智能的不信任。

关键信息

人工智能面临的挑战

可解释性：复杂的人工智能模型难以解释其决策过程，影响企业对其可靠性和合规性的信心。
数据偏见：人工智能依赖的数据可能存在偏见，导致不公平的决策，如医疗算法中的种族偏见。
市场不确定性：法规变化、公众抵触和员工对人工智能的负面反应是企业必须应对的外部挑战。

德勤建议

注重数据管理和治理：40% 的企业数据成熟度较低，缺乏有效治理流程，导致数据质量不高，影响人工智能效果。
纳入多元化观点：多元化的思维有助于在人工智能设计和实施阶段识别潜在偏见，确保公平性。
重视变革管理和有效沟通：企业应通过沟通和培训，帮助员工和客户理解人工智能的价值，减少抵触情绪。
预测和应对监管变化：如 GDPR 的实施经验所示，企业需提前准备应对未来可能出台的人工智能相关法规。

对人工智能信心的顾虑

可解释性不足：复杂模型难以解释决策过程，影响企业对其可靠性的判断。
系统安全性：企业担心人工智能系统可能被攻击或误用，造成数据泄露或错误决策。
决策透明度：企业希望人工智能的决策过程可被理解，以满足监管和公众需求。

对人工智能伦理规范的顾虑

公平性与偏见：人工智能算法可能无意中放大数据中的偏见，影响结果的公正性。
数据隐私：企业担忧数据被滥用或泄露，影响客户信任。
就业影响：人工智能可能取代部分岗位，引发员工对未来的不确定性。

对市场不确定性的顾虑

法规变化：新法规可能限制人工智能的应用，增加合规成本。
客户抵触：若客户发现人工智能应用存在缺陷或隐私问题，可能发起强烈抵制。
员工负面反应：员工可能对人工智能的引入感到威胁，影响其工作积极性和满意度。

企业应对策略

构建可信赖人工智能框架：涵盖六大关键维度，包括透明度、安全性、公平性、隐私保护、合规性和可解释性。
加强数据治理：确保数据质量、准确性和及时性，是提升人工智能可信度的基础。
推动多元化思维：在设计和实施人工智能时，纳入多样化的观点和经验，有助于减少偏见。
进行有效沟通与变革管理：帮助员工和客户理解人工智能的价值，减少抵触情绪。

结论

人工智能蕴含巨大变革潜力，但其发展仍面临信心、伦理和市场不确定性等多重挑战。企业需通过数据治理、多元化思维和有效沟通等方式，构建可信赖的人工智能系统，以降低风险、提升透明度，并确保人工智能的可持续发展。

方法论

调研时间：2019年10月至12月
调研对象：来自九个国家的2737名IT和业务线高管
调研内容：受访者对人工智能风险的评分，分为信心、伦理规范和市场不确定性三类

致谢与作者信息

感谢 David Jarvis、Susanne Hupfer、Brenna Sniderman 和 Natasha Buckley 为报告提供支持。
作者包括：
- Beena Ammanath：德勤人工智能研究院执行总监
- David R. Novak：德勤综合研究中心研究经理
- Siri Anderson：德勤综合研究中心研究员
- Abha Kulkarni：德勤印度服务有限公司高级分析师