深度-皮尤-专家们怀疑，在未来十年内，合乎道德的人工智能设计将被广泛采用（英文）-2021.6-127页_1mb

专家对伦理AI设计在未来十年内成为规范持怀疑态度

核心内容概述

Pew Research Center与Elon University的Imagining the Internet Center于2021年6月发布了一份调查报告，总结了602位技术专家、开发者、政策制定者、研究人员和活动家对2030年人工智能（AI）伦理设计的展望。报告指出，尽管AI技术在许多领域展现出巨大潜力，但大多数专家认为，伦理AI设计不会在十年内成为主流规范。

主要观点

1. 伦理AI设计难以成为主流

• 盈利与社会控制优先：多数专家认为，AI的发展将继续以盈利和社会控制为主要驱动力。
• 伦理共识难以达成：伦理AI的定义和实施存在文化差异，且缺乏全球统一标准。
• 技术失控风险：AI系统的“黑箱”特性使得伦理标准难以应用，且历史上社会对新技术的反应往往是滞后和反应性的。
• 全球竞争影响：中美之间的技术竞争将主导AI发展，伦理问题被边缘化。

2. 伦理AI的希望与进展

• AI的不可阻挡发展：AI的进步不可避免，其应用将不断扩展并改善人类生活。
• 伦理共识正在形成：伦理AI的讨论已持续多年，正在推动社会对“有益、无害、自主与公正”等伦理原则的认同。
• 伦理将随技术演进而发展：不同领域将推动伦理AI的建立，部分领域可能更快地制定相关规则。

关键信息

• 调查方法：非科学性调查，基于非随机样本，于2020年6月30日至7月27日进行。
• 调查结果：
  • 68%的受访者认为，到2030年，大多数AI系统不会以公共利益为核心伦理原则。
  • 32%的受访者认为，伦理原则将成为主流。
• 调查背景：调查在新冠疫情初期、美国大选前、种族正义问题突出的背景下进行，且在最新的伦理AI研究发布之前。

专家观点摘要

伦理框架尚未完善

• Barry Chudakov认为，现有的伦理框架无法应对AI带来的新问题，如大数据、隐私保护、人脸识别等，伦理讨论需要重新定义。

政策滞后与滥用风险

• Mike Godwin指出，政府和政策制定者可能无法及时适应AI发展，导致AI滥用后才采取限制措施，形成“补丁式”伦理规范。

伦理困境与道德选择

• Jamais Cascio强调，AI在复杂的道德情境中难以做出最优决策，且多数AI系统将被用于间接伦理问题，而非直接的道德判断。

AI的道德判断能力

• Marcel Fafchamps认为，AI在某些情况下可能比人类更理性地做出道德判断，但其遵循的伦理原则可能与公众期望不符。

全球政治与非传统威胁

• Amy Webb指出，中国在AI领域的扩张和其“网络主权”战略值得关注，同时提醒各国应警惕黑客和非传统行为者对AI系统的潜在威胁。

社会正义与AI集中化

• Stowe Boyd担忧AI将加剧财富集中，不利于社会正义，认为应避免将AI用于过度消费和监控。

用户体验设计的重要性

• Ben Shneiderman建议，用户体验设计师应在AI系统的设计中发挥关键作用，以确保人类对系统的控制和监督。

伦理应追求社会正义

• danah boyd认为，伦理不应被视为二元对立，而应关注社会价值和权力结构，推动社会正义。

总结

尽管AI技术的快速发展带来了诸多积极影响，但专家普遍认为，伦理AI设计在未来十年内不会成为主流。AI的发展更可能围绕盈利和社会控制展开，而伦理共识的缺乏、全球竞争的加剧以及技术本身的复杂性将阻碍其广泛采用。然而，也有部分专家对AI的伦理演进持乐观态度，认为社会将逐步适应并制定相应的伦理规范，以确保AI的有益发展。