2021-05-31-皮尤-Experts_Doubt_Ethical_AI_Design_Will_Be_Broadly_Adopted_as_the_Norm_Within_the_Next_Decade_127页_1mb

专家对伦理AI设计在未来十年内成为规范持怀疑态度

核心内容

本报告由皮尤研究中心（Pew Research Center）与埃隆大学“想象互联网中心”（Elon University's Imagining the Internet Center）联合发布，旨在探讨到2030年，伦理AI设计是否将成为主流。通过一项非科学的专家调查，收集了602位技术开发者、企业与政策领袖、研究人员和活动家的意见。结果显示，68%的受访者认为到2030年，大多数AI系统仍将主要以利润和社会控制为目标，而非以公共利益为核心；仅有32%的受访者持相反观点。

主要观点

1. 伦理AI设计难以成为主流

• 利润与控制优先：大多数专家认为，AI的发展将继续以利润和社会控制为主要驱动力，而非伦理。
• 伦理定义困难：伦理AI的定义因文化背景、社会规范和权力结构的不同而存在分歧，缺乏全球共识。
• 技术与伦理脱节：当前的AI系统在设计和应用中并未充分融入伦理考量，其开发更多依赖于商业和政府利益。
• 全球竞争影响伦理发展：中美之间的技术竞争将主导AI的发展方向，伦理问题在竞争中被边缘化。

2. 伦理AI的潜在希望

• AI的不可阻挡发展：AI技术的广泛应用和其带来的价值已不可逆转，伦理问题将随之被重视。
• 伦理共识正在形成：近年来，关于伦理AI的讨论和研究已取得进展，各领域正逐步形成对“善行、无害、自主与正义”等伦理原则的共识。
• AI可帮助识别和修正问题：AI系统自身可以用于检测和修复不道德系统的漏洞，从而推动伦理AI的发展。
• 伦理需与技术发展同步：随着AI在更多领域的应用，伦理问题将更加突出，社会将逐渐调整以适应其影响。

关键信息

伦理与AI的未来关系

• 伦理框架的缺失：现有伦理框架难以应对AI带来的新问题，如数据隐私、算法偏见、自动化决策等。
• AI的道德决策能力：AI在某些情境下可能比人类更理性地做出道德判断，但其决策仍受限于输入数据和编程逻辑。
• 社会与技术的互动：AI的使用将影响人们的生活方式、决策自由、社会信任和文化发展，伦理问题将成为社会调整的重要议题。

专家的担忧与建议

• 伦理需重新定义：专家认为，伦理应从“如何提出正确的问题”出发，而非单纯依赖既有道德规范。
• 用户体验设计的重要性：用户体验设计师在确保人类对AI系统的控制和监督方面将发挥关键作用。
• 警惕技术滥用：AI可能被用于监视、操控和消费诱导，这些行为可能带来严重的社会后果。
• 全球政治与安全风险：AI的发展可能引发全球政治竞争和非国家行为体（如黑客）的潜在威胁，需建立更全面的安全机制。

背景与方法

• 本调查于2020年6月30日至7月27日进行，基于非随机样本，仅反映受访专家的个人观点。
• 调查对象涵盖技术开发者、企业与政策领袖、研究人员和活动家，涉及多个领域。
• 报告未对结果进行统计推断，仅作为专家观点的汇总。

专家引述

• Barry Chudakov：AI的伦理框架尚未完善，需重新思考如何提出合适的问题以确保其应用的正当性。
• Mike Godwin：政府和政策制定者可能难以及时应对AI的滥用，导致对AI的限制多为局部和临时性。
• Jamais Cascio：AI在多数情况下不会直接涉及伦理问题，但其间接影响可能带来严重的后果。
• Marcel Fafchamps：AI在某些领域可能比人类更理性地执行伦理决策，但其决策仍受限于现有法律和数据。
• Amy Webb：全球政治格局和非国家行为体对AI的潜在威胁不容忽视。
• Stowe Boyd：AI可能加剧社会不平等，需警惕其对财富集中和工作自动化的负面影响。
• Jonathan Grudin：AI将主要用于影响消费者的购买行为，而非解决社会问题。
• Ben Shneiderman：用户体验设计师在确保AI系统的透明性和可问责性方面起着关键作用。

总结

尽管AI技术在多个领域展现出巨大潜力，但专家普遍认为，在未来十年内，伦理AI设计难以成为普遍规范。AI的发展仍将以利润和社会控制为导向，伦理问题将在技术应用中被边缘化。然而，随着AI的广泛应用和其对社会的深远影响，伦理讨论正在逐步深入，部分专家认为伦理共识和进步是可能的。未来的关键在于如何在技术发展与伦理规范之间取得平衡，并确保AI的应用不会损害人类自由与福祉。