国际治理创新中心-范围界定AI治理：有益应用程序的智能工具包（英）-2021.12-27页_523kb

详细总结：Scoping AI Governance

核心内容

本文探讨了人工智能（AI）治理的框架，旨在为政策制定者提供工具以塑造有益的AI系统。文章指出，AI治理需要结合直接和间接干预手段，以确保公平性、责任性和透明度，同时平衡行业创新与社会福祉。核心内容围绕公平性挑战、补救措施、适应性策略三大主题展开。

---

主要观点

1. AI治理需要多维度干预

• 直接干预：通过设定具体的公平性约束来纠正有害的偏见，但存在定义冲突和实施难度。
• 间接干预：采用程序性保障措施，如认证机制、税收激励和信息披露，以促进系统性公平。

2. 公平性挑战

• AI系统在多个领域（如广告、贷款、犯罪预测）中可能对少数族裔、低收入群体等造成系统性歧视。
• 不同的公平性定义（如预测一致性、误差率平衡）之间存在相互排斥性，难以统一实施。
• 以再犯预测算法为例，算法的公平性与预测价值之间存在权衡，某些算法可能因种族差异导致错误率失衡。

3. 补救措施（Redress）

• 权利与责任机制：通过法律手段赋予受影响个体权利，如平等权和非歧视权，同时设定法律责任，以防止企业滥用AI技术。
• 透明度与披露：对不透明的AI系统设定可反驳的歧视推定，促使企业披露算法信息，从而提升责任性。
• 数据保护：通过监管个人数据的使用，限制企业对敏感信息的不当处理，但需注意其局限性，如无法完全覆盖所有AI相关风险。

4. 适应性策略（Adapt）

• 命令与控制机制：通过立法手段限制高风险AI应用，如实时生物识别、再犯预测等，确保技术不被滥用。
• 行政监管：设立专门的监管机构，基于风险等级对AI系统进行分类监管，避免一刀切式的治理。
• 技术标准与协作：通过技术标准和行业协作机制（如欧盟的AI法案），实现对AI系统的共治模式。

---

关键信息

1. AI治理的挑战

• AI系统的复杂性和不透明性使得直接干预难以实施。
• 企业行为可能与公共利益相悖，需政策制定者主动介入。
• 公平性定义的多样性导致治理标准难以统一。

2. 直接干预的工具

• 假设有害偏见：对不透明系统设定歧视推定，以增强问责机制。
• 数据保护法规：如GDPR，可作为AI治理的基础，但需结合具体应用场景。
• 税收激励：鼓励企业采用公平性更强的AI模型，如可解释模型或开放源代码模型。

3. 间接干预的策略

• 风险分级监管：根据AI系统的复杂性和潜在影响，采取不同的监管方式。
• 行政认证机制：通过认证制度区分高风险与低风险AI应用，确保责任划分清晰。
• 行业协作与共治：如欧盟AI法案，鼓励行业与监管机构之间的合作，以实现更有效的治理。

4. 行业与监管的互动

• 技术标准：可促进企业间的协作，增强AI系统的透明度和可解释性。
• 公众参与：通过透明度和问责机制，使公众能够参与AI系统的讨论与监督。
• 政策制定者的角色：需在监管与创新之间找到平衡，避免过度干预阻碍技术发展。

---

结论

AI治理需采用多层次、灵活的策略，结合直接和间接干预手段，以确保技术发展符合社会公平与公共利益。政策制定者应通过设定清晰的公平性标准、推动透明度和问责机制、加强行政监管和促进行业协作，实现对AI系统的有效治理。同时，需警惕过度监管可能带来的负面影响，并通过激励机制鼓励企业采用有益于社会的AI实践。

---

关键工具与措施

• 可反驳的歧视推定：用于不透明系统，增强法律问责。
• 数据保护法规：如GDPR，为AI治理提供基础。
• 税收激励：鼓励企业采用公平性更强的AI模型。
• 行政认证机制：根据风险等级进行分类监管。
• AI法案：如欧盟AI法案，推动行业与监管的协作。
• 技术标准：促进企业间的技术共享与合作。

---

参考文献

• National Fair Housing Alliance (2021)
• Eubanks, V. (2018)
• Angwin et al. (2016)
• Celis, Keswani and Vishnoi (2020)
• Kleinberg, Mullainathan and Raghavan (2016)
• MacCarthy (2016)
• Shaer (2016)
• Cohen (2019)
• Solow-Niederman (2019)
• Lessig (2006)
• Sartor and Lagioia (2020)
• Black and Murray (2019)
• Ellul et al. (2021)
• Wachter, Mittelstadt and Russell (2021)
• The Wall Street Journal (2021)

---

附录

• 图1：AI技术栈
  图表展示了AI系统的不同功能层级，包括数据层、算法层、应用层等。

• 表1：错误类型矩阵
  展示了AI系统中预测结果与实际值之间的四种错误类型：真阳性、假阳性（类型I错误）、假阴性（类型II错误）、真阴性。