2024-09-09-清华大学-2024人工智能算法影响评价体系构建与应用实践报告_77页_1mb

清华大学CIDEG研究项目总结：人工智能算法影响评价体系构建与应用实践

核心内容概述

本报告由清华大学产业发展与环境治理研究中心委托，由贾开副教授带领课题组成员完成，聚焦人工智能算法影响评价（AIA）的制度内涵、治理逻辑与实践模式，旨在构建一套适用于人工智能治理的系统性评价体系。报告从算法歧视、算法公平与算法安全三个治理风险出发，分析了AIA制度的必要性与特殊性，并通过比较不同国家的治理实践，提出了未来改革方向与政策建议。

主要观点与关键信息

1. 人工智能算法影响评价的背景与必要性

• 治理问题界定：人工智能算法治理面临歧视、公平与安全三类风险，这些风险具有复杂性与不确定性，传统监管逻辑难以应对。
• 制度创新意义：AIA制度将治理重心从结果转向过程，强调治理信息的记录、共享与监督，有助于积累治理经验并推动算法调整。
• 治理挑战：算法作为“黑箱”难以解释，且存在“共同无知”问题，使得责任追溯与权益救济面临困难。

2. 人工智能算法影响评价的内涵

• 制度内涵：AIA制度是基于影响评估的治理工具，其分析对象为算法系统对社会的影响，包括个体、集体与环境。
• 治理定位：AIA不同于传统监管，其强调治理过程的开放性、动态性与实验性，要求算法设计与应用者进行持续调整。
• 与算法审计的对比：
  • 共性：均打破“公-私”边界，强调对算法系统的外部监督。
  • 差异：
    • AIA关注受影响者（因变量），而算法审计关注算法系统本身（自变量）。
    • AIA具有开放性与动态性，而算法审计具有封闭性与程序性。
    • AIA强调治理目标的多样性与复杂性，而算法审计强调标准一致性与责任追溯。

3. 人工智能算法影响评价的三种实践模式

• 环境影响评价模式：

  • 要求对算法系统的环境影响进行评估，包括对基本权利、社会公平、环境与经济的影响。
  • 典型案例：欧盟《人工智能法案》、AI Now 公共部门评估框架。
  • 特点：强调公众参与、替代方案分析与透明度。

• 数据保护影响评估模式：

  • 以欧盟GDPR为基础，要求对数据处理行为进行影响评估。
  • 典型案例：GDPR第35款规定的数据保护影响评估（DPIA）。
  • 特点：强调数据安全、隐私保护与可解释性，但存在公开性不足与监管规避问题。

• 问题列表清单评估模式：

  • 以加拿大《自动决策指令》为代表，通过预设问题列表评估系统风险。
  • 特点：结构化、标准化、便于执行，但存在过度简化与主观性问题。

4. 人工智能算法影响评价的国别特征

• 欧盟：

  • 以《人工智能法案》为核心，强调风险分类与基本权利影响评估（FRIA）。
  • 治理逻辑：基于风险分类的规制框架，强调合规性评估与透明度。
  • 问题：合规性评估可能流于形式，FRIA存在合规成本高与监管漏洞问题。

• 加拿大：

  • 以《人工智能与数据法案》（AIDA）与《自动决策指令》（DADM）为框架。
  • 治理逻辑：强调公私分立，AIDA关注“高影响”人工智能，DADM采用问题列表清单方式。
  • 问题：AIDA尚未出台，监管标准模糊；DADM模式可能难以应对技术动态演化。

• 美国：

  • 尚未形成统一的法律框架，主要依赖行政命令与行业指南。
  • 治理逻辑：联邦层面推动“可信赖人工智能”政策，私人部门则以《算法责任法案》（AAA）与NIST的“人工智能风险管理框架”（AI RMF）为主要实践。
  • 问题：行政命令效力有限，立法进程缓慢，AAA尚未通过，监管标准尚未明确。

5. 未来改革方向与政策建议

• 制度要求：

  • 开放性：要求治理过程透明、可解释，以应对信息不对称与不确定性。
  • 合作性：强调监管者与被监管者的协同治理，而非对抗式监管。
  • 责任性：要求算法设计者与应用者对治理结果负责，并在评估后进行调整。

• 通用AIA体系框架：

  • 理论基础：融合心理计量学与机器行为学，强调多维度影响分析。
  • 层次结构：包括技术、组织与社会三个层面。
  • 流程指标：涵盖算法设计、应用、评估与调整等环节。

• 政策建议：

  • 建立统一的AIA制度框架，明确评估流程与责任分配。
  • 推动算法治理与数据治理的融合，形成跨领域协调机制。
  • 强化公众参与与第三方监督，提高算法治理的透明度与可问责性。
  • 鼓励技术与治理的协同演化，构建敏捷、实验性的治理机制。

结构总结

• 制度逻辑：AIA强调过程治理，而非结果导向，是应对算法风险复杂性的制度创新。
• 治理模式：环境影响评价、数据保护影响评估、问题列表清单评估是三种主要模式，各有优劣。
• 国别实践：欧盟、加拿大、美国在AIA制度设计上存在差异，反映了不同治理文化与产业背景。
• 未来改革：AIA制度应具备开放性、合作性与责任性，推动治理框架的动态演化与系统完善。

重要结论

• 算法治理不能仅依赖传统监管逻辑，必须转向过程治理。
• AIA制度是回应算法治理复杂性的重要机制，但其实施仍面临诸多挑战。
• 不同国家的AIA实践体现出制度选择的多样性与不确定性，需结合本国治理需求进行制度设计。
• AIA制度应融合技术、组织与社会三个层面，形成系统性治理框架。