清华大学：我国算法治理政策研究报告_49页_4mb

我国算法治理政策研究报告总结

核心内容

本报告由清华大学人工智能国际治理研究院发布，旨在探讨我国算法治理的现状、问题及未来发展方向。报告指出，算法作为第四次科技革命的核心工具，既带来了巨大的社会价值，也伴随着多种风险。治理算法需构建系统化的治理框架，坚持公私合作治理模式，实现“科技向善”的目标。

主要观点

• 算法的双刃剑效应：算法具有正向价值和潜在风险，需实现趋利避害。
• 治理需多维度协同：治理算法应从主体、技术环节、应用场景等维度进行协同治理。
• 治理框架应体系化：算法治理不应是“打地鼠游戏”，应建立治理目标、主体、对象、手段和模式的五要素框架。
• 治理需兼顾发展与安全：既要推动算法经济高质量发展，也要防范算法带来的社会、经济、法律和道德风险。

关键信息

一、算法概述与治理框架

1. 算法的定义和分类：

   • 算法是为实现某一目标而设定的一系列步骤或策略。
   • 按照不同维度可分为广义算法、机器学习算法和应用场景分类。

2. 算法的经济和社会价值：

   • 助力制造业智能化升级，提升生产效率。
   • 推动商业模式创新，成为行业核心竞争力。
   • 催生新业态，显著拉动就业，如外卖、直播带货等。

3. 算法的不确定性影响：

   • 社会风险：算法可能加剧“信息茧房”和数字鸿沟。
   • 经济风险：算法可能加大“数字劳工”合法权益保护的难度。
   • 法律风险：算法可能影响公平正义。
   • 道德风险：算法可能引发道德困境和追责难题。

4. 算法治理的概念与框架：

   • 算法治理分为“算法治理”和“治理算法”两个方向。
   • 五要素治理框架：治理目标、主体、对象、手段和模式。

二、域外算法治理现状与案例

1. 欧盟算法治理：

   • 以数据治理为核心，强调算法透明和问责。
   • 发布《算法责任与透明治理框架》、《可信人工智能伦理指南》和《通用数据保护条例》。
   • 案例：意大利禁止算法歧视，对Deliveroo进行处罚。

2. 美国算法治理：

   • 采用分散治理模式，未设立统一监管机构。
   • 强调市场调节和行业自律，如Partnership on AI、FTC等。
   • 案例：FTC要求违法主体删除数据和算法，纽约市设立“算法问责特别工作组”。

3. 新加坡算法治理：

   • 发布人工智能治理框架模型，强调透明、公平和可解释性。
   • 推动算法审计和自我评估工具的研发与使用。
   • 案例：推出测试工具包，鼓励开发者和用户参与评估。

4. 国际标准组织探索：

   • ISO/IEC JTC1/SC 42制定多项标准，如AI风险管理和伦理治理。
   • 提供标准化治理工具，助力全球AI治理。

三、欧美算法治理实践比较与我国现状分析

1. 治理目标：

   • 欧盟强调规则主导权，通过前瞻性立法实现算法公平和透明。
   • 美国强调技术创新，采用敏捷性监管方式。

2. 治理主体：

   • 欧盟以数据保护机构为主，美国则由多个部门共同参与，具有分散性和多元性。

3. 治理对象：

   • 欧美均关注私主体和公共管理机构的算法问题。
   • 我国目前主要聚焦于平台和市场行为，忽视了公共主体的算法责任。

4. 治理手段：

   • 欧美以算法影响评估为核心，强调结果控制。
   • 我国以行政监管为主，对技术治理手段重视不足。

5. 治理模式：

   • 欧美均采用多元主体协同治理模式。
   • 我国以平台责任为主要抓手，但缺乏覆盖多方利益相关者的责任机制。

四、完善我国算法治理的政策建议

1. 宏观维度：调试与完善治理框架：

   • 明确治理目标，实现算法可问责与高质量发展。
   • 强化算法透明、公平和安全治理。

2. 治理主体：建立部际联席会议制度：

   • 强化多部门协同，形成治理合力。
   • 推动算法治理的制度化和规范化。

3. 治理对象：建立共性规则与标准：

   • 统筹考虑多元应用场景，包括公共与私人领域。
   • 强调对“算法官僚”和“算法影子官僚”的治理。

4. 治理手段：善用技术治理措施：

   • 推动技术治理，如数据匿名化、联邦学习、区块链等。
   • 强调“伦理设计”和“可解释性AI”技术。

5. 治理模式：优化多元协同治理机制：

   • 鼓励社会公众参与治理，提升算法素养。
   • 建立行业协会，制定可操作性技术规范。
   • 推进算法审计、影响评估等机制，实现全生命周期治理。

结论

算法治理是一项系统工程，需结合技术演进与社会需求不断迭代和完善。我国应借鉴国际经验，构建更加系统、科学、可操作的治理框架，强化多主体协同治理，完善技术治理手段，实现算法的可问责、公平、透明和安全。未来研究应关注治理效果评估，以推动算法治理向更高水平发展。