“平衡发展”的人工智能治理白皮书——商汤人工智能伦理与治理年度报告（2022年）-34页_3mb

平衡发展的人工智能治理白皮书总结

商汤科技发布《“平衡发展”的人工智能治理白皮书》，系统呈现了人工智能治理的洞察、思考、目标与实践。报告指出，人工智能治理目前处于发展3.0阶段，即技术验证阶段，强调将伦理原则转化为可落地实践。

人工智能治理发展经历了三个阶段：

• 1.0阶段：以原则讨论为主，始于2016年，聚焦私营企业和政府发布的伦理准则。
• 2.0阶段：以政策讨论为主，始于2020年，欧盟《人工智能白皮书》推动全球监管进程。
• 3.0阶段：以技术验证为主，始于2022年，强调通过工具和实践验证政策与原则的落地性。

报告强调，推动人工智能治理落地面临三项主要挑战：

• 理念与行动的关系：多数组织认可伦理原则但缺乏实施，存在组织结构融合、短期收益不明显和标准缺乏等问题。
• 政策与实践的关系：需要将政策转化为可执行标准，涉及动态环境适应、标准互联互通、政策参与和定义共识。
• 技术与用户的关系：AI治理尚未纳入用户视角，导致误解和技术验证不足，需加强用户教育和工具投入。

商汤科技作为行业领先企业，坚持“平衡发展”的伦理观，倡导可持续、以人为本、技术可控的原则，依实施严格的风险控制机制和全面AI伦理治理体系，积极探索数据治理和算法检测工具。

未来，商汤将持续推动负责任、可评估的人工智能发展，为AI治理贡献可行方案。