2023-07-17-商汤科技-2023大模型伦理原则与实践白皮书—日日新_思无邪_33页_1mb

商汤大模型伦理原则与实践总结

一、核心伦理原则：三维对齐

1. 人机对齐

   • 确保人工智能任务目标与人类用户意图一致，伦理标准与人类价值观、法律政策对齐。
   • 通过数据风险识别、模型强化学习反馈闭环等方式，实现在产品全生命周期的持续优化。

2. 人人对齐

   • 构建普适全人类的价值观体系，超越地域、文化的差异。
   • 倡导全球共同践行《全球数字契约》，实现跨文明、跨国界的包容与尊重。

3. 人类科技与环境对齐

   • 在发展技术的同时，必须重视环境伦理。
   • 遵循可持续发展理念，推动碳达峰碳中和目标的实现，保护地球生态。

二、治理实践与技术措施

1. “商汤日日新 SenseNova”治理框架

   • 数据层面：建立数据合规审查机制，实施数据脱敏、去毒、版权保护。
   • 模型层面：通过多种测试评估（准确性、鲁棒性、安全性、可解释性），赋能模型优化。
   • 内容层面：运用数字水印、内容审核工具，实现合成内容的显式标识与溯源管理。

2. “SenseTrust”工具体系

   • 提供数据处理、模型评测、安全防护等全栈式治理工具：
     • 数据安全：脱敏、去毒、联合训练平台；
     • 模型安全：鲁棒性训练、AI防火墙；
     • 内容保护：伪造检测、数字水印确权系统。

三、全球治理倡议

1. 避免“失控竞赛”

   • 呼吁各国政府、科研机构和企业采取“动态平衡”原则：
     • 问题导向型政策制定，明确数据隐私、知识产权等监管底线；
     • 加强技术基础设施投入，推动生成式AI的安全和伦理发展；
     • 通过国际合作降低治理成本，支持发展中国家共同发展。

2. 结语

   • 生成式AI治理需持续迭代，呼吁全社会共同参与，打造负责任的通用人工智能（AGI）生态。

作者：田丰（商汤科技智能产业研究院院长）
编委会：薛澜、季卫东、徐立等