商汤大模型伦理原则与实践白皮书_2023-33页_1mb

商汤大模型伦理原则与实践白皮书总结

背景

商汤科技发布本报告，旨在探讨生成式人工智能的伦理治理，强调人类普适价值观驱动AI伦理“三维对齐”，并倡导负责任、可评估的人工智能发展。

主要内容

1. 生成式人工智能浪潮下的范式变革

• 从AI10到AI20的转变：生成式AI如ChatGPT兴起，推动AI从单一模态转向多模态，实现多领域生成，显著提升AI生产力。
• 风险与挑战：范式变革带来风险边界扩大、评估难度增加、安全机制冲突等问题，需综合应对。

2. 生成式人工智能风险管理

• 全球治理步伐加快：各国和组织如中国、美国、欧盟等迅速出台政策，加强AI监管，强调公平、安全和透明。
• 现实风险：包括“幻觉”、数据投毒、虚假信息、版权侵犯、隐私泄露等社会和法律问题，需系统性风险管理。

3. 生成式人工智能治理原则

• 提出7项核心原则：保障数据质量、防止虚假信息、尊重版权、保障系统安全、增强可解释性、合乎道德伦理、加强可问责性。
• 措施：包括数据清洗、隐私保护、内容审核、公平性学习、透明记录，确保AI行为与人类价值观对齐。

4. 生成式人工智能治理实践案例

• 商汤“日日新SenseNova”模型体系：开发大模型如SenseChat、SenseMirage等，通过数据合规、模型测试和内容过滤，实现安全治理。
• 实践要点：覆盖数据采集、预处理、标注环节；采用人工与自动化结合审核，持续优化风险管理，反馈至模型强化学习。

5. 生成式人工智能治理基础设施

• “SenseTrust”可信AI工具体系：提供数据脱敏、模型体检、抗攻击训练等功能，支持全周期治理。
• 具体工具：数据沙箱、数字水印、伪造检测平台，提高数据安全、隐私保护和内容溯源能力。

6. 生成式人工智能治理的发展建议

• 倡导“动态平衡”：避免“失控竞赛”，注重技术发展与风险治理协调。
• 全球协作：呼吁国际合作，定义明确风险规则，共享治理基础设施和最佳实践；加强全民教育，提升风险意识。

结论

生成式AI治理需全球共识和持续努力，商汤呼吁防止技术失控，通过基础设施和实践案例示范，促进可持续、安全的AI应用。