AIIA-可信AI操作指引（V0.5版）-2020.8-18页_399kb

可信AI操作指引总结（V0.5）

1. 前言

人工智能技术发展迅速，推动了经济社会创新，但也带来了如难以解释、偏见歧视等风险。为构建健康的人工智能产业发展环境，中国人工智能产业发展联盟编写了《可信AI操作指引》，旨在细化《人工智能行业自律公约》的要求，提升AI系统的可信度。

2. 适用范围

• 本文件适用于较成熟的商用AI系统，不适用于非商业化或处于研究/实验阶段的系统。
• 主要适用于AI系统提供方，包括企业、高校、科研院所、行业组织、个人等实体。
• 也需考虑AI系统的部署情况和运行环境。

3. 概念

• “可信AI”是指在技术、产品、应用、运营、管理等方面，遵循以人为本、公平公正、增进民生福祉、防止危害社会、避免侵犯公众利益和个人合法权益的总原则。
• 本文件聚焦于可信的人工智能系统，并提出五个基本要求：可靠可控、透明可释、保护隐私、明确责任、多元包容。

4. 使用说明

• 第5节详细列出了可信AI的通用基本要求和实践指引。
• AI系统提供方应根据不同应用场景和技术领域，参考第5节内容进行针对性实践操作。

5. 可信要求

5.1 可靠可控（共30条，要求等级：★~★★★）

• 系统应具备安全、可靠、可控的运行能力。
• 系统安全性：应对输入、预处理、模型训练、输出等环节采取防护措施，如传感器增强、输入滤波、鲁棒性训练、对抗样本防御、差分隐私、模型水印等。
• 系统成熟度：应根据应用场景选择合适解决方案，进行自评估测试，委托第三方机构测试并公开结果。
• 系统稳健性：应定期清洗训练数据，建立模型置信度记录，防范后门攻击。
• 人类监督和接管能力：应设置后备计划和一键关停功能，确保在突发情况下系统可控。

5.2 透明可释（共10条，要求等级：★~★★★）

• 提升AI系统的透明度，促进理解，回应用户质疑。
• 系统决策过程描述：应建立向不同用户群体解释AI系统决策逻辑的能力。
• 系统技术意图描述：应明确告知用户AI系统是否在交互，以及其功能、性能、角色等。
• 系统可复现性描述：应记录训练过程，确保可复现性，包括数据集来源、训练配置等。
• 外部监督和审查渠道：应建立用户反馈与决策审查机制，保障用户知情权和解释权。

5.3 保护隐私（共15条，要求等级：★~★★★）

• 坚持合法、正当、必要原则收集使用个人信息，特别关注未成年人隐私。
• 数据收集使用合法合规：应从合法渠道收集信息，明确告知用户目的、方式和范围，征得授权。
• 数据主体隐私保护：应进行去标识化、匿名化处理，保障用户知情权、同意权、删除权等。
• 未成年人隐私保护：应征得未成年人或监护人明示同意，及时删除或屏蔽个人信息。
• 确保数据安全：应建立安全审计机制、应急预案、内部审批流程和角色分离机制。
• 防范数据泄露：应分析数据分布与流转，启用防火墙、加密、脱敏等工具，推广联邦学习技术。

5.4 明确责任（共11条，要求等级：★~★★★）

• 明确AI系统各环节主体的权利义务，确保责任可追溯。
• 明确权利义务：应开展内部AI治理培训，规范人员行为，明确职责。
• 确定责任主体：应建立内部审查委员会，完善系统日志功能，确保可回溯。
• 探索AI创新保险机制：应鼓励技术创新，制定伦理风险应对和救济机制，建立人员与保障管理机制。

5.5 多元包容（共7条，要求等级：★~★★★）

• 推动AI系统的包容性、多样性与普惠性。
• 产品需求多样化：应调研不同用户需求，进行多地域、多国籍、多性别、多年龄的用户体验测试。
• 训练数据全面化：应保证训练数据的多样性，进行数据集分析与调整。
• 算法公平性测试验证：应纳入公平性度量，减轻对特定变量的依赖，避免歧视性决策。

6. 结语

• 本文件为阶段性操作指引，供政府、科研机构和企业参考使用。
• 将根据人工智能技术发展和产业实际情况，持续修订完善。

总结：《可信AI操作指引》为AI系统提供方提供了从安全、透明、隐私、责任到包容性的全面指导，旨在提升AI系统的可信度与社会接受度，推动AI技术在合法、合规、公平、可控的框架下健康发展。