欧盟-可信赖的人工智能评估清单（ALTAL）（英文）-2020.9-38页_698kb

详细总结：可信人工智能评估清单（ALTAI）

核心内容

《可信人工智能评估清单》（ALTAI）是由欧盟委员会设立的高级别人工智能专家小组（AI HLEG）发布的第三份成果文件，旨在帮助组织对人工智能系统进行自我评估，确保其符合七项可信人工智能的基本要求。该清单基于《可信人工智能伦理指南》（2019年4月发布）的框架，并经过两年的开发和试点测试（2018年6月至2020年6月），最终形成了一套灵活、全面的评估工具。

主要观点

ALTAI的评估目标是识别AI系统可能带来的风险，并提出相应的措施以减少这些风险，同时最大化AI的效益。其核心理念是通过技术、伦理和社会层面的综合考量，确保AI系统的设计、开发和使用符合法律、道德和安全标准。评估清单强调：

• 人类自主与监督：确保AI系统支持人类决策，并通过各种监督机制保障人类对AI的控制。
• 技术稳健性与安全性：AI系统应具备抵御攻击、安全运行、准确可靠和可复现的能力。
• 隐私与数据治理：确保数据处理符合隐私保护原则，采取数据治理措施以防止数据滥用。
• 透明度：AI系统应具备可追溯性、可解释性和清晰的沟通机制。
• 多样性、非歧视与公平性：避免系统中的偏见，确保公平性，并促进包容性。
• 社会与环境福祉：关注AI对社会、环境、工作和民主的影响。
• 责任机制：建立审计机制和风险管理流程，以确保AI系统的责任可追溯。

关键信息

1. 人类自主与监督（Human Agency and Oversight）

• AI系统应支持人类的自主决策，避免过度依赖。
• 应通过“人类在环”（HITL）、“人类在环外”（HOTL）或“人类控制”（HIC）等机制实现人类监督。
• 系统应避免对用户造成混淆，明确说明决策是否由算法产生。
• 应确保用户知晓他们正在与AI系统互动，防止被误认为与人类互动。
• 应考虑AI系统是否可能影响用户的情感、信任和独立性，并采取相应措施。

2. 技术稳健性与安全性（Technical Robustness and Safety）

• AI系统应具备安全性和抗攻击能力，应对潜在的设计或技术故障、环境威胁等。
• 需要进行安全评估，包括数据中毒、模型逃逸、模型反演等攻击方式的识别与防范。
• 应建立验证和测试机制，确保AI系统的可靠性、可复现性和安全性。
• 应制定应急计划和回退机制，以应对系统故障或低置信度输出。

3. 隐私与数据治理（Privacy and Data Governance）

• AI系统应遵循隐私保护原则，确保数据处理符合GDPR或其他数据保护法规。
• 需要进行数据保护影响评估（DPIA），并制定数据最小化、匿名化、加密等隐私保护措施。
• 应考虑AI系统在整个生命周期中的隐私和数据保护影响，包括非个人数据的使用。

4. 透明度（Transparency）

• AI系统应具备可追溯性，确保其开发过程和决策依据可以被追踪和审查。
• 应提供可解释性，使用户能够理解AI系统的决策逻辑和运行过程。
• 应与用户进行清晰沟通，说明AI系统的功能、局限性和潜在风险。

5. 多样性、非歧视与公平性（Diversity, Non-discrimination and Fairness）

• 需要避免AI系统中可能存在的偏见，特别是在训练数据和模型设计中。
• 应确保AI系统公平地服务所有用户，包括不同年龄、性别、能力等群体。
• 应通过数据收集阶段识别并消除歧视性偏见，防止对特定群体的不公平对待。

6. 社会与环境福祉（Societal and Environmental Well-being）

• AI系统应考虑其对社会、环境、工作和民主的潜在影响。
• 应评估AI系统是否可能对就业、技能发展或社会结构产生负面影响。
• 应关注AI系统对儿童和边缘群体的影响，并采取相应保护措施。

7. 责任（Accountability）

• 需要建立可审计机制，确保AI系统的运行和决策可以被追踪和审查。
• 应制定风险管理流程，识别和应对AI系统可能带来的风险。
• 应确保AI系统的使用符合法律和伦理规范，并具备责任追溯能力。

使用方式

• ALTAI应由跨学科团队协作完成，包括AI设计师、数据科学家、法律人员、管理人员等。
• 可根据组织的具体情况选择适用的评估要素，并可进行补充。
• 建议结合《基本权利影响评估》（FRIA）进行综合评估。
• 在线版本包含更多解释和指导，便于理解和使用。

附加信息

• ALTAI为自我评估工具，不构成对AI系统合规性的保证。
• 评估清单基于欧盟法律框架，特别是《欧盟基本权利宪章》和国际人权法。
• 该清单为欧盟人工智能联盟（AI Alliance）的成员提供最佳实践指导。

总结

ALTAI是一份全面且灵活的AI系统自我评估工具，旨在帮助组织识别和减少AI系统可能带来的风险，同时确保其符合法律、伦理和社会责任标准。通过覆盖人类自主、技术安全、隐私保护、透明度、公平性、社会福祉和责任机制七大方面，ALTAI为欧洲实现负责任和可持续的AI创新提供了重要框架。