【东盟】Al_治理与伦理指南_87页_4mb

东盟人工智能治理与伦理指南总结

核心内容

《东盟人工智能治理与伦理指南》为东盟地区希望在商业和非军事或两用应用中设计、开发和部署传统人工智能技术的组织提供了一套实用的治理框架和伦理指导原则。该指南旨在促进东盟内部协调，推动不同司法管辖区人工智能框架的互操作性，并为国家和区域层面的举措提供建议，以确保人工智能系统的负责任设计、开发和部署。

主要观点

1. 以人为本：人工智能系统应尊重人类价值观，确保其设计、开发和部署能够促进人类福祉，并避免对人类造成潜在危害。
2. 透明度与可解释性：组织应确保人工智能系统的透明度，包括披露其使用方式、数据来源及决策过程。同时，应能以用户可理解的方式解释AI系统的决策逻辑。
3. 公平与公平：AI系统应避免歧视和偏见，确保算法决策不会对特定群体造成不公平影响。
4. 安全与可靠性：AI系统应具备足够的安全性和鲁棒性，以防止恶意攻击和意外行为，确保其在各种环境和输入条件下能安全运行。
5. 问责制与责任机制：应建立清晰的内部治理结构，确保相关人员在AI生命周期中的角色和责任明确，并建立问责机制。
6. 隐私与数据治理：AI系统应有适当的隐私保护机制，确保数据的收集、处理、存储和使用符合隐私法规，并采取措施减少数据偏差。
7. 持续的运营管理：AI系统应被设计为一个迭代过程，从数据收集、建模、测试、部署到监控，每个阶段都需要进行风险评估和管理。

关键信息

1. 治理框架的指导原则

• 透明度和可解释性：确保用户了解AI系统的运作方式和决策过程，包括数据来源和使用方式。
• 公平与公平：避免算法歧视，确保AI系统的输出对所有用户公平。
• 安全与安保：通过风险评估和安全措施保护AI系统免受攻击，确保其在各种条件下安全运行。
• 以人为本：AI系统应服务于人类利益，确保其对用户和社会的影响是积极的。
• 隐私和数据治理：确保数据隐私和保护，使用隐私增强技术如差分隐私和零知识证明。
• 问责制和廉正性：建立责任机制，确保在AI系统出现问题时有明确的问责和补救措施。
• 鲁棒性和可靠性：确保AI系统在面对错误输入或环境变化时仍能稳定运行。

2. 内部治理结构和措施

• 建立多学科的中央管理机构，如AI道德咨询委员会，监督AI治理工作。
• 制定标准、指南、工具和模板，帮助组织负责任地设计、开发和部署AI。
• 明确参与AI系统的人员角色和职责，确保治理结构有效运行。

3. 人类参与AI增强决策的水平

• 根据AI系统的风险水平，分为“人在环”、“人在环中”和“人外环”三种类型。
• 风险评估是确定人类参与程度的重要步骤，涉及对AI系统可能造成伤害的严重性和概率的评估。
• 部署人员应根据风险评估结果，选择适当的人类监督机制。

4. 运营管理

• AI系统生命周期包括数据收集、建模、结果分析、部署和监控等多个阶段。
• 在部署前进行风险评估和测试，确保AI系统的安全性和可靠性。
• 需要记录数据沿袭，确保数据来源清晰可追溯，并采取措施减少数据偏差。

5. 利益相关者互动和沟通

• 与利益相关者建立信任，确保AI系统的透明度和可解释性。
• 提供AI使用的一般披露，帮助用户了解其影响。
• 帮助员工适应AI增强的工作环境，提供培训和沟通机制。

6. 国家一级建议

• 培养AI人才，提升劳动力技能，使其能够与AI系统有效互动。
• 支持AI创新生态系统，促进对AI初创企业的投资。
• 投资于AI研究和开发，确保系统与伦理和治理标准同步。
• 鼓励企业采用工具来实施治理指南，提高文档和验证流程的效率。
• 提高公民对AI影响的认识，使其能够做出明智决策并保护自己。

7. 区域一级建议

• 成立东盟人工智能治理工作组，推动和监督区域AI治理举措。
• 修改现有指南，以解决生成AI的治理问题，如错误和拟人化、虚假信息、深度伪造等。
• 汇编实际案例，展示东盟组织对AI治理的实施情况，增强信任。

附件与案例

• 附件A：AI风险影响评估模板，用于记录和评估AI系统的风险。
• 使用案例：
  • Aboitiz Group：建立了内部治理结构，确保AI系统的安全性和合规性。
  • EY：采用AI模型风险分层方法，对AI模型进行分类和监控。
  • Gojek：在AI模型部署前进行离线基准测试，确保系统性能。
  • UCARE.AI：在医疗领域实施AI模型，强调数据质量、可解释性和鲁棒性。
  • 新加坡智能国家集团（SNG）：制定LLM产品开发的批准流程，确保AI系统的安全和可靠。
  • 新加坡教育部：关注AI对教育的影响，推动AI在教学中的负责任应用。

结论

《东盟人工智能治理与伦理指南》是一份活文件，旨在促进AI在东盟地区的负责任使用。它强调了透明度、公平、安全、以人为本、隐私、问责和鲁棒性等关键原则，并提出了国家和区域层面的建议，以确保AI治理与伦理实践的统一和协调。通过案例和附件，指南提供了实际操作的参考，帮助组织在AI设计、开发和部署过程中遵循最佳实践。