人工智能治理白皮书-v1.0-公示版_16页_425kb

软件绿色联盟标准与人工智能治理白皮书总结

核心内容

本白皮书由软件绿色联盟发布，旨在探讨人工智能治理的背景、意义、现状及基本原则，为社会各方提供参考。文档涵盖了国内外人工智能治理的发展现状，以及基于国际标准的治理原则和行动建议。

主要观点

人工智能治理的背景和意义

• 人工智能作为战略性技术，正在深刻影响全球经济发展、国家治理和社会建设。
• 其快速发展也带来了诸多伦理、法律和社会问题，如音视频造假、隐私泄露、算法偏见等。
• 因此，人工智能治理的研究和实践变得尤为重要，以确保技术的安全可控、公平可靠，并促进人类福祉。

人工智能治理的国际现状

• 欧盟委员会发布了《人工智能白皮书》，提出了6项具体行动方案，强调对高风险人工智能应用的监管，并鼓励非高风险应用采用“自愿标签”。
• ISO/IEC等国际标准组织已开始人工智能治理标准的研究，如ISO/IEC 38507草案，为人工智能治理提供框架。
• 微软、谷歌、Facebook、IBM等科技公司也提出了各自的人工智能伦理原则和治理实践，强调公平、透明、隐私和责任等核心价值。

人工智能治理的国内现状

• 中国国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则》，提出八条治理原则，包括和谐友好、公平公正、包容共享、尊重隐私等。
• 中国人工智能产业发展联盟发布了《人工智能行业自律公约》和《可信人工智能操作指引》，从行业自律和操作规范两个层面推动人工智能治理。
• 国内企业如腾讯、旷视也积极发声，强调“科技向善”理念，倡导多方参与治理。

关键信息

治理原则

1. 尊重人的自主权：保障用户对人工智能系统的监督和控制能力，避免损害人的决策权。
2. 公平无歧视：确保人工智能系统在设计和使用过程中不产生或放大偏见，尤其关注弱势群体。
3. 透明性：人工智能系统应易于理解，保障用户知情权和选择权，研究可解释性模型。
4. 隐私与数据治理：保护用户隐私，确保数据安全，支持用户对其数据行使法定权利。
5. 安全和可靠性：人工智能系统应具备抵御攻击和故障的能力，将意外结果和错误降到最低。
6. 可归责与可追溯：建立责任模型，确保在人工智能系统产生重大影响时，能够追溯其决策过程。

行动建议

1. 重视研究，建立人工智能治理体系：根据不同应用场景分层分级制定治理要求，与技术发展水平相匹配。
2. 开放协作，共同治理：鼓励跨领域、跨地区的合作，推动形成国际共识的治理框架和标准。
3. 形成规范，法治问责：建立法律法规体系，明确责任划分机制，推动自律与监管并行。

附录：规范性引用文件

1. 《WHITE PAPER On Artificial Intelligence - A European approach to excellence and trust》，European Commission, 2020.02.19
2. ISO/DIS 37000- Guidance for the Governance of Organizations
3. ISO / IEC 38500 : 2015 Information technology - Governance of IT for the organization
4. ISO/IEC 38505-1:2017 Information technology — Governance of IT — Governance of data — Part 1: Application of ISO/IEC 38500 to the governance of data
5. ISO/IEC DIS 38507 Information technology — Governance of IT — Governance implications of the use of artificial intelligence by organizations
6. 《人工智能伦理罗马宣言》，2020年2月28日，罗马
7. 《未来计算：人工智能及社会角色》，微软，2018
8. 《Perspectives on issues in AI Governance》，Google，2018
9. 《Everyday Ethics for Artificial Intelligence》，IBM，2018
10. 《新一代人工智能治理原则——发展负责任的人工智能》，国家新一代人工智能治理专业委员会，2019
11. 《可信人工智能产业标准研究》，软件绿色联盟，2019

结语

人工智能治理已成为全球关注的焦点，国际和国内均在积极探索治理框架与标准。本白皮书总结了当前治理的基本原则与行动建议，旨在推动形成科学、透明、可操作的治理体系，促进人工智能技术的健康发展，提升社会对人工智能的信任与接受度。