> **来源：[研报客](https://pc.yanbaoke.cn)** ```markdown # 人工智能应用伦理安全指引 1.0 总结 ## 摘要 人工智能技术正以前所未有的速度发展，生成式人工智能、智能体等新兴技术不断涌现，深刻影响社会运行、个人生活及生产方式。然而，其快速发展也带来了诸多伦理安全挑战。为确保人工智能安全可控、发展与安全并重，本文件提出了人工智能应用伦理安全的理念与原则，明确了应用开发、服务提供与使用过程中的基本要求，旨在为相关方提供实践指引，共同推动人工智能向有益、安全、公平的方向发展。 ## 核心内容 - **人工智能应用伦理安全**：指在人工智能应用过程中，从安全影响角度出发，保障伦理价值与社会秩序的规范与准则。 - **伦理安全理念**：强调伦理安全要求应贯穿人工智能应用全过程，以造福人类、服务社会、可持续发展为宗旨。 - **伦理安全原则**：涵盖增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明、保护隐私安全、确保可控可信、敏捷共治、普惠共享等九项核心原则。 ## 主要观点 - **人类主导权**：人工智能应用应确保人类在关键节点的监督、干预与纠偏能力，防止其超越人类的理解与控制。 - **社会秩序与信任**：人工智能在社会运行与行为决策中的应用可能对公共秩序、社会信任产生冲击，需加强透明度与可追溯性。 - **个体与社会影响**：人工智能的广泛应用可能影响个体认知与社会价值体系，需关注过度依赖与社会脱节问题。 - **公平与包容**：人工智能应避免歧视与偏见，确保对所有群体（包括特殊群体）的公平对待。 - **安全与可控**：人工智能应用需确保在人类控制之下运行，建立应急机制与人工干预手段，防范脱离监督或威胁人类生存的风险。 - **共治与共享**：推动多方协同治理，加强国际合作与技术标准对接，构建开放、共享、普惠的人工智能生态。 ## 关键信息 ### 1. 范围 本文件适用于组织和个人开展人工智能应用活动，也为相关主管部门、行业组织和机构提供治理参考。 ### 2. 规范性引用文件 - GB/T 25069：信息安全技术术语 - GB/T 41867：信息技术人工智能术语 ### 3. 术语定义 - **人工智能应用**：具有功能特性的人工智能在利益相关方场景中运行以实现预期结果。 - **应用开发者**：从事人工智能应用理论研究、技术创新、数据归集、模型开发等活动的组织或个人。 - **服务提供者**：在工作与生活场景中向具体对象提供人工智能服务的组织或个人。 - **使用者**：使用人工智能系统、产品或服务的组织或个人。 ### 4. 伦理安全影响 - 人类主导权、公共秩序、个体认知、社会分化、生命健康、可持续生态等方面均可能受到人工智能应用的影响。 ### 5. 伦理安全指引 #### 6.1 通用指引 - 预评估人工智能应用目的与影响 - 构建符合中国国情与文化的伦理规范体系 - 正确认识人工智能能力边界与潜在风险 - 保留人类对关键环节的判断与干预 - 保护隐私与个人信息 - 关注偏见、歧视及弱势群体权益 - 提升伦理素养与安全风险提示能力 - 开展伦理安全影响评估 - 建立适用边界与责任安排 - 保障公共服务的公平性与可及性 #### 6.2 应用开发指引 - 统筹伦理安全，避免单纯以性能驱动开发 - 遵守科技伦理审查要求 - 正确认知“幻觉”等问题，加强提示说明 - 全过程贯彻安全可控、公平公正、隐私保护理念 - 针对易受影响群体进行专门设计 - 提高开发过程透明度，提供安全配置与部署指南 - 建立事故信息追溯机制 - 推动多方合作与伦理安全风险处置 #### 6.3 服务提供指引 - 引导社会正确认知服务边界与风险 - 提供符合伦理审查要求的产品 - 服务涉及关键领域时，人工智能应仅作为辅助工具 - 提供便捷的拒绝、干预与停止机制 - 遵循合法、正当、必要、最小化原则处理隐私数据 - 显著提示数据收集状态与关闭方式 - 建立事故应急处置机制 - 提升服务便利性与公平性 #### 6.4 应用使用指引 - 增强对人工智能的理性认知与使用习惯 - 避免过度依赖与沉迷，保持现实交往 - 通过人工智能促进学习与创造力发展 - 合法使用人工智能，不侵犯他人权益 - 保护自身敏感信息，防范信息泄露 - 积极履行人工智能伦理义务，参与生态建设 ## 结论 本文件旨在为人工智能应用提供伦理与安全的指导框架，强调技术发展与伦理治理的同步推进。其核心目标是确保人工智能在服务人类、推动社会进步的同时，避免潜在风险，维护公平、安全与可持续发展的社会环境。 ```