> **来源：[研报客](https://pc.yanbaoke.cn)** ```markdown # 人工智能应用伦理安全指引 1.0 总结 ## 摘要 人工智能技术正以惊人的速度发展，生成式人工智能和智能体等新技术不断涌现，深刻影响社会运行、个人生活及生产方式。然而，其快速发展也带来了诸多伦理与安全挑战。为确保人工智能的安全可控，推动其健康发展，本文件提出了人工智能应用伦理安全的理念与原则，明确了应用开发、服务提供与使用过程中的基本要求，并为各方提供了实践指引。本文件具有原则性和参考性，涉及个人信息、自动化决策、内容标识、算法治理、知识产权等事项时，应与现行法律法规协调适用。 ## 核心内容 ### 人工智能应用伦理安全影响 人工智能应用可能带来以下主要影响： - **人类主导权影响**：人工智能行为超出人类预设和控制范围，可能冲击人类在社会运行与治理中的主导地位。 - **公共秩序影响**：技术快速演化可能影响行为规范、市场秩序与社会信任，进而冲击社会基础公共秩序。 - **个体认知与社会价值影响**：人工智能普遍应用可能导致个体过度依赖、与现实脱节。 - **社会分化和歧视影响**：可能放大偏见与歧视，造成结构性不公。 - **生命健康与基本权益影响**：可能对个人生命健康、人身安全、人格尊严、隐私、财产等基本权益造成影响，甚至威胁国家安全与公共安全。 - **可持续生态影响**：不合理的技术路线与应用模式可能带来生态压力，影响人与自然的可持续发展。 ### 伦理安全理念与原则 本文件强调人工智能应用应遵循以下核心理念与原则： - **增进人类福祉**：推动人工智能服务人的全面发展，提高生产生活水平，改善公共服务与社会治理。 - **尊重生命权利**：保障人的生命健康、人身安全、人格尊严和基本权益，避免对人的身心健康造成不利影响。 - **坚持公平公正**：消除技术偏见与歧视，确保所有群体（包括特殊群体与弱势群体）都能公平受益。 - **合理控制风险**：在发展与安全之间取得平衡，防范人工智能被违法使用、恶意利用或滥用。 - **保持公开透明**：提升人工智能应用的透明度，使其运行方式清晰、可理解、可追溯。 - **保护隐私安全**：尊重隐私权益，防止个人信息被过度收集、不当使用或泄露。 - **确保可控可信**：人工智能应用应始终处于人类控制之下，防止脱离监督或威胁人类生存发展。 - **敏捷共治**：推动各方协同治理，加强技术标准与治理规则的国际衔接，提升治理效率。 - **普惠共享**：构建开放、合作、共享的人工智能生态，避免垄断与强迫，鼓励技术开源与知识共享。 ## 主要指引 ### 6.1 通用指引 - 预先评估人工智能应用的目的与影响，保障国家安全、公共利益及个人权益。 - 构建符合中国国情和文化传统的伦理规范体系。 - 正确认识人工智能的能力边界与潜在影响，避免盲目信赖与过度宣传。 - 在关键环节保留人类的判断、监督与干预能力。 - 重视隐私保护，防止信息泄露与滥用。 - 关注人工智能可能带来的偏见、歧视与机会不均等问题。 - 提升伦理素养，加强安全风险提示与反馈改进。 - 定期开展伦理安全影响评估。 - 在涉及生命健康与人身安全时，坚持以人为本、安全优先。 - 在涉及社会治理与公共服务时，保障公平性与程序正当性。 - 在涉及信息传播时，坚持真实可信，避免虚假、误导性内容。 - 在涉及知识发现与生产时，坚持求真务实，确保学术诚信与知识产权保护。 - 在涉及金融活动时，坚持稳健审慎，防范风险与保障消费者权益。 ### 6.2 应用开发指引 - 统筹伦理安全，识别安全开发需求，避免以性能或效率为唯一驱动。 - 审慎开发高度自主性人工智能应用，评估其失控风险与社会影响。 - 正确认知技术边界，对“幻觉”等不确定性输出进行管控与提示。 - 将伦理安全理念贯穿数据选择、算法设计、测试评估等全过程。 - 针对易受影响群体（如未成年人、老年人、残障人士）进行专门设计。 - 提高开发过程透明度，提供安全配置与部署操作指南。 - 设置事故信息追溯机制，便于责任认定与风险复盘。 - 推动多方合作与互信，协同处理伦理安全风险。 ### 6.3 服务提供指引 - 选择符合伦理规范的人工智能应用目标，理性引导社会认知。 - 提供符合科技伦理审查要求的产品或服务，加强全生命周期跟踪。 - 在涉及国家安全、公共利益或重大生命财产安全时，人工智能仅承担辅助决策角色。 - 为用户提供明确、便捷的拒绝、干预及停止使用机制。 - 减少对隐私和敏感信息的处理，遵循合法、正当、必要、最小化原则。 - 若需收集数据，应持续提示并提供关闭方式。 - 设置事故应急处置机制，主动识别并及时处理伦理安全问题。 - 提升易受影响群体的服务便利性，避免使用障碍。 - 在涉及个人权利与公共资源分配时，保障公平性并完善风险提示。 ### 6.4 应用使用指引 - 正确认知人工智能，增强对虚假、错误、误导性内容的识别能力。 - 适度使用人工智能，避免过度依赖或沉迷，防止替代真实活动。 - 妥善运用人工智能辅助学习、生活与创作，促进个人主体性与创造性。 - 合法使用人工智能，不进行误导、骚扰、操纵等行为。 - 保护自身敏感信息，避免意外泄露。 - 提高人工智能素养，履行内容标识等义务，及时反馈伦理安全风险。 ```