2026人工智能应用伦理安全指引1.0_9页_293kb

人工智能应用伦理安全指引 1.0 总结

摘要

人工智能技术正以惊人的速度发展，生成式人工智能和智能体等新技术不断涌现，深刻影响社会运行、个人生活及生产方式。然而，其快速发展也带来了诸多伦理与安全挑战。为确保人工智能的安全可控，推动其健康发展，本文件提出了人工智能应用伦理安全的理念与原则，明确了应用开发、服务提供与使用过程中的基本要求，并为各方提供了实践指引。本文件具有原则性和参考性，涉及个人信息、自动化决策、内容标识、算法治理、知识产权等事项时，应与现行法律法规协调适用。

核心内容

人工智能应用伦理安全影响

人工智能应用可能带来以下主要影响：

• 人类主导权影响：人工智能行为超出人类预设和控制范围，可能冲击人类在社会运行与治理中的主导地位。
• 公共秩序影响：技术快速演化可能影响行为规范、市场秩序与社会信任，进而冲击社会基础公共秩序。
• 个体认知与社会价值影响：人工智能普遍应用可能导致个体过度依赖、与现实脱节。
• 社会分化和歧视影响：可能放大偏见与歧视，造成结构性不公。
• 生命健康与基本权益影响：可能对个人生命健康、人身安全、人格尊严、隐私、财产等基本权益造成影响，甚至威胁国家安全与公共安全。
• 可持续生态影响：不合理的技术路线与应用模式可能带来生态压力，影响人与自然的可持续发展。

伦理安全理念与原则

本文件强调人工智能应用应遵循以下核心理念与原则：

• 增进人类福祉：推动人工智能服务人的全面发展，提高生产生活水平，改善公共服务与社会治理。
• 尊重生命权利：保障人的生命健康、人身安全、人格尊严和基本权益，避免对人的身心健康造成不利影响。
• 坚持公平公正：消除技术偏见与歧视，确保所有群体（包括特殊群体与弱势群体）都能公平受益。
• 合理控制风险：在发展与安全之间取得平衡，防范人工智能被违法使用、恶意利用或滥用。
• 保持公开透明：提升人工智能应用的透明度，使其运行方式清晰、可理解、可追溯。
• 保护隐私安全：尊重隐私权益，防止个人信息被过度收集、不当使用或泄露。
• 确保可控可信：人工智能应用应始终处于人类控制之下，防止脱离监督或威胁人类生存发展。
• 敏捷共治：推动各方协同治理，加强技术标准与治理规则的国际衔接，提升治理效率。
• 普惠共享：构建开放、合作、共享的人工智能生态，避免垄断与强迫，鼓励技术开源与知识共享。

主要指引

6.1 通用指引

• 预先评估人工智能应用的目的与影响，保障国家安全、公共利益及个人权益。
• 构建符合中国国情和文化传统的伦理规范体系。
• 正确认识人工智能的能力边界与潜在影响，避免盲目信赖与过度宣传。
• 在关键环节保留人类的判断、监督与干预能力。
• 重视隐私保护，防止信息泄露与滥用。
• 关注人工智能可能带来的偏见、歧视与机会不均等问题。
• 提升伦理素养，加强安全风险提示与反馈改进。
• 定期开展伦理安全影响评估。
• 在涉及生命健康与人身安全时，坚持以人为本、安全优先。
• 在涉及社会治理与公共服务时，保障公平性与程序正当性。
• 在涉及信息传播时，坚持真实可信，避免虚假、误导性内容。
• 在涉及知识发现与生产时，坚持求真务实，确保学术诚信与知识产权保护。
• 在涉及金融活动时，坚持稳健审慎，防范风险与保障消费者权益。

6.2 应用开发指引

• 统筹伦理安全，识别安全开发需求，避免以性能或效率为唯一驱动。
• 审慎开发高度自主性人工智能应用，评估其失控风险与社会影响。
• 正确认知技术边界，对“幻觉”等不确定性输出进行管控与提示。
• 将伦理安全理念贯穿数据选择、算法设计、测试评估等全过程。
• 针对易受影响群体（如未成年人、老年人、残障人士）进行专门设计。
• 提高开发过程透明度，提供安全配置与部署操作指南。
• 设置事故信息追溯机制，便于责任认定与风险复盘。
• 推动多方合作与互信，协同处理伦理安全风险。

6.3 服务提供指引

• 选择符合伦理规范的人工智能应用目标，理性引导社会认知。
• 提供符合科技伦理审查要求的产品或服务，加强全生命周期跟踪。
• 在涉及国家安全、公共利益或重大生命财产安全时，人工智能仅承担辅助决策角色。
• 为用户提供明确、便捷的拒绝、干预及停止使用机制。
• 减少对隐私和敏感信息的处理，遵循合法、正当、必要、最小化原则。
• 若需收集数据，应持续提示并提供关闭方式。
• 设置事故应急处置机制，主动识别并及时处理伦理安全问题。
• 提升易受影响群体的服务便利性，避免使用障碍。
• 在涉及个人权利与公共资源分配时，保障公平性并完善风险提示。

6.4 应用使用指引

• 正确认知人工智能，增强对虚假、错误、误导性内容的识别能力。
• 适度使用人工智能，避免过度依赖或沉迷，防止替代真实活动。
• 妥善运用人工智能辅助学习、生活与创作，促进个人主体性与创造性。
• 合法使用人工智能，不进行误导、骚扰、操纵等行为。
• 保护自身敏感信息，避免意外泄露。
• 提高人工智能素养，履行内容标识等义务，及时反馈伦理安全风险。