> **来源：[研报客](https://pc.yanbaoke.cn)** # 人道行动中负责任使用技术研讨会总结 ## 核心内容 2025年12月4日至5日，由红十字国际委员会（ICRC）卢森堡全球网络事务代表处、ICRC东亚地区代表处及清华大学战略与安全研究中心（CISS）联合主办的“人道行动中负责任使用技术研讨会”在北京召开。会议汇聚了来自近20个国家的80多位人道实践者、政策专家、产业界代表和研究人员，围绕人工智能、数字基础设施、技术安全与信任等关键议题展开深入探讨。 ## 主要观点与关键信息 ### 1. 技术对人道行动的双重影响 - **机遇**：人工智能、大数据、云计算等新兴技术显著提升了人道行动的效率、精准度和覆盖范围。 - **风险**：技术的滥用、数据泄露、算法偏见、网络虚假信息及技术依赖等问题可能对受冲突影响的民众造成伤害，甚至破坏人道组织的中立性与信任基础。 ### 2. 负责任的人工智能治理 - **人类控制与问责**：人类控制与问责是人工智能治理的核心，技术不能替代人类判断，也不能模糊责任链条。 - **治理共识**：尽管各国监管模式不同，但安全、透明度、人类监督和包容性等方面已形成广泛共识。 - **具体措施**：需要建立测试与评估机制、可追溯系统、明确责任分配及全生命周期的问责框架。 ### 3. 技术向善与危机应对 - **基础设施优先**：健全的数字基础设施（如网络连接、电力供应、离线系统）是“技术向善”的基础。 - **技术中立性争议**：技术并非中立，其背后的设计理念、企业激励、地缘政治等因素会影响其在人道场景中的应用。 - **信任与依赖管理**：技术应服务于人道目标，避免造成依赖性或暴露敏感信息，需在设计之初融入伦理考量，并具备退出策略。 ### 4. 人工智能安全保障 - **情景依赖性**：人工智能在危机环境中的风险特征因应用场景而异，影响分诊、预警、物资分配的系统风险更高。 - **数据与算法风险**：数据质量低下、算法偏见、数据泄露和篡改等问题可能影响人工智能系统的可靠性。 - **合作与培训**：人道组织需与学术界、产业界及公共部门合作，同时加强员工和社区对人工智能系统风险的认知与应对能力。 ### 5. 数字信任的重要性 - **信任的定义**：数字信任是一种由实践驱动的关系型概念，建立在透明、可预测和负责任的行为基础上。 - **脆弱性与挑战**：在冲突环境中，数字信任尤为脆弱，数据滥用、泄露或误用可能直接威胁民众安全和人道工作的接受度。 - **信任构建措施**：需通过技术手段（如网络安全、加密）与治理框架（如透明度、可追溯性）相结合，提升数字信任。ICRC提出的“数字标志”项目旨在通过标识系统强化人道数字资产的法律保护。 ## 结构总结 ### 分论坛一：负责任的人工智能 - **背景**：人工智能在人道行动中的广泛应用及其带来的治理挑战。 - **讨论重点**： - 人类控制与问责仍是核心。 - 治理需兼顾全球一致性与地方适应性。 - 需要具体的保障措施，而非仅靠原则。 - **结论**：治理应聚焦于实际操作，包括测试、评估、责任分配与透明机制。 ### 分论坛二：技术向善 - **背景**：技术在危机应对中的潜力与挑战。 - **讨论重点**： - 基础设施（网络、电力、离线系统）是技术向善的前提。 - 技术中立性存在争议，需警惕其对中立性原则的潜在冲突。 - 需建立问责机制，确保技术真正服务于受影响人群。 - **结论**：技术向善依赖于基础设施建设、伦理考量与多方合作。 ### 分论坛三：人工智能安全保障 - **背景**：人工智能在危机场景中的部署风险。 - **讨论重点**： - 风险与情景高度相关，需制定灵活的风险框架。 - 数据最小化、透明度与人工干预能力是保障措施的关键。 - 需加强多方合作，共同研发、评估与部署人工智能工具。 - **结论**：人工智能的部署需以安全设计为核心，确保其在危机中的可靠性与可控性。 ### 分论坛四：数字信任 - **背景**：数字信任在人道行动中的重要性。 - **讨论重点**： - 信任建立在透明、可预测与负责任的行为基础上。 - 冲突环境中的数据滥用和泄露对信任构成严重威胁。 - 需制定应急预案，推广“数字标志”项目以增强信任。 - **结论**：数字信任是人道行动的基础，需通过技术保障、治理框架与跨部门合作来构建和维护。 ## 会议意义与未来方向 本次研讨会是ICRC全球网络事务系列会议的重要一环，标志着人道领域与技术治理的深度融合。会议强调，人道组织需与技术行业、学术界及公共部门加强合作，推动负责任的技术设计与部署。同时，需关注“人工智能鸿沟”和“全球南方”国家的声音，确保技术惠及所有群体，而非仅服务于特定地区或利益群体。 ## 致谢 感谢红十字国际委员会卢森堡全球网络事务代表处、东亚地区代表处及清华大学战略与安全研究中心的组织与支持。同时，感谢来自近20个国家的80多位发言嘉宾与参会人员的积极参与与贡献。