2024人工智能安全作为全球公共产品研究报告-上海人工智能实验室_8页_7mb

人工智能安全作为全球公共产品研究报告强调，人工智能安全应被视为具有公共属性的知识、能力与资源，需通过多主体协同合作实现知识增长、能力提升与资源共享，以构建安全可控的人工智能生态。报告指出，人工智能安全治理面临三大挑战：一是安全风险呈现“共同无知”特征，各方均缺乏系统性认知；二是安全风险具有强外部性，需跨领域协作应对；三是治理机制碎片化，存在制度定位模糊与标准不统一问题。

该理念提出四个核心原则：公共原则（开放包容、知识共享）、科学原则（遵循技术规律、多方共研）、责任原则（分层责任机制、激励相容）、敏捷原则（动态调整、协同创新）。这些原则旨在平衡发展与安全，既不局限于传统风险管控，也不简单等同于技术规范，而是强调通过制度设计促进治理生态的可持续性。

中国在人工智能安全治理中形成了独特实践，主要体现为四方面：一是推动形成宽泛共识，提出公平公正、安全可控等治理原则；二是构建多层次治理机制，如算法备案、分级分类管理等；三是整合科研与产业力量，推动安全标准、评测基准与治理案例库建设；四是积极参与国际治理进程，通过倡议、峰会与对话平台促进全球合作。

上海作为实践标杆，通过三个创新路径应对大模型安全挑战：监管机构转型为知识传播者，推动安全知识扩散；建立底线共识与协同机制，兼顾创新空间与责任约束；构建开放性安全资源库，提升评测体系的公信力。这些实践体现了公共原则与科学原则的结合，并探索了责任边界与敏捷治理的实施方式。

报告最终提出五大行动倡议：成立公共属性安全机构，鼓励多方参与生产；转变政府角色，成为技术生态的学习者与推动者；建立国际对话网络，促进知识共享与制度协同；建设安全资源库，涵盖评测数据、案例集与研究基金；完善全频谱责任机制，从程序性透明到实质性追责，激发治理创新活力。通过这些措施，旨在实现人工智能安全的全球化公共产品属性，推动技术与社会的良性互动。