美国安全与新兴技术中心2025AI翻车事故AIincident强制性报告制度的关键要素研究报告英文版32页_817kb

AI强制报告制度关键组件与政策建议总结

本报告提出构建一套标准化的AI事件报告框架，以系统性记录、分析和响应AI相关事件，涵盖强制性、自愿性和公民报告机制。该框架旨在通过统一数据收集和分类标准，提升AI安全性与透明度，填补当前缺乏统一政策框架的空白。关键内容包括：

一、AI事件核心组件

1. 事件类型
   区分“事件”与“未遂事件”，前者指实际造成伤害，后者指未造成伤害但存在潜在风险。例如，AI生成虚假爆炸图像导致股市波动属事件，而自动驾驶汽车未及时刹车但因无车辆存在未造成事故则为未遂事件。

2. 伤害维度

   • 伤害类型：涵盖身体伤害、环境破坏、经济损失、声誉损害、公共利益影响、人权侵害及心理伤害等。
   • 伤害机制：分为技术因素（如数据偏差、系统漏洞、模型漂移）与非技术因素（如治理缺陷、用户误用或故意滥用）。
   • 严重程度：需评估伤害恢复可能性、伤害规模、持续时间、发生频率及系统可靠性。

3. 技术信息
   要求报告AI系统核心数据，包括系统卡（含模型参数、训练数据、评估结果）、数据集说明文件（涵盖数据来源、处理方式及使用场景）等，以支持技术层面的分析与风险评估。

4. 上下文信息
   包括事件目的、应用领域（如医疗、金融）、发生时间与地点、报告人身份及现有安全措施。例如，医疗AI系统因种族偏见误判儿童虐待风险，需记录其部署背景与监管政策。

5. 事后数据
   涵盖事件响应措施（如缓解、终止）及伦理影响评估。参考OECD人工智能原则与UNESCO伦理评估工具，分析事件对社会结构、权利保障等的伦理后果。

二、跨领域借鉴
通过分析交通、医疗、网络安全等领域的事件报告体系，提取共性要素并弥补AI领域数据缺失。例如，网络安全的CVSS评分系统为量化AI事件严重性提供参考，而医疗领域的“严重事件报告名单”可作为AI事件分类模板。

三、政策建议

1. 标准化报告格式
   编制基于核心组件的统一模板，便于政策制定者、监管机构及研究者收集结构化数据。例如，技术因素可采用多选项+文本描述结合方式，确保数据可比性。

2. 建立独立调查机构
   模仿美国国家运输安全委员会（NTSB），设立专门AI事件调查机构，深入分析未遂事件及隐性风险（如系统未被公开的技术漏洞），为政策调整提供依据。

3. 动态迭代与协同机制
   报告框架需定期更新以适应技术发展，同时通过公共数据库鼓励多方参与，弥补单一主体数据收集局限。例如，公众可提交基础信息（如事件描述、系统名称），促进发现新型风险。

4. 分级披露要求
   强制报告需包含完整组件，而自愿与公民报告可采用简化版，侧重关键信息（如系统名称、伤害类型）。此分类有助于平衡数据全面性与报告可行性。

四、挑战与改进方向
当前AI事件数据库多依赖新闻报道，缺乏详细技术参数与系统性严重性评估。未来需推动开发者公开更多技术细节（如模型架构、训练数据来源），并建立量化严重性指标，以辅助政策优先级排序与风险防控。

报告强调，统一框架将增强对AI危害的识别能力，支持安全措施优化与政策制定，同时通过跨领域经验整合，提升报告体系的适用性与实效性。