2025生物AI模型危害性能力界定报告_基于专家研讨会的未来风险评估_21页_260kb

生物AI模型危险能力分析报告

背景与目的

人工智能模型在生物学研究中的应用日益增长，生物AI模型——能够处理大量生物学数据的模型——具有加速药物开发、提高农业产量等潜力。然而，随着AI模型功能的增强，识别并缓解可能造成危害的生物能力成为科学家、开发者、政府和国际机构的当务之急。本次会议旨在识别高后果的生物AI能力，聚焦于可能引发或蓄意引发大流行的危险能力。

研究方法

由约翰斯·霍普金斯大学健康安全中心与兰德公司组织了一次专家研讨会，邀请了来自人工智能、计算生物学、生物技术等领域的专家参与讨论。采用德尔菲方法引导专家评估特定能力的危险性，通过投票机制量化风险，识别公众健康领域的高后果风险。

危险的生物AI能力

专家小组识别了七项具有显著风险的生物AI能力，这些能力可能被用于造成高后果危害：

1. 设计特定基因或蛋白质：能够设计出使特定人群对病原体易感的基因或蛋白质，同时保持病原体的适应性。
2. 基于基因组数据的流行病预测建模：利用AI模型，仅凭病原体基因组数据即可预测疾病传播，此技术可能被滥用于识别潜在新型病原体。
3. 高通量数据分析方法：通过AI算法快速生成病毒传播特性数据，用于训练AI模型。
4. 自主执行病原体设计合成流程：AI系统可自动完成从头设计合成病原体的操作流程。
5. 改造非人源病原体：设计改造使非人源病原体转变为人类病原体的基因或蛋白质。
6. 设计跨物种传播特性：设计具有持久传播特性的病原体基因或结构。
7. 优化免疫逃避免疫特性：设计能避开自然或疫苗产生免疫的高风险病毒载体和基因组。

风险与挑战

这些能力可能简化甚至自动化高风险生物实验流程，增加生物武器开发风险。尽管部分技术仍处于发展初期，但专家警告不应低估其潜在危害。准确预测AI发展路径困难，因此本次会议着重确定了具体的能力指标，而非预测技术发展趋势。

识别潜在危险能力的方法

鉴定危险生物能力需结合多种评估技术，包括自动化任务测试、红队测试（即试图引诱AI暴露危险功能）以及人类收益评估研究等。指导原则应着重于平衡风险与收益，确保在最小化滥用风险的同时保留AI的有益应用。

未来工作方向

1. 建立AI生物安全评估框架：开发动态评估方法，支持实时监测AI模型的潜在危害。
2. 制定治理原则：明确AI模型设计与开发的道德边界，同时考虑国家政策影响。
3. 定义核心能力集：确立需优先监管的核心能力清单，并建立覆盖开发到应用的全链条监管机制。