兰德-数据和人工智能生物设计-与生物训练数据相关的风险和治理机会（英）-2025_44页_631kb

总结：Data and AI-Enabled Biological Design

核心内容

本文探讨了人工智能（AI）模型在生物数据训练下展现出的新兴能力及其潜在风险，特别关注了这些能力如何被用于设计和预测生物分子的功能特性，包括蛋白质折叠、毒素设计、病原体改造等。同时，文章提出了针对这些能力的治理策略，以确保AI在生物领域的应用既能促进科学研究，又能防止其被恶意利用。

主要观点

• AI-bio模型的快速发展：近年来，AI-bio模型在预测蛋白质折叠、结构和功能方面取得了显著进展，例如AlphaFold系列模型在国际蛋白质折叠预测竞赛CASP中表现优异。
• 生物数据的重要性：模型的能力与其训练数据密切相关，数据的多样性、数量和质量直接影响模型的性能和潜在应用。
• 双重用途风险：部分AI-bio模型可能被用于设计有害生物材料，如增强传染性的病毒、新型毒素或生物武器，这引发了严重的生物安全问题。
• 治理需求：为了防止AI-bio模型被滥用，需要对数据的使用、访问、存储和模型训练进行治理，包括建立使用指南、实施访问控制、进行风险评估等。

关键信息

生物数据分类

生物数据通常分为三类：

• DNA序列数据：如GenBank、欧洲核苷酸档案（ENA）和日本DNA数据库（DDBJ），数量庞大且增长迅速。
• 蛋白质序列数据：如UniProtKB，数据来源于已知的DNA/RNA序列。
• 蛋白质结构数据：如PDB（蛋白质数据库）和AlphaFold数据库，部分为实验数据，部分为AI预测数据。
• 功能数据：如KEGG数据库，包含分子功能、表达和活性等信息。

模型能力与数据的关系

• 模型能力随着训练数据的增加而提升，但这种关系并非线性。
• 数据的多样性对模型能力有重要影响，例如AlphaFold2因缺乏非蛋白质成分数据，无法预测蛋白质-核酸复合物的结构。
• 新型数据来源（如宏基因组数据）可能进一步扩展模型的预测范围和应用能力。

潜在危险能力

• 设计毒素：AI模型可以预测或设计具有特定功能的毒素。
• 改造病原体：通过修改现有病原体基因，提升其致病性或传播能力。
• 从头设计病毒：AI-bio模型可能被用于设计全新的病毒结构。

治理建议

对开发者

1. 评估数据与模型能力的关系：通过性能指标、基准测试和数据限制测试，理解数据如何影响模型能力。
2. 实施数据防护措施：监控数据收集和聚合过程，防止敏感数据被滥用。
3. 制定数据使用指南：对AI-bio模型可能带来的双重用途能力进行风险评估，并采取相应控制措施。

对政策制定者

1. 制定数据使用规范：为使用联邦资助生物数据的个人或机构提供明确的指导。
2. 评估数据控制措施：分析数据控制的利弊，确保数据的安全性和完整性。
3. 推动数据治理政策：制定政策以管理生物数据的使用和质量，防止其被用于恶意目的。

对开发者和政策制定者的共同建议

1. 进行能力评估：在收集和聚合病原体数据时，评估模型可能具备的能力及其潜在影响。
2. 制定数据访问控制指南：对可能带来危险的生物数据实施访问控制，确保其不被滥用。

文档结构

• 引言：介绍了AI-bio模型的现状及其对生物领域的影响。
• 危险能力：分析了AI-bio模型可能带来的有害能力，并指出其对生物安全的威胁。
• 生物数据与AI-bio模型：详细讨论了不同类型的生物数据及其对模型能力的贡献。
• 数据治理选项：提出了针对AI-bio模型潜在危险能力的治理策略，包括数据创建、访问、存储和使用方面的管理。

附录与数据来源

• 表格：包括常见生物数据集及其发展情况、AI-bio模型的特征与能力等。
• 引用来源：涵盖了多个机构和研究团队的报告与文献，为分析提供了数据支持。

总结

本文强调了生物数据在AI模型发展中的核心作用，并指出其可能带来的双重用途风险。通过分析当前AI-bio模型的能力与数据之间的关系，作者提出了多项治理建议，旨在平衡AI在生物领域的积极作用与潜在威胁。