【谷歌_Google_】英文2025负责任人工智能进展报告_17页_4mb

Google发布的《负责任AI进展报告》（2025年2月）系统阐述了其在AI安全与责任领域的实践与成果。报告强调AI技术的双重属性——既具变革潜力，也需通过严谨治理以控制风险。其核心框架围绕“治理（Govern）、映射（Map）、评估（Measure）、管理（Manage）”四大支柱展开，并结合NIST AI风险管理框架及行业标准，构建了多层级的AI责任体系。

1. 治理（Govern）
   Google通过AI原则指导模型开发与部署，原则强调创新、安全与协作。公司建立了覆盖模型全生命周期的治理机制，包括预发布和发布后的审查流程。核心治理框架包括：

• 模型安全框架：通过前沿安全框架（Frontier Safety Framework）预判高能力模型可能带来的风险，并制定相应缓解措施。
• 安全与隐私框架：采用SAIF（安全AI框架）应对已知及新型安全威胁，如数据投毒、模型泄露等，通过输入输出过滤、访问控制等技术保障系统安全。
• 应用开发框架：针对不同产品（如Gemini、AlphaFold 3）制定特定政策，例如Gemini需遵循用户指令、适应需求并保障使用体验。

2. 风险映射（Map）
   公司通过研发与专家合作，构建AI风险分类体系，涵盖安全、隐私、透明度等领域。具体措施包括：

• 风险研究：发布逾300篇负责任AI相关论文，分析新兴能力（如多模态AI、代理AI）的潜在影响及风险。
• 风险分类：基于NIST框架，形成包含技术、环境、伦理等维度的标准化风险类别，例如生物安全、网络攻击、信息篡改等。
• 案例研究：以AlphaFold 3的生物安全风险评估为例，通过专家咨询和外部测试验证其对分子结构预测的双刃剑效应，并推动开放科学教育。

3. 风险评估与监控（Measure）
   通过多层红队测试（Red Teaming）和自动化工具提升评估效率：

• 红队测试：内部与外部团队联合测试，识别系统漏洞并预防未知风险。例如，内容聚焦红队（CART）已执行150+测试，涵盖恶意提示注入等攻击场景。
• AI辅助评估：利用Gemini 2.0的推理能力开发自动化工具，如Gemma Scope，实现模型行为分析与风险识别。此外，开放测试数据集（如AILuminate v1.0基准）促进学术与工业界协作。

4. 风险缓解（Manage）
   公司通过分阶段发布、技术工具及用户教育降低风险：

• 分阶段发布：测试流程分三阶段（内部测试→外部测试→有限用户释放），确保缓解措施有效。例如，Gemini 2.0优先在可信用户群体中验证，再逐步扩展至全球。
• 技术缓解：采用安全过滤器（如ShieldGemma）和合成数据（SynthID）技术，标识AI生成内容以防止误用。SynthID通过不可见水印技术，可在文本、图像等多模态内容中检测生成痕迹。
• 用户教育：投入1.2亿美元用于全球AI培训，并与Raspberry Pi基金会合作推出面向青少年的AI课程（Experience AI）。

5. 生态协作与标准推广
   Google积极参与行业标准制定，如加入MLCommons推动AI基准测试（如AILuminate v1.0），并联合多机构（如Partnership on AI、World Economic Forum）制定安全指南。同时，通过开放源代码（如SynthID）和研究基金（如AI安全基金）支持开发者与学者，促进负责任AI技术的普及。

报告总结了当前成果：

• 通过ISO/IEC 42001认证Gemini应用、Google Cloud和Google Workspace；
• 开发700+项AI安全技术并公开部分工具；
• 在伦理评估中，Gemma模型在多个外部基准（如AILuminate）中表现优异。

Google强调，负责任AI需持续迭代，通过内部研究和外部合作动态应对技术发展。其方法论融合科学严谨性、前瞻性设计及广泛协同，旨在最大化AI的积极效益，同时减少潜在危害。