发展负责任的生成式人工智能-世界互联网大会-2023-30页_1mb

世界互联网大会人工智能工作组2023年研究报告及共识文件总结

一、生成式人工智能技术发展态势

技术突破

1. 模型演进

   • 转换器架构（Transformer）成为主流，参数规模持续扩大，如GPT-3达1750亿参数。
   • 多模态模型（如BLIP-2、Emu）实现跨模态理解与生成，推动通用人工智能探索。

2. 数据与算力支撑

   • 高质量数据集（如ThePile）和开源支持（如LLaMA2）促进技术普及。
   • 算力基础设施（如华为云AIGallery、蚂蚁“蚁鉴20”）提升开发效率。

技术趋势

• 具身智能与机器人技术结合，实现复杂场景控制。
• 插件机制与生态开放推动应用定制化（如文心一言、搜狗输入法插件）。

二、生成式人工智能的机遇

1. 经济增长

• 预计每年为全球经济贡献26万亿至44万亿美元价值。
• 提升生产效率，重构传统行业价值链（如农业数字化、金融风控）。

2. 社会进步

• 医疗与教育：辅助诊断、个性化学习、残障群体无障碍服务。
• 城市管理：灾害预警、能源优化、交通调度智能化。
• 文化与环保：文化遗产保护、气候监测与可持续发展支持。

3. 科研与创新

• 加速材料科学、蛋白质结构预测、新药研发等领域突破。
• 开源平台（如华为盘古、Falcon180B）促进全球科研协作。

三、生成式人工智能的挑战

1. 技术风险

• 安全问题：数据偏见、隐私泄露、生成虚假内容（如模型崩溃）。
• 伦理失范：人机依赖导致创新能力下降；算法价值偏离人类道德。

2. 社会影响

• 就业冲击：可能替代全球3亿人岗位，加剧社会分层。
• 数字鸿沟：语言资源匮乏地区的应用受限，教育公平性下降。
• 环境成本：大模型训练耗能巨大（如GPT-3产生552吨碳排放）。

3. 全球治理挑战

• 知识产权归属模糊，生成内容监管滞后。
• 各国监管框架差异导致跨境合作困难。

四、全球治理与产业实践

1. 国际组织努力

• OECD、G20、UNESCO提出人工智能治理原则，强调包容性、透明度与人权保护。

2. 国家与地区举措

• 欧盟：“人工智能法案”强化高风险系统监管。
• 美国：白宫发布风险管理框架和伦理准则。
• 中国：推动《人工智能示范法》和可信AI白皮书。

3. 产业界实践

• 企业伦理原则（IBM、微软、百度等）。
• 开源生态（如LLaMA2、华为昇腾AI平台）。
• 技术工具开发（如Meta数字水印、商汤日日新模型）。

五、发展负责任生成式人工智能的共识

（一）促进发展

1. 算力与数据共享：构建普惠基础设施，降低创新门槛。
2. 人才培养：加强跨学科教育与国际人才流动。
3. 行业赋能：深化生成AI在金融、教育、医疗等领域的落地应用。

（二）安全与发展并重

• 安全性：增强抗攻击能力，确保人类对AI的监督与控制。
• 公平性：数据多元化处理，避免算法偏见。
• 价值对齐：研究人类价值观嵌入技术，强化AI伦理治理。

（三）治理框架

1. 归责体系：明确全生命周期责任，建立AI伦理委员会。
2. 透明监督：开放模型能力与局限性，提升公众理解。
3. 国际协作：推动全球技术标准与伦理共识，弥合发展鸿沟。

六、行业应用探索

典型案例

1. 金融：腾讯混元模型支持广告创作、360AI Box赋能风险控制。
2. 教育：科大讯飞星火语伴、商汤教育平台推动跨区域学习。
3. 城市管理：华为盘古政务模型实现事件秒级响应。
4. 科学研究：智谱AI科研助手、华为药物分子模型加速新药研发。

--- 

**注**：缩写与术语解释见原文缩略语对照表。