发展负责任的生成式人工智能研究报告及共识文件-世界互联网大会

世界互联网大会人工智能工作组于2023年11月发布研究报告及共识文件，分析生成式人工智能（GenAI）的发展态势、机遇与挑战，并提出负责任发展的路径。

概述
生成式AI在文本、代码、图像、音视频等领域的理解与生成能力取得突破性进展，有望提升社会生产力，加速千行百业数字化转型，推动人类社会迈向智能化新阶段。尽管技术突破创造机遇，但其发展也伴随安全风险和伦理挑战，需全球协作推进治理与监管。

全球发展态势

1. 模型进步：Transformer架构成为主流，模型参数规模持续扩大（如GPT-3参数达1750亿），多模态模型（如GPT-4、BLIP-2）融合文本、图像、语音等功能，增强AI拟人化与通用性。
2. 数据提升：高质量数据集（如ThePile）促进AI能力提升，开源与数据共享成为趋势（如LLaMA2、FlyLab项目）。
3. 算力支持：企业通过算力优化和开源体系（如华为云、阿里魔搭、Google CARLA）降低技术门槛，推动AI普及。

挑战

• 技术风险：数据偏见、隐私泄露（如三星数据泄露案例）及AI生成数据污染风险（如GPT-3能耗与碳排放问题）。
• 算法漏洞：生成“幻觉”（hallucination）和虚假信息，可能遭攻击或滥用，引发安全问题。
• 伦理问题：人机依赖可能导致创新能力弱化，如学生过度依赖AI完成作业；AI与人类价值观对齐难题，如部分AI生成内容存在道德缺位风险。

机遇

1. 经济增长：麦肯锡预测GenAI可为全球经济年增26万亿至44万亿美元，高盛预计未来10年推动GDP增长7%。
2. 社会进步：优化城市管理（如智慧城市模型）、提升医疗效率（如阿里巴巴角膜病诊断、百度药物研发）、促进教育公平（如科大讯飞星火语伴、商汤AI教育平台）及推动文娱发展（如微博AI伴聊、百度文心百中）。
3. 公益应用：无障碍技术（如语音合成、字幕眼镜）助力残障群体，AI辅助科研（如智谱AI科研助手、盘古药物分子模型）加速科学发现。

国际组织与国家行动

• OECD提出AI治理原则，G20强调“以人为本”的伦理框架。
• 欧盟《人工智能法案》要求透明化与高风险AI监管，美国发布《人工智能权利法案蓝图》与《风险管理框架》。
• 中国信通院、清华大学等推动可信AI发展，英国等国家强调公平与问责机制。

产业界实践

• 模型与工具：IBM、微软、Google等企业推出开源模型与治理工具（如LLaMA2、StableSignature），阿里、腾讯、华为等开发行业定制化大模型（如盘古、混元）。
• 应用场景：
  • 金融：蚂蚁“支小宝”辅助理财服务，360AI Box插件赋能业务场景。
  • 教育：商汤SenseStudy平台覆盖全学段，科大讯飞星火语伴优化语言学习。
  • 医疗：阿里巴巴眼科AI、百度药物分子模型提升诊断与研发效率。
  • 交通：佳都科技地铁虚拟员工、商汤城市三维场景重建优化出行体验。
  • 工业：华为盘古制造大模型重塑生产流程，腾讯CodeArts优化代码生成。

共识与治理建议

1. 核心原则：以人为本、兼顾创新与伦理、平衡效益与风险，确保技术安全、透明、公平。
2. 治理措施：
   • 强化数据治理（隐私保护、防止污染），推动开放共享与合规使用。
   • 提升AI可解释性，通过技术手段（如LASSI、水印标记）增强信任。
   • 明确责任归属，建立可追溯系统与伦理委员会。
   • 加强国际合作，构建统一标准与评测体系，促进技术普惠与可持续发展。

结论
GenAI需在技术、伦理、法律等多维度实现协同治理，以确保其为人类福祉服务。全球需共同推进算力、数据与算法的开放性，同时应对环保、就业结构变化等社会挑战，实现AI与人类共生共荣。