清华大学-深度合成十大趋势报告_28页_7mb

深度合成十大趋势报告（2022）总结

核心内容概述

深度合成技术是一种基于深度学习、虚拟现实等算法制作文本、图像、音频、视频等内容的技术。自2017年“Deepfakes”事件引发公众关注以来，该技术在多个领域快速应用，并呈现出技术发展、场景拓展、商业化落地、风险加剧、治理机制逐步建立等趋势。本报告从技术研究、应用发展、风险挑战和治理监管四个维度，系统分析了深度合成技术的十大发展趋势，并提出了发展与治理建议。

主要观点

• 技术发展：深度合成技术从早期基于卷积神经网络发展到如今以Transformer模型为主，内容质量显著提升，伪造内容更难辨别。
• 应用扩展：深度合成技术在影视、教育、娱乐、金融、政务、医疗、社交等多个领域得到广泛应用，推动了虚拟数字空间的构建。
• 商业化落地：商业化产品逐渐丰富，涵盖图像、视频、音频、文本等多个方向，如虚拟主播、AI合成语音、诗歌创作系统等。
• 风险加剧：技术被恶意使用，制造虚假音视频，威胁个人名誉、财产安全，甚至影响国家安全与社会稳定。
• 治理机制建立：各国陆续出台相关法律法规，推动深度合成技术的依法管理，构建伦理与法律并行的治理体系。

关键信息

趋势一：深度合成内容制作与传播数量高速增长

• 深度合成内容在社交媒体和音视频平台中呈现指数级增长，尤其在视频领域。
• 2021年新发布的深度合成视频数量较2017年增长10倍以上。
• 视频的互动数据（点赞、转发等）持续攀升，2021年新发布的视频点赞数超过3亿。

趋势二：深度合成内容关注度指数级增长

• 深度合成内容在多个平台中受到广泛关注，尤其在科技教育、影视音乐、生活娱乐等类别中。
• 与真实内容相比，深度合成内容的传播力和影响力显著提升。

趋势三：深度合成领域研究论文数量高速增长

• 自2017年以来，深度合成领域论文数量持续增长，尤其在图像合成方向占比最高（64%）。
• 语音和文本方向的研究也迅速发展，合成技术逐步成熟。

趋势四：深度合成开源项目数与讨论度持续攀升

• 开源项目数量和讨论热度持续上升，如faceswap、DeepFaceLab、stylegan等。
• GitHub上的Star数已突破1万，显示技术社区的活跃度。

趋势五：深度合成需求场景趋于多元且成熟

• 技术已广泛应用于影视制作、虚拟主播、AI绘画、历史修复、AI语音助手、元宇宙等场景。
• 代表性案例包括“小聪”手语AI主播、虚拟偶像洛天依、AI修复老照片等。

趋势六：深度合成商业化产品类型逐渐丰富

• 基于深度合成技术的产品和服务涵盖多个领域，如AI换脸、AI语音、AI诗歌创作等。
• 企业如瑞莱智慧、阿里巴巴、腾讯等已推出相关产品和平台。

趋势七：深度合成重新定义虚拟化数字生存空间

• 深度合成技术推动了元宇宙等虚拟数字空间的发展，使虚拟人、自然人、机器人在数字环境中互动。
• 元宇宙平台如Meta的Horizon Worlds、英伟达的Omniverse、百度希壤等已实现初步落地。

趋势八：深度合成内容负面风险持续加剧且产生实质危害

• 深度伪造技术被用于诈骗、诽谤、恶意传播等行为，造成严重的社会影响。
• 例如，伪造政要视频威胁政治安全、伪造客户语音诈骗3500万美元、伪造艺人视频引发舆论危机等。

趋势九：深度合成鉴别需求逐渐增大且难度提升

• 随着深度合成技术的成熟，伪造内容越来越逼真，传统生物特征鉴别方式难以应对。
• 学术界和产业界已开展大量反深伪检测技术研究，如基于人工智能的自动化检测、数字水印溯源技术等。

趋势十：深度合成治理监管机制逐步建立

• 各国通过立法、行业规范、技术标准等方式逐步建立治理机制，以应对深度合成技术带来的风险。
• 中国已出台多项管理规定，如《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定》等。

发展及治理建议

1. 加快推进法治建设，逐步完善配套法规政策

   • 强化法律对深度合成技术的规范，明确服务提供方和使用方的法律责任。
   • 鼓励制定针对深度合成技术的专门法律法规，提高监管的科学性与可操作性。

2. 倡导产研发展自律自治，健全常态化联动机制

   • 推动行业自律，制定标准、公约、指南等制度规范。
   • 建立平台间用户黑名单机制和危机应对联动机制，快速响应深度伪造内容的传播。

3. 加强检测相关技术研究，全面提升监测和处置能力

   • 引导学术界与产业界加强检测技术研究，推动技术迭代与升级。
   • 开展技术竞赛、科研项目等，提升深度合成内容的识别能力。

4. 加大宣传普及力度，加快形成全社会共同治理格局

   • 提高公众对深度合成技术的认知，引导其合理使用。
   • 推动公民参与监督，提高社会整体的防范意识。

5. 支持鼓励正向应用，促进深度合成技术持续健康发展

   • 在合规前提下，支持深度合成技术的创新应用。
   • 鼓励技术在帮助弱势群体、推动影视艺术发展等方向的应用。

研究机构与团队

• 清华大学人工智能研究院：依托清华大学优势学科，推动人工智能基础理论与关键技术的创新。
• 北京瑞莱智慧科技有限公司：提供安全、可靠、可解释的深度合成技术解决方案。
• 清华大学新传院智媒研究中心：聚焦智能媒体变革，推动跨学科研究。
• 国家工业信息安全发展研究中心：推动工业信息安全、人工智能、大数据等技术发展。

指导专家

• 沈昌祥（中国工程院院士）
• 张钣（中国科学院院士，清华大学人工智能研究院创始院长）
• 陈昌凤（清华大学新闻与传播学院教授、常务副院长）
• 朱军（清华大学计算机系教授，瑞莱智慧首席科学家）

总结

深度合成技术正以前所未有的速度发展，并在多个领域展现出广阔的应用前景。然而，其技术的双刃剑特性也引发了严重的社会风险。未来，深度合成技术将在技术发展、应用场景、伦理治理等方面持续演进，需要政府、企业、学术界和公众共同努力，构建安全、可信、可控的深度合成生态系统。