腾讯研究院-AI生成内容发展报告2020：“深度合成”商业化元年（电子版）-2020.5-30页_502kb

AI生成内容发展报告2020总结

核心内容

“深度合成”（deep synthesis）是一种基于人工智能技术的合成内容技术，能够实现对文字、音乐、图像、语音、视频等的生成和修改。它不同于“深度伪造”（deep fake），后者带有偏见和污名化色彩，不能准确反映深度合成技术的广泛性和多样性。2020年被认为是深度合成技术的商业化元年，其在多个领域展现出巨大的应用潜力。

主要观点

1. 技术原理：深度合成依赖深度学习算法，如自动编码机和生成对抗网络（GAN）。这些技术使得合成内容越来越逼真，但视频合成的难度仍高于图像合成。
2. 技术分类：深度合成主要包括以下四种形式：
   • 人脸替换（face replacement）
   • 人脸再现（face re-enactment）
   • 人脸合成（face generation）
   • 语音合成（speech synthesis）
3. 技术发展趋势：
   • 技术演进迅速，商业化应用开始流行。
   • 多模态合成技术不断成熟，如结合语音识别、唇形搜索、语音合成等。
   • 全身合成和3D虚拟人技术成为新热点，如Digi Doug等。
4. 商业化应用：
   • 影视：用于后期制作、角色创作、数字复活等。
   • 娱乐：换脸应用、虚拟主播、虚拟歌手等。
   • 教育：制作生动的多媒体教学内容，增强互动性。
   • 通讯与社交：虚拟化身、实时互动等。
   • 电子商务：数字试穿、虚拟模特等。
   • 医疗：辅助失声患者发声、生成医学图像等。
   • 艺术：创造新形式的戏仿与讽刺内容。
   • 科研：合成数据打破数据壁垒，辅助AI模型训练。

关键信息

• 深度合成的挑战：技术滥用引发社会担忧，如色情合成、虚假信息传播、身份伪造等。
• 治理方式：
  • 法律方案：美国、欧盟等国家和地区已出台相关法律，限制深度合成的非法用途，但不完全禁止其应用。
  • 技术方案：包括鉴别技术、溯源技术，如数字水印、区块链等。
  • 行业自律：科技公司如谷歌、Facebook、腾讯等，通过构建数据集、举办挑战赛、开发检测工具等方式进行治理。
  • 公众教育：提高数字素养，培养批判性思维，增强公众对深度合成内容的分辨能力。
• 未来展望：深度合成技术将在更多领域产生正向影响，同时需通过法律、技术、行业和公众的多重治理，防止滥用，实现技术的健康发展。

十大误解澄清

1. 深度合成不仅限于AI换脸，还包括人脸再现、语音合成等。
2. 高质量深度合成内容仍需专业技能和工具，非普通人轻易制作。
3. 深度合成内容在社交媒体上并未失控，但色情视频是滥用重灾区。
4. 快速立法不是唯一有效方式，技术与行业自律同样重要。
5. 检测深度合成内容需依赖AI技术，而非生物特征测试。
6. “深度合成”与“深度伪造”不同，后者带有偏见，不科学。
7. 深度合成具有广泛的正向应用价值，如影视、教育、医疗、科研等。
8. 平台已采取措施，如检测工具和人工审核，应对深度合成滥用。
9. 深度合成并非被国外立法全面禁止，而是针对非法用途进行规范。
10. 深度合成不会彻底冲击媒体信任，但需要加强公众信息分辨能力。

结论

深度合成技术是人工智能发展到一定阶段的产物，具有广泛的应用潜力和正向价值。尽管存在滥用风险，但通过法律、技术、行业自律和公众教育的综合治理，可以最大程度减少其滥用可能性，同时发挥其在学习、创作、商用、科研等方面的优势。2020年成为深度合成商业化元年，未来将带来更多创新应用场景。

附录

• 腾讯研究院是腾讯公司设立的社会科学研究机构，致力于推动互联网产业的健康发展。
• 腾讯优图实验室是腾讯公司顶级人工智能实验室，专注于计算机视觉和AI技术的社会价值应用。