2021-09-21-埃森哲-Flipping_the_script_on_deepfake_technologies_17页_1mb

《Real Value: Generative Adversarial Networks and Their Potential》

核心内容

本文探讨了生成对抗网络（GANs）在多个行业中的潜在价值，而不仅仅是其在深度伪造（deepfakes）中的负面影响。通过分析多个实际案例，文章展示了GANs在产品开发、AI训练、医疗数据隐私、艺术创作以及社会应用中的应用潜力。同时，也强调了企业在使用这些技术时应承担的伦理责任，并提出了应对恶意使用GANs的策略。

主要观点

GANs 的基本原理

• GANs 是一种机器学习框架，包含两个神经网络：生成器（Generator）和评估器（Evaluator）。
• 生成器试图生成欺骗评估器的合成数据，评估器则尝试区分真实与合成数据。
• 两者的竞争过程持续进行，直到生成器能够生成足够逼真的数据。

GANs 在深度伪造中的应用

• 深度伪造技术已广泛应用于娱乐、媒体和政治领域，例如生成逼真的视频，使人物说出从未说过的话。
• 由于技术门槛降低，DIY 深度伪造变得越来越容易，甚至有自学者完成相关项目。
• 该技术引发了社会对安全、隐私和信任的担忧，如美国国防部将其视为国家安全问题。

GANs 在企业中的价值

产品开发

• 在消费品行业，GANs 可用于生成合成数据，加速新产品配方的测试过程。
• 通过模拟不同成分组合的效果，帮助企业发现创新配方。

AI 训练

• GANs 可用于训练语音识别和图像识别系统，尤其是在数据稀缺或未标记的情况下。
• 例如，Facebook 的 Wav2vec-U 使用 GANs 训练语音识别模型，显著提升准确性。

医疗数据隐私

• 在医疗行业，GANs 可生成合成数据集，保留原始数据的统计特性，同时避免隐私泄露。
• 这有助于在合规的前提下进行数据分析和建模，促进跨组织的数据共享与合作。

艺术与内容创作

• GANs 可用于艺术增强，如生成特定风格的图像或视频。
• 例如，“Malaria Must Die”活动利用深度伪造技术，使 David Beckham 出现在多语言版本的公益广告中。
• 未来可能实现完全合成的影视内容，包括虚拟演员和数字复原的名人形象。

关键信息

技术应用案例

• 产品开发：通过生成合成数据加速配方测试。
• AI 训练：使用未标记数据训练语音识别系统。
• 医疗数据：生成合成数据以保护患者隐私。
• 艺术创作：生成不同风格的图像和视频，甚至数字复原已故艺术家。

伦理与责任

• 企业需在使用 GANs 时考虑伦理问题，尤其是在涉及真实人物的合成内容时。
• 需要明确技术用途，例如用于合成数据以保护隐私，或用于误导性内容（如深度伪造）。
• 随着技术发展，如何确保合成内容的真实性与透明度成为关键议题。

应对恶意使用

• 企业需警惕恶意使用 GANs 的风险，如语音诈骗、虚假视频传播等。
• Accenture 的 Cyber Lab 开发了深度伪造检测技术，结合多种 AI 模型识别伪造内容。
• 研究人员还尝试追踪伪造内容的来源，以识别其生成模型。

未来展望

• GANs 技术将继续发展，其在内容创作和社会应用中的潜力巨大。
• 企业应积极利用 GANs 的价值，同时制定伦理规范和检测机制以应对潜在风险。
• 多方合作与知识共享是解决深度伪造问题的关键，而不是将责任推给他人。

行动建议

• 企业应探索 GANs 在自身业务中的应用，如生成合成数据、增强内容创作等。
• 在开发过程中需考虑隐私保护、伦理规范和透明度。
• 建立深度伪造检测和溯源机制，以应对恶意使用带来的挑战。

联系信息

• Marc Carrel-Billiard
  Accenture Technology Innovation and Accenture Labs
  Email: marc.carrel-billiard@accenture.com

• Edy Liongosari
  Growth and Strategy Lead, Accenture Technology Innovation
  Email: edy.s.liongosari@accenture.com

参考资料

1. https://www.wsj.com/articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402
2. https://github.com/sentdex/GANTheftAuto/
3. https://www.theguardian.com/news/shortcuts/2019/aug/13/danger-deepfakes-viral-video-bill-hader-tom-cruise
4. https://www.c4isnet.com/information-warfare/2019/08/29/how-the-pentagon-is-tackling-deepfakes-as-a-national-security-problem/
5. https://www.globenewswire.com/news-release/2020/12/03/2139202/0/en/Digital-Domain-Adds-Decades-to-David-Beckham-for-New-Malaria-Must-Die-Campaign.html
6. https://www.youtube.com/watch?v=GIM8xPotAkg
7. https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1623335154975&uri=CELEX%3A52021PC0206
8. https://www.theverge.com/2019/5/10/18540953/salvador-dali-lives-deepfake-museum
9. https://www.ai.facebook.com/blog/reverse-engineering-generative-model-from-a-single-deepfake-image/