华泰人工智能系列之三十六：相对生成对抗网络RGAN实证-20200922-华泰证券-38页_2mb

金工研究：相对生成对抗网络RGAN与RaGAN实证分析总结

核心内容

本文是华泰金工关于生成对抗网络（GAN）系列研究的第三篇，重点分析相对生成对抗网络（RGAN）及其改进形式RaGAN在金融时间序列生成中的应用效果。通过引入相对损失函数和相对判别器，RGAN在训练稳定性、生成数据真实性等方面表现出优于传统GAN的优势。RaGAN则在RGAN基础上进行优化，通过平均基准样本的判别器输出，进一步降低训练过程中的梯度随机性。

主要观点

• RGAN的优势：RGAN通过引入相对判别器和相对损失函数，使得生成器能够同时影响真假样本的判定结果，从而提高训练的稳定性和生成数据的真实性。相比原始GAN，RGAN在长时程相关性等金融数据特征的复现上表现更优。
• RaGAN的优化：RaGAN通过平均基准样本的原始输出，减少梯度随机性，同时保持算法的时间复杂度不变，因此在实践中更为常用。
• SGAN的缺陷：SGAN的生成器无法影响真样本的判定结果，导致判别器缺乏“输入样本一半为假”的先验知识，且无法有效最小化JS散度，最终影响训练效果和生成质量。
• 理论与实践结合：本文不仅从理论上分析了GAN的损失函数和训练机制，还通过实证对比，验证了RGAN和RaGAN在金融时间序列模拟中的有效性。

关键信息

RGAN的定义与原理

• 相对损失函数：RGAN将原始GAN的绝对损失函数改为相对损失函数，通过比较真假样本之间的差异来判定其真实性。
• 相对判别器：判别器以真假样本对为输入，计算其中一个样本比另一个更真实的可能性，从而提高模型的稳健性。
• 损失函数表达式：
  • 判别器损失函数：
    $$
    L_D^{RGAN} = \mathbb{E}_{(x_r, x_f)\sim(\mathbb{P}_r, \mathbb{P}_f)} \left[ \widetilde{f}1 \left(a\left(C(x_r) - C(x_f)\right)\right) \right] + \mathbb{E}{(x_r, x_f)\sim(\mathbb{P}_r, \mathbb{P}_f)} \left[ \widetilde{f}_2 \left(a\left(C(x_f) - C(x_r)\right)\right) \right]
    $$
  • 生成器损失函数：
    $$
    L_G^{RGAN} = \mathbb{E}_{(x_r, x_f)\sim(\mathbb{P}_r, \mathbb{P}_f)} \left[ \widetilde{g}1 \left(a\left(C(x_r) - C(x_f)\right)\right) \right] + \mathbb{E}{(x_r, x_f)\sim(\mathbb{P}_r, \mathbb{P}_f)} \left[ \widetilde{g}_2 \left(a\left(C(x_f) - C(x_r)\right)\right) \right]
    $$

RaGAN的定义与原理

• 相对平均损失函数：RaGAN在RGAN基础上对基准样本的判别器输出进行平均，从而降低梯度随机性。
• 损失函数表达式：
  • 判别器损失函数：
    $$
    L_D^{RaGAN} = \mathbb{E}_{x_r \sim \mathbb{P}_r} \left[ \widetilde{f}1 \left(a\left(C(x_r) - \overline{C(x_f)}\right)\right) \right] + \mathbb{E}{x_f \sim \mathbb{P}_f} \left[ \widetilde{f}_2 \left(a\left(C(x_f) - \overline{C(x_r)}\right)\right) \right]
    $$
  • 生成器损失函数：
    $$
    L_G^{RaGAN} = \mathbb{E}_{x_r \sim \mathbb{P}_r} \left[ \widetilde{g}1 \left(a\left(C(x_r) - \overline{C(x_f)}\right)\right) \right] + \mathbb{E}{x_f \sim \mathbb{P}_f} \left[ \widetilde{g}_2 \left(a\left(C(x_f) - \overline{C(x_r)}\right)\right) \right]
    $$

实证结果

• 上证综指日频数据：RSGAN和RaSGAN在长时程相关性、Hurst值、方差比率等指标上均优于SGAN。
• 标普500月频数据：RaSGAN和RaLSGAN等在多个评价指标上表现优于LSGAN和HingeGAN。
• 总体表现：在大多数场景下，RGAN和RaGAN相较于传统GAN有显著提升，特别是在捕捉真实数据特征方面。

损失函数梯度分析

• SGAN的梯度问题：SGAN的生成器无法改变真样本的判别结果，导致判别器对真样本的关注逐渐减少，最终影响训练效果。
• RGAN与RaGAN的优势：通过引入相对损失函数，生成器能够影响整个损失函数，使判别器在训练过程中保持对真实数据的关注，从而提升模型的稳定性。

GAN分类与损失函数

• 广义GAN定义：生成器和判别器可以有不同的损失函数，根据损失函数类型分为饱和GAN和非饱和GAN。
• SGAN的损失函数：采用交叉熵损失函数，判别器输出范围为[0,1]，生成器仅影响假样本被判定为真的概率。
• 基于IPM的GAN：如WGAN，采用积分概率测度作为损失函数，有助于避免梯度爆炸，提升模型性能。

风险提示

• RGAN生成的虚假序列是对市场规律的探索，不构成投资建议。
• RGAN模型可能存在黑箱问题、训练不收敛、模式崩溃等风险。
• 深度学习模型存在过拟合风险，且依赖历史数据，若市场规律发生变化，模型可能失效。

结构清晰要点

文章结构

• 相关研究：包括《金工：行业配置策略：趋势追踪视角》《金工：WGAN应用于金融时间序列生成》《金工：再探AlphaNet：结构和特征优化》
• 正文目录：
  • SGAN的缺陷
  • 广义GAN
  • 判别器的先验知识
  • 最小化JS散度
  • 梯度分析
  • 积分概率测度IPM及基于IPM的GAN
  • 损失函数梯度对比
  • RGAN的定义
  • RGAN的算法伪代码
  • RaGAN的定义
  • RaGAN的算法伪代码
  • 方法
  • RGAN测试结果
  • RaLSGAN与LSGAN、RaHingeGAN与HingeGAN对比结果
  • 总结与讨论
  • 参考文献
  • 风险提示
  • 附录

图表目录

• 图表1：GAN损失函数计算流程
• 图表2：GAN的分类
• 图表3：SGAN生成器理想训练过程
• 图表4：真假样本的判别器输出随网络训练时间的变化
• 图表5：真样本被判定为真实的概率不下降的缺陷
• 图表6：相对与绝对判别器输出对比图
• 图表7：RGAN算法伪代码
• 图表8：RaGAN算法伪代码
• 图表9：GAN训练数据集
• 图表10：各种GAN模型的区别
• 图表11：各种损失函数对比
• 图表12：生成器G网络结构
• 图表13：判别器D网络结构
• 图表14：9项生成虚假序列评价指标
• 图表15-48：RGAN与RaGAN在上证综指和标普500数据集上的测试结果

总结

RGAN和RaGAN作为GAN的重要变体，在金融时间序列生成中展现出优于传统GAN的优势。RGAN通过相对判别器和相对损失函数，使生成器能够影响整个损失函数，提升训练稳定性。RaGAN在RGAN基础上引入平均机制，进一步减少梯度随机性，同时保持算法效率。实证结果显示，RGAN和RaGAN在多个关键指标上优于SGAN、LSGAN、HingeGAN等传统模型，尤其在长时程相关性和Hurst值等金融特征上表现更优。然而，模型仍存在一定的风险，如黑箱问题、模式崩溃等，需谨慎使用。