金融工程专题研究_递归神经网络RNN-长短期记忆细胞_LSTM_的多因子预测_20页_1mb

报告摘要

证券研究报告总结：递归神经网络（RNN）与LSTM在多因子预测中的应用

核心内容概述

本报告探讨了递归神经网络（RNN）与长短期记忆网络（LSTM）在多因子选股模型中的应用，重点分析了LSTM的结构设计、训练过程以及在股票市场中的预测效果。通过结合时间序列数据与因子特征，LSTM模型在样本外回测中展现了良好的预测能力，尤其是在多空组合的超额收益方面。

主要观点

RNN与LSTM的差异
RNN通过循环结构处理时间序列数据，具备一定的记忆能力，但无法有效处理长时依赖问题。LSTM通过引入“门”机制（忘记门、输入门、输出门）解决这一问题，使得模型能够更有效地捕捉长期信息。
多因子建模与RNN的结合
多因子模型在RNN中的应用不同于传统模型，其时间维度为循环结构，将过去T-n期的因子数据纳入T+1期的预测中。因子作为特征，个股作为样本，时间序列作为输入。
模型训练与参数设定
- 训练集时间：2007年5月1日-2016年4月30日
- 测试集时间：2016年5月1日-2017年4月30日
- RNN时间长度（steps）：24个月
- 因子数：48个，来自10类常见风格因子
- 分类数：3类（上涨、下跌、中性），分别对应月收益率大于3%、小于-3%、介于-3%与3%之间
- batch size：1000
- 隐层神经元个数：400，2层
- 学习速率：0.0001
- 交叉检验比例：10%
训练结果与回测表现
- 样本内训练准确率接近90%，模型收敛良好
- 样本外回测显示多空组合的胜率超过90%，超额收益显著
- 通过调整选股标准为激活值最大组合，进一步提升了模型的预测效果

关键信息

LSTM结构特点

Forget Gate：决定是否遗忘细胞状态中的旧信息，公式为：
$$
f_t = \sigma(W_f \cdot [h_{t-1}, x_t] + b_f)
$$
Input Gate：控制新信息的输入，公式为：
$$
i_t = \sigma(W_i \cdot [h_{t-1}, x_t] + b_i)
$$
Cell Update：通过Forget Gate和Input Gate共同决定细胞状态的更新，公式为：
$$
C_t = f_t * C_{t-1} + i_t * \tilde{C}_t
$$
Output Gate：决定输出信息，公式为：
$$
o_t = \sigma(W_o \cdot [h_{t-1}, x_t] + b_o)
$$
$$
h_t = o_t * \tanh(C_t)
$$

LSTM的变体

Peephole Connection：门结构引入细胞状态信息，提升模型表达能力
Composite Forget and Input Gate：将忘记和输入门合并，简化模型结构
GRU：将Forget Gate与Input Gate合并为一个更新门，减少计算复杂度

多因子模型预测结果

样本内训练：准确率收敛于85%-90%，表现良好
样本外检验：多空组合胜率超过90%，超额收益显著
30%多空组合：累计净值表现优异，超额收益超过9%

因子权重分析

输入层因子权重绝对值之和（见图25）：
- HILO：67.36
- RSTR_1M：68.29
- RSTR_3M：54.78
- RSTR_6M：44.95
- RSTR_12M：46.41
- BETA：41.72
- LNCAP：50.11
- SIGMA：50.51
- HALPHA：54.58
- CETOP：50.97
- S_CFOG：50.66
- S_ROE：43.66
- S_ROA：43.77
- C_CFOG：51.51
- C_ROEG：42.88
- C_ROAG：41.71
- S_ProfitG：50.66
- T_ProfitG：51.99
- S_CFOG：55.52
- T_CFOG：55.90
- S_SalseG：45.89
- C_SalseG：43.07
- T_SalseG：46.03
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- LNCAP：50.11
- LNCAP：50.11
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48.05
- VOLBT：48.05
- BTOP：43.73
- STOP：42.20
- BTSG：48.45
- DELE：50.20
- EGRO：48.23
- SGRO：46.55
- AGRO：50.72
- DELE：50.20
- VERN：48.74
- EXTE：48.76
- VFLO：54.24
- ETOP：44.01
- CETOP：50.97
- LNCAP：50.11
- CMRA：50.20
- DTOA：44.89
- DTOAS：45.87
- BLEV：49.77
- CFTOP：50.66
- LPRI：48.13
- BETA：41.72
- SIGMA：50.51
- HALPHA：54.58
- STO_1M：47.94
- STO_6M：41.44
- S_GPM：44.45
- S_NPM：43.72
- S_CTP：52.39
- C_CTP：44.30
- T_CTP：48.04
- VOLS：48