金工深度研究-SAM:提升AI量化模型的泛化性能-241010-华泰证券-28页_2mb
报告摘要
AI量化模型:用SAM优化器提升泛化性能报告总结
本研究报告探讨了一种低成本、高通用性的正则化方法——Sharpness-Aware Minimization(SAM),用于提升AI量化模型的泛化性能。SAM优化器通过寻找“平坦极值点”来增强模型鲁棒性,区别于仅最小化损失函数的传统优化器(SGD、AdamW等)。
核心原理:
SAM优化器设计初衷是使模型在权重空间中找到一条平缓下降路径,同时最小化损失函数值及其邻域变化幅度。其改进版本通过自适应扰动半径、扰动方向优化、梯度垂直分量和全梯度分离等方式进一步提升性能,如ASAM(参数尺度自适应)、GSAM(扰动前后的梯度协同优化)、GAM(区分一阶和零阶平坦度)和FSAM(过滤全梯度的负面影响)。
实验设计与结果:
基于GRU量价因子模型进行对比实验,使用AdamW和若干SAM优化器版本。回测区间为2016-12-30至2024-09-30,结果显示:
- 验证集评价指标(如IC、IR)下降幅度较缓,训练终点值高于基线;
- 测试集损失函数值更低,地形更平坦;
- 预测因子多头端收益提升,指数增强组合年化超额收益在沪深300、中证500和中证1000组合中分别达到109%、151%和231%,信息比率显著优于基线模型(如GSAM综合表现最佳,2024年ASAM表现突出)。
风险与局限:
AI模型存在过拟合风险,且市场规律可能失效;深
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载