20180725-华泰证券-华泰人工智能系列之十二_人工智能选股之特征选择_25页_1mb

报告摘要

人工智能选股之特征选择总结

核心内容

本文探讨了人工智能选股中特征选择的重要性及其对模型预测效果的影响，重点分析了不同特征选择方法在多因子选股中的表现。特征选择是机器学习数据预处理的关键步骤，其核心目的是从原始特征中选出一组优质子集，以提升模型的学习和预测效果，同时减少时间开销，避免过拟合，并增强模型的可解释性。

主要观点

特征选择的重要性：
- 特征选择有助于提升模型预测能力和选股策略表现。
- 特征数量并非越多越好，模型预测效果会随着特征数量的增加先上升后下降，存在一个最佳特征数。
- 特征选择本质上是一种降维手段，有助于提升模型开发效率。
特征选择方法分类：
- 过滤式方法：使用统计指标（如F值、互信息、卡方等）进行特征选择，计算简便，效率高，适用于监督和非监督学习。
- 包裹式方法：以基学习器的性能为依据，进行特征子集优化，但计算成本较高。
- 嵌入式方法：在训练过程中自动完成特征选择，如Lasso回归和基于树模型的方法。
常用特征选择方法：
- F值：用于衡量特征与标签的关联度，适用于分类和回归模型。
- 互信息：捕捉特征与标签之间的任意统计依赖性，适用于分类和回归问题。
- FPR/FDR/FWE：基于假设检验的错误率控制方法，用于筛选特征。
- 基于L1正则化的方法：如Lasso回归和线性SVM，能够自动筛选出重要的特征。
- 基于树模型的方法：如随机森林，通过特征重要性评估进行筛选。
特征选择对模型的影响：
- 对于逻辑回归_6m和XGBoost_6m，特征数在50左右时模型AUC达到峰值。
- 对于XGBoost_72m，特征数增加后AUC先上升后趋于稳定。
- 入选特征主要集中在动量反转、换手率和波动率等类别。

关键信息

特征选择方法：
- 过滤式：使用F值、互信息、卡方等指标，适用于监督和非监督学习。
- 基于FPR/FDR/FWE：通过控制错误率来选择特征，FDR和FWE更为严格。
- 基于L1正则化：通过惩罚系数控制特征选择的严格程度。
- 基于树模型：通过特征重要性筛选特征，适用于分类和回归问题。
特征选择测试结果：
- 特征个数对模型AUC有显著影响，存在一个最佳特征数量。
- 在测试中，使用F值和互信息作为统计指标时，特征选择方法对模型有明显的提升效果。
- 入选频次较高的特征以价量类因子为主，如动量反转和换手率因子。
特征预处理：
- 中位数去极值、缺失值处理、行业市值中性化、标准化等步骤是特征选择前的重要预处理手段。
- 预处理后的特征更接近标准正态分布，有利于模型训练和预测。
回测结果：
- 使用逻辑回归_6m、XGBoost_6m和XGBoost_72m作为基学习器，特征选择方法显著提升了模型的预测效果。
- 以沪深300和中证500为基准，特征选择策略在全A股选股中表现优于单一基学习器。