20170601-华泰证券-华泰人工智能系列之一_人工智能选股框架及经典算法简介_35页_2mb

报告摘要

人工智能选股框架及经典算法简介总结

核心内容

本文系统介绍了人工智能在投资领域的应用，特别是通过机器学习方法进行选股的框架和经典算法。重点阐述了机器学习的基本流程、模型选择与评价方法，并详细介绍了监督学习和无监督学习的主要算法，如线性回归、岭回归、Lasso回归、逻辑回归、支持向量机（SVM）、决策树、随机森林、K最近邻（KNN）等。同时，还涉及了聚类和降维等无监督学习方法，如K均值聚类、主成分分析（PCA）和Fisher线性判别法（FLD）。

主要观点

人工智能与机器学习不神秘
人工智能和机器学习本质上是基于数理模型的工具，结合控制论、认知心理学等学科成果，模拟人类的感知、推理、学习与决策。理解常用算法有助于消除误解，更好地应用于投资领域。
机器学习的目标是发现规律
机器学习通过分析数据，挖掘其内在的规律，无论是简单的数学关系（如勾股定理），还是复杂的模式（如股票涨跌与因子之间的关系）。
机器学习流程
机器学习通常遵循以下流程：数据获取、特征提取、数据转换、模型训练、模型选择、模型预测。其中，交互验证和模型评价是确保模型有效性和泛化能力的关键步骤。
监督学习与无监督学习的区别
- 监督学习：提供标签数据，用于预测或分类任务。如线性回归、逻辑回归、支持向量机、决策树等。
- 无监督学习：不提供标签，用于发现数据自身的结构，如聚类和降维。
模型评价指标
- 回归问题：使用均方误差（MSE）作为主要评价指标。
- 分类问题：使用正确率、精确率、命中率、虚报率、ROC曲线和AUC值等指标。
正则化方法
岭回归（L2正则化）和Lasso回归（L1正则化）通过引入惩罚项防止过拟合，Lasso回归能更有效地筛选出重要特征。
分类算法
- 逻辑回归：适用于二分类问题，通过引入Sigmoid函数确保预测概率在0到1之间。
- 线性判别分析（LDA）与二次判别分析（QDA）：适用于多分类问题，LDA假设各类别协方差相同，QDA则允许不同协方差。
- 支持向量机（SVM）：通过寻找最大间隔的超平面进行分类，引入核函数可解决非线性分类问题。
- 决策树：通过信息增益最大化选择分裂规则，适合非线性分类，但容易过拟合。
- 随机森林：基于Bagging方法，通过多棵决策树的集成提升预测效果。

关键信息

模型训练与验证：交互验证（如K折验证、留一法）用于防止过拟合，选择最优模型。
正则化：岭回归和Lasso回归通过惩罚项减少模型复杂度，提升泛化能力。
逻辑回归：通过Sigmoid函数将线性输出转换为概率，适用于分类任务。
支持向量机：使用核函数扩展维度，解决非线性分类问题，如异或问题。
决策树与随机森林：决策树通过分裂规则进行分类，随机森林通过行采样和列采样集成多个决策树，提升稳定性与预测能力。
模型评价：正确率、精确率、命中率、虚报率等指标用于评估分类模型，尤其在样本不均衡时，命中率更为重要。

机器学习基本流程

步骤	描述
数据获取	从数据库或网络爬虫获取大量、高质量的数据
特征提取	从原始数据中提取有信息量的特征
数据转换	处理缺失值、标准化、降维等
模型训练	使用合适的算法训练模型
模型选择	通过交互验证和评价指标选择最优模型
模型预测	使用训练好的模型对新数据进行预测

机器学习方法介绍

监督学习方法

线性回归
用于预测连续变量，如股票涨跌幅。通过最小二乘法估计系数，构建模型 $y = w_0 + w_1 x_1$。
岭回归与Lasso回归
岭回归（L2正则化）和Lasso回归（L1正则化）通过加入惩罚项防止过拟合。Lasso回归更倾向于选择稀疏特征。
逻辑回归
用于二分类问题，如预测股票涨跌。通过Sigmoid函数将线性输出转换为概率，模型形式为 $P(x) = \frac{e^{w_0 + w_1 x_1}}{1 + e^{w_0 + w_1 x_1}}$。
多分类逻辑回归
可通过有序多分类或OvR策略处理多分类问题，如预测股票上涨、下跌或震荡。
支持向量机（SVM）
使用超平面划分样本，引入核函数处理非线性问题。常用核函数包括线性核、多项式核和高斯核。
决策树
通过信息增益选择分裂规则，处理非数值特征，如板块风格。决策树的缺陷在于不稳定和容易过拟合。
随机森林
基于Bagging方法，集成多个决策树。通过行采样和列采样提升模型的泛化能力。