深度报告-20221219-国金证券-计算机行业研究_深度学习算法发展_从多样到统一_17页_2mb

计算机行业深度研究报告总结

核心内容

本报告围绕深度学习算法的演进历程展开，分析了其在人工智能领域的发展阶段及未来趋势。深度学习的三要素包括算法、数据和算力，其中算法演进是关键驱动力。

主要观点

1. 神经网络发展阶段划分

   • 浅层神经网络阶段：以感知机和多层感知机为代表，受限于激活函数和算力问题，应用效果不佳。
   • 深度学习阶段：2011年ReLU激活函数的提出缓解了梯度消失问题，开启了深度学习时代，2017年Transformer的提出统一了多模态和多任务的底层算法。

2. 算法演进的关键节点

   • 1958年：感知机提出，是神经网络的起点。
   • 1980年代：多层感知机引入隐藏层，解决多元分类问题。
   • 1986年：BP算法的提出，使神经网络训练成为可能。
   • 2006年：Hinton提出逐层无监督方法，为深度学习铺路。
   • 2011年：ReLU激活函数提出，深度学习进入快速发展阶段。
   • 2012年：AlexNet模型提出，确立了深度学习训练范式。
   • 2017年：Transformer模型提出，开启大模型时代。
   • 2020年：Vision Transformer（ViT）提出，开启多模态时代。

3. Transformer的优势与局限

   • Transformer通过注意力机制，能够并行处理大数据，提升训练效率。
   • 其统一了图像识别、自然语言处理等任务的底层算法，推动了多模态应用的发展。
   • 但其缺乏平移不变性和局部感知性，需要更大的训练样本。

4. 当前行业发展趋势

   • 底层算法发展放缓，行业重点转向数据无监督学习、高算力芯片和应用落地。
   • 基于Transformer的分支网络创新，如扩散模型（AIGC）和强化学习（ChatGPT），成为当前热点。

关键信息

• 深度学习的三要素：算法、数据、算力。
• Relu激活函数：2011年提出，解决了梯度消失问题，推动深度学习发展。
• Transformer架构：2017年提出，统一了多模态和多任务的底层算法，开启大模型和多模态时代。
• ViT模型：2020年提出，将图像视为文本处理，提升多模态任务能力。
• AIGC与ChatGPT：基于Transformer的创新应用，如DALL-E2和InstructGPT，代表了算法与应用的融合。

投资建议

• 推荐公司：
  • 商业化能力强的公司：海康威视、大华股份、科大讯飞、中科创达、商汤科技、四维图新、虹软科技等。
  • 提供大算力AI芯片的公司：海光信息、寒武纪等。

风险提示

1. 海外基础软硬件使用受限：若高算力GPU等硬件受限，可能影响国内AI应用。
2. 骨干网络创新放缓：Transformer作为当前主流架构，其创新速度减缓，可能影响技术突破。
3. 应用落地不及预期：若相关公司无法找到合适的商业化场景，或客户付费意愿不足，可能影响行业增长。

行业评级说明

• 买入：预期未来3-6个月内行业上涨幅度超过大盘15%以上。
• 增持：预期未来3-6个月内行业上涨幅度超过大盘5%-15%。
• 中性：预期未来3-6个月内行业变动幅度与大盘相近。
• 减持：预期未来3-6个月内行业下跌幅度超过大盘5%以上。

投资评级说明

• 买入：预期未来6-12个月内个股上涨幅度超过15%。
• 增持：预期未来6-12个月内个股上涨幅度在5%-15%。
• 中性：预期未来6-12个月内个股变动幅度在-5%-5%。
• 减持：预期未来6-12个月内个股下跌幅度超过5%。

结论

深度学习算法的发展经历了从浅层神经网络到深度学习的转变，随后由Transformer统一底层架构，进入大模型和多模态时代。当前，算法创新放缓，行业重点转向数据和算力的提升。建议投资者关注具备商业化能力的AI公司及提供高算力芯片的企业，同时需警惕海外技术受限、骨干网络创新放缓及应用落地不及预期等风险。