海外TMT行业中期策略:AI算法教学相长,顶级会议百舸争流-20180702-华安证券-22页-1mb
报告摘要
行业评级总结:增持
核心内容概述
本报告分析了2018年ICLR(国际深度学习会议)的行业趋势与技术进展,总结了人工智能领域的研究热点、技术突破以及硬件与平台发展。报告指出,人工智能已成为继移动互联网之后的新科技高地,深度学习的成功依赖于大数据、大模型和大计算的三大支柱。谷歌、DeepMind、Facebook、微软等科技巨头在ICLR中占据主导地位,展现了其在AI领域的强大影响力。
主要观点
-
谷歌与DeepMind主导ICLR
谷歌和DeepMind在ICLR 2018中合计贡献了会议总接收论文的20%,显示其在深度学习领域的绝对影响力。谷歌在优化算法、强化学习和语言模型等方面有大量研究,其中Adam算法及其变体AMSGrad被重点讨论,后者旨在解决Adam算法在某些情况下无法收敛的问题。 -
强化学习与语言模型成为研究热点
强化学习是今年的研究重点,有约20篇论文围绕此展开。此外,与语言相关的论文也有22篇,涵盖语言演进、翻译、阅读理解等方向。谷歌、DeepMind和Facebook均在该领域有所突破。 -
大模型、大计算、大数据推动深度学习发展
深度学习的成功得益于三大要素:大数据、大模型和大计算。随着硬件技术的提升(如GPU、FPGA、TPU),训练复杂模型成为可能,同时深度学习平台也逐步完善,为行业发展提供了坚实基础。 -
高校研究推动创新
在科技巨头之外,高校也在深度学习领域展现出创新能力。例如,提出了球形CNN模型,以应对球形图像处理的需求;同时,基于梯度的元学习方法(如MAML)在动态和竞争环境下展现出良好的适应性。 -
AI平台与硬件协同发展
多家科技公司开源了深度学习平台,如TensorFlow、DMTK、Torch7、PaddlePaddle等,为AI研究和应用提供了技术支持。同时,硬件芯片(如TPU)的发展为大计算需求提供了更高效的解决方案。
关键信息总结
1. ICLR 2018论文分布
- 谷歌和DeepMind合计贡献了20%的接收论文,显示其在深度学习领域占据主导地位。
- 强化学习相关论文约20篇,语言模型相关论文22篇。
- 有三篇论文获得了最佳论文奖,分别是《Spherical CNNs》、《On the Convergence of Adam and Beyond》以及《Learning to Teach》。
2. 技术进展
- 优化算法:Adam算法因指数移动平均值问题导致无法收敛,AMSGrad作为改进版本解决了该问题。
- 学习教学(L2T):微软提出了一种让机器学会自动化教学的方法,提升了模型性能与数据利用率。
- 多比特量化压缩:阿里巴巴的研究展示了如何通过量化技术减少内存消耗和计算时间,同时保持模型性能。
- 球形CNN:一种新型卷积神经网络,用于处理球形数据,满足旋转不变性要求。
- 元学习:基于梯度的元学习方法(如MAML)用于动态和竞争环境下的连续适应,提升了智能体的性能。
3. 硬件与计算平台
- 计算硬件:从CPU到GPU、FPGA,再到专用芯片(如TPU),计算资源日益丰富。
- 深度学习平台:TensorFlow、DMTK、Torch7、PaddlePaddle等平台被广泛采用,推动AI研究与应用。
- 硬件性能:FPGA在数据吞吐量方面优于CPU和GPU,适合特定计算任务。
4. AI行业前景
- 人工智能已成为行业风向标,是继移动互联网之后的重要科技领域。
- 大数据、大模型和大计算的结合将推动AI向更高层次发展,软技术公司(如谷歌)在AI主流方向上占据优势,而电商和社交巨头则专注于垂直领域。
投资评级说明
- 增持:未来6-12个月的投资收益率预计领先沪深300指数5%至15%。
- 行业及公司评级体系:
- 买入:收益率领先市场15%以上;
- 增持:收益率领先市场5%至15%;
- 中性:收益率与市场变动幅度在-5%至5%之间;
- 减持:收益率落后市场5%至15%;
- 卖出:收益率落后市场15%以上;
- 无评级:因信息不充分或不确定性事件无法给出明确评级。
信息披露与免责声明
- 本报告基于市场公开信息,分析师承诺独立、客观,不保证数据的准确性或完整性。
- 报告内容仅供参考,不构成具体投资建议。
- 未经华安证券研究所书面授权,不得以任何形式转载或复制本报告内容。
试读结束,高清完整版pdf/doc/ppt,请点下载