通信行业深度：开源竞速，AI大模型的“Linux时刻”降临-20230531-国盛证券-27页_1mb

报告摘要

通信：AI大模型的“Linux时刻”降临

核心内容

本报告分析了AI大模型领域中开源风潮的兴起及其对行业格局的影响。在ChatGPT发布后，Meta开源了LLaMA，随后Alpaca、Vicuna、Koala等多个开源大语言模型相继出现，这些模型在参数量、性能和商用化方面展现出显著优势，引发行业对开源大模型竞争力的广泛讨论。

主要观点

开源的三大共同点

始于开源
- 开源不是免费，而是推动大模型发展的商业模式，如服务变现、授权费变现等。
- 开源许可证（如Apache 2.0和MIT）支持商用，允许用户修改模型后闭源，有利于商业应用。
- Linux的发展史为开源大模型提供了参考，其通过社区协作和标准制定推动了生态繁荣。
参数少、小型化
- 开源大模型普遍参数量在十亿至百亿级别，相较于GPT3+千亿参数的超大模型，参数量更小，训练成本更低。
- 小型化大模型在推理成本和部署灵活性方面更具优势，如可在消费级GPU上运行。
- 技术如DeepSpeed和RLHF帮助开源大模型实现高性能和低成本。
重视人类指令，走向商用
- 指令数据集是提升模型性能的关键，如ChatGPT使用RLHF（基于人类反馈的强化学习）技术。
- 部分开源模型已建立自有的指令数据集，不再依赖OpenAI的数据，从而实现商用化。
- 预训练数据集的开源与商用化推动了更多模型的开发和应用。

投资建议

短期关注：OpenAI的GPT系超大模型仍具领先优势，建议关注与其深度合作的微软、获得ChatGPT App收入分成的苹果，以及算力服务商英伟达。
中长期展望：随着开源大模型能力的进一步验证，其在算力需求上的正循环效应将显现，有望推动AI商用落地。
其他关注点：
- 智能模组服务商：美格智能、广和通
- 边缘IDC服务商：龙宇股份、网宿科技
- 光模块服务商：中际旭创、新易盛、天孚通信、源杰科技
- 传统IoT通信芯片厂商：中兴通讯、工业富联、翱捷科技、初灵信息
- 应用端：恺英网络、神州泰岳、佳讯飞鸿、中科金财等

风险提示

伦理风险：模型可能引发数据隐私、算法偏见等问题。
市场竞争风险：开源大模型快速崛起，可能对闭源模型形成替代压力。
政策法律监管风险：数据和模型的商用化可能面临法律和监管挑战。

关键信息

模型表现：Vicuna在部分任务上达到92% GPT4的效果，但整体仍无法与GPT系模型媲美。
算力成本：训练GPT-3需要约6000张英伟达A100显卡，成本高达10亿元，而开源模型如Alpaca、Koala的微调成本在600美元以下。
数据集：部分开源大模型使用自建指令数据集，如Dolly2.0、RedPajama和MOSS，以实现商用化。
多模态趋势：开源大模型正向多模态发展，如ImageBind、VisualGLM-6B、LLaVA和MiniGPT-4，融合图像、音频、文本等多种数据模态。

未来展望

多模态化：推动通用人工智能（AGI）发展，如ImageBind支持六种模态，LLaVA在多模态任务上表现接近GPT-4。
专业化：下游生态对特定任务进行微调，提升模型在具体场景中的表现。
边缘计算：结合开源模型和边缘算力，推动AI在实际场景中的落地应用，如医疗问诊模型“华驼”和跨境电商应用。

相关研究

《通信：海外AI算力的新看点》
《通信：边缘计算——始于AI，赋能应用》
《通信：算力为王，中心、边缘齐发力》

图表目录

图表1：谷歌工程师对大模型竞争格局的担忧
图表2：大模型发展树状图
图表3：部分开源大模型概况
图表4：2021年中国服务器操作系统市场Linux市占率
图表5：Linux创始人发布的第一篇有关Linux的帖子
图表6：红帽公司的部分产品及其定价
图表7：部分开源软件许可证
图表8：大模型训练和推理的一般流程
图表9：部分大模型的参数量
图表10：PaLM模型与先前模型在多项任务中的比较结果
图表11：开源大模型与OpenAIGPT系大模型能力对比
图表12：由GPT-4评估的回答质量
图表13：Zeno Build测评结果
图表14：C-Eval评估结果
图表15：部分开源大模型微调成本
图表16：Chinchilla五样本大型多任务语言理解测试结果
图表17：ChatGPT RLHF三步骤
图表18：部分开源大模型的预训练模型开源与商用情况
图表19：部分开源大模型指令数据集的开源与商用情况
图表20：ImageBind典型实例展示
图表21：医学知识图谱CMeKG片段示例
图表22：华驼大模型 SUS 评分实验结果

展开完整摘要

试读结束，高清完整版pdf/doc/ppt,请点下载