通信行业深度:开源竞速,AI大模型的“Linux时刻”降临_26页_1mb
报告摘要
通信行业研究报告总结:AI大模型的“Linux时刻”降临
核心内容
本报告分析了AI大模型开源风潮的兴起及其对行业的影响,探讨了开源大模型的发展趋势、商业模式、技术特点及未来展望。报告指出,开源大模型正在改变AI大模型的竞争格局,降低了技术门槛,提高了模型的可定制性和可用性。
主要观点
-
开源大模型的兴起
- ChatGPT发布后,Meta开源LLaMA,引发一系列开源大模型的出现,如Alpaca、Vicuna、Koala等。
- 这些模型参数量普遍在十亿至百亿级别,相较于GPT-3等超大模型更易部署,成本更低。
-
开源大模型的商业模式
- 开源≠免费,存在多种商业模式,如红帽公司通过提供企业级服务实现盈利。
- 安卓系统通过广告和授权费实现商业化,为开源大模型提供了借鉴。
- 主流许可证(如Apache 2.0和MIT)支持商用,允许企业基于开源模型进行定制化开发。
-
开源大模型的性能与成本
- 开源大模型在部分任务上可达到GPT-4水平,如Vicuna在部分任务中达到92% GPT-4效果。
- 超大模型训练成本高,难以复现,而开源大模型通过技术手段(如DeepSpeed、RLHF)实现低成本高性能。
-
开源大模型的数据集与微调
- 数据集是模型训练的关键,开源大模型逐步自建指令数据集,以规避OpenAI的限制。
- 指令微调成为主流,提升模型对特定任务的适应能力,提高性价比。
-
未来趋势与投资建议
- 多模态融合成为趋势,助力通用人工智能(AGI)发展。
- 开源大模型与边缘计算结合,推动AI商用落地。
- 投资建议包括关注微软、英伟达、Meta等深度参与开源生态的企业,以及边缘算力、大数据公司和开源大模型服务商。
关键信息
-
开源大模型的共同点:
- 始于开源:开源不仅促进了技术共享,还推动了商业模式创新。
- 参数少、小型化:开源大模型参数量普遍在十亿至百亿级别,降低了算力需求。
- 重视人类指令数据集:通过引入人类指令数据集,提升模型的性能和实用性。
-
开源大模型的挑战:
- 与超大模型相比,开源大模型在整体性能上仍有差距。
- 商业化程度存在差异,部分模型受限于数据集来源。
-
技术发展:
- DeepSpeed、RLHF等技术帮助开源大模型实现高性能与低成本。
- 多模态模型如ImageBind、VisualGLM-6B、LLaVA等推动AI向通用智能发展。
-
投资建议:
- 短期内关注微软、英伟达、Meta等与大模型深度绑定的企业。
- 中长期关注边缘算力、大数据公司及开源大模型服务商。
- 建议关注智能模组服务商、边缘IDC服务商、光模块服务商、IoT通信芯片厂商及应用端标的。
风险提示
- 伦理风险:模型可能引发数据隐私和伦理问题。
- 市场竞争风险:开源大模型可能加速行业竞争,影响市场格局。
- 政策法律监管风险:开源模型的使用可能受到政策和法律的限制。
图表目录
- 图表1:谷歌工程师对大模型竞争格局的担忧
- 图表2:大模型发展树状图
- 图表3:部分开源大模型概况
- 图表4:中国服务器操作系统市场Linux市占率
- 图表5:Linux创始人发布的第一篇有关Linux的帖子
- 图表6:红帽公司部分产品及其定价
- 图表7:部分开源软件许可证
- 图表8:大模型训练和推理的一般流程
- 图表9:部分大模型的参数量
- 图表10:PaLM模型与先前模型在多项任务中的比较结果
- 图表11:开源大模型与OpenAIGPT系大模型能力对比
- 图表12:由GPT-4评估的回答质量
- 图表13:Zeno Build测评结果
- 图表14:C-Eval评估结果
- 图表15:部分开源大模型微调成本
- 图表16:Chinchilla五样本大型多任务语言理解测试结果
- 图表17:ChatGPT RLHF三步骤
- 图表18:部分开源大模型的预训练模型开源与商用情况
- 图表19:部分开源大模型指令数据集的开源与商用情况
- 图表20:ImageBind典型实例展示
- 图表21:医学知识图谱CMeKG片段示例
- 图表22:华驼大模型SUS评分实验结果
作者信息
-
分析师宋嘉吉
执业证书编号:S0680519010002
邮箱:songjiaji@gszq.com -
分析师孙爽
执业证书编号:S0680521050001
邮箱:sunshuang@gszq.com
相关研究
- 《通信:海外AI算力的新看点》2023-05-28
- 《通信:边缘计算——始于AI,赋能应用》2023-05-21
- 《通信:算力为王,中心、边缘齐发力》2023-05-21
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载