通信行业AI大时代系列报告之一(基础篇):大模型与算力共振,奇点时刻到来_47页_4mb
报告摘要
AI大时代系列报告之一(基础篇):大模型与算力共振,奇点时刻到来
核心内容
本报告聚焦于AI大模型与算力的协同发展,探讨了大模型技术的快速演进、算力需求的指数级增长以及中文大模型在办公生产力领域的应用突破。报告指出,AI正进入一个关键的发展阶段,即“奇点时刻”,这一时刻的来临标志着人工智能从实验室走向产业应用的加速进程。
主要观点
-
大模型的爆发与ChatGPT的引领作用
- 自2017年Transformer架构推出以来,自然语言处理技术取得显著进步,成为主流模型架构。
- 2022年11月,OpenAI发布ChatGPT,其用户增长速度远超历史任何一款应用,仅5天用户突破100万,2个月过亿。
- ChatGPT具备连续对话、上下文理解、质疑和意图捕捉等能力,推动AI技术的广泛应用和商业化进程。
- ChatGPT采用RLHF(人类反馈强化学习)技术,通过三阶段训练提升模型质量,包括监督学习、奖励模型训练和强化学习微调。
- OpenAI已推出付费订阅服务和API接口,标志着其正式进入商业变现阶段。
-
算力需求的指数级增长
- 从1950年至今,大模型参数与算力需求均呈现指数级增长。
- GPU是当前AI算力的主要选择,尤其在中国市场,GPU的搭载率接近90%。
- 英伟达作为GPU市场的主导者,其2023年一季度市占率达84%。
- 英伟达推出超级计算机DGX GH200,支持万亿参数AI大模型训练,提供线性可扩展性。
- 英伟达构建了包括CUDA平台、加速库、云服务在内的完整AI生态系统,成为AI时代的“卖水人”。
-
中文大模型的快速发展
- 国内外科技公司纷纷加入AI大模型竞争,百度、华为、阿里、商汤科技、科大讯飞等均推出大模型产品。
- 百度推出“文心一言”,具备更强的中文理解能力和多模态生成能力。
- 文心大模型基于BERT结构,融合知识图谱与多源数据,提升模型在不同任务上的表现。
- 百度构建了全面的模型尺寸体系,覆盖不同应用场景,同时推出了任务大模型与行业大模型,满足多样化需求。
-
AI应用与商业化落地
- AI大模型在内容创作、编程辅助、税务处理、语言学习等领域实现商业化落地,如GitHub Copilot、Keeper Tax、Duolingo等。
- 企业应用AI技术提升效率,如微软的Microsoft 365 Copilot,将AI融入办公场景,实现自动化和智能化。
关键信息
- 大模型技术:ChatGPT、GPT-4、ViT-22B、LLaMA、DALL·E、Codex等大模型在不同领域取得突破,参数规模呈指数级增长。
- 算力需求:全球算力规模预计到2025年将达3300EFLOPS,GPU作为主要算力载体,市场占有率高。
- 英伟达的AI生态:包括加速库(cuQuantum、cuOpt、CV-CUDA、Parabricks、cuLitho)、云服务(DGX Cloud)、推理平台(L4、L40、H100NVL)和胖树网络架构(SuperPOD)。
- 中文模型发展:百度文心一言、华为盘古大模型、阿里通义千问等在中文理解、多模态生成等方面表现突出。
- 商业化应用:AI在办公、内容创作、税务、语言学习等场景已实现商业化落地,提升生产力和用户体验。
相关公司
AI算力方向
- 服务器:浪潮信息、紫光股份
- 光模块:中际旭创、天孚通信、新易盛
AI应用方向
- OA应用:金山办公、万兴科技
- AI工具:微软Microsoft 365 Copilot、GitHub Copilot、Keeper Tax、Duolingo、Viable
风险提示
- AI技术迭代不及预期
- 商业化落地不及预期
- 政策推进力度不及预期
- 经济发展不及预期
- 产业链各方合作不及预期
图表目录
- 图表1:ChatGPT根据指示进行回复
- 图表2:ChatGPT可以实现的功能
- 图表3:ChatGPT用户访问量
- 图表4:2023年6月ChatGPT受众群体地区分布情况
- 图表5:各应用程序达到1亿用户所需时间
- 图表6:OpenAI发展历程与股东情况
- 图表7:ChatGPT模型原理
- 图表8:RLHF(人类反馈强化学习技术)训练模型技术原理
- 图表9:AIGC发展历程
- 图表10:2023年国内外发布的主要AI大模型梳理
- 图表11:OpenAI推出ChatGPT Plus订阅服务
- 图表12:文本生成图像模型
- 图表13:不同功能的语言模型
- 图表14:Codex语言模型示例
- 图表15:OpenAI API已在多个应用程序中应用
- 图表16:GitHub Copilot价格情况
- 图表17:KeeperTax价格情况
- 图表18:Viable价格情况
- 图表19:Duolingo的数据与算法工具示例
- 图表20:第一批ChatGPT Plugins合作伙伴
- 图表21:算力发展总体框架
- 图表22:1950-2022年机器学习训练参数变化情况
- 图表23:1950-2022年机器学习算力变化情况
- 图表24:2011-2022年GitHub AI项目数量情况
- 图表25:2010-2021年全球AI期刊论文发表数量
- 图表26:全球算力规模发展趋势
- 图表27:中国通用算力规模及预测
- 图表28:中国智能算力规模及预测
- 图表29:2020-2024年全球人工智能、数字化转型支出及GDP增长趋势预测
- 图表30:全球人工智能服务器GPU芯片搭载率
- 图表31:全球人工智能服务器ASIC芯片搭载率
- 图表32:全球人工智能服务器FPGA芯片搭载率
- 图表33:2022年中国人工智能芯片市场规模占比
- 图表34:英伟达建立了加速计算的良性循环
- 图表35:加速计算和人工智能将重塑计算机行业
- 图表36:英伟达推出超级计算机DGX GH200
- 图表37:英伟达Spectrum-X以太网平台
- 图表38:英伟达cuLitho加速库合作客户
- 图表39:用于量子电路仿真的加速库cuQuantum
- 图表40:英伟达cuOpt及客户
- 图表41:英伟达CV-CUDA平台
- 图表42:NVIDIA Parabricks医疗加速库
- 图表43:英伟达推出DGX Cloud
- 图表44:英伟达Nemo语言模型
- 图表45:英伟达Picasso视觉语言模型
- 图表46:NVIDIA全新推理平台
- 图表47:NVIDIA H100NVL性能情况
- 图表48:NVIDIA SuperPOD胖树拓扑网络结构
- 图表49:交换芯片技术演进路径
- 图表50:大模型的分类
- 图表51:百度发布“文心一言”
- 图表52:“文心一言”文学创作能力
- 图表53:“文心一言”数理逻辑推理能力
- 图表54:“文心一言”中文理解能力
- 图表55:“文心一言”多模态生成能力
- 图表56:百度人工智能全栈布局
- 图表57:ERNIE3.0文心大模型架构示意图
- 图表58:ERNIE3.0预训练数据集
- 图表59:全面的模型尺寸,覆盖不同场景需求
- 图表60:百度面向特定任务的大模型
- 图表61:百度面向特定领域的大模型
- 图表62:飞浆重点产品示意图
- 图表63:百度文心一格AI艺术与创意辅助平台
- 图表64:百度文心百中产业级搜索系统
- 图表65:商汤科技推出日日新大模型体系
- 图表66:商汤SenseChat 2.0大语言模型能力全面升级
- 图表67:商汤SenseMirage 3.0文生图大模型全面升级
- 图表68:华为云正式发布盘古大模型3.0
- 图表69:华为全栈核心技术
- 图表70:微软发布Microsoft 365 Copilot
- 图表71:Microsoft 365 Copilot技术原理
- 图表72:Copilot版Word使用示例
- 图表73:Copilot版Excel使用示例
- 图表74:Copilot版PPT,将Word文档转换为幻灯片
- 图表75:Copilot版PPT,为所有幻灯片生成演讲者备注
- 图表76:Copilot版Outlook,自动管理和回复邮件
- 图表77:Copilot版Teams,会议过程中提供会议信息
- 图表78:Copilot版Teams,会议结束后总结用户错过的内容
- 图表79:Copilot版BusinessChat使用示例,给予综合性答复
- 图表80:Microsoft Security Copilot的特点
- 图表81:Microsoft Security Copilot为微软各安全产品AI赋能
- 图表82:Microsoft Security Copilot基于GPT-4和微软安全专用模型
- 图表83:Microsoft Security Copilot集成了GPT-4和微软的安全能力
- 图表84:赋能安全团队以机器的速度来解决问题
- 图表85:Microsoft Security Copilot使用案例
- 图表86:相关公司业务情况
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载