20230415-国盛证券-通信_Dolly2.0发布-大模型开发加速器_2页_278kb

报告摘要：Dolly20发布与AIGC算力底座

核心事件

Databricks于2023年4月12日发布开源大语言模型Dolly20，包含120亿参数的代码、数据集和模型，开放商用。该模型受ChatGPT启发，通过高质量指令数据集复现其表现，标志着大模型开源商用的进展。

关键方法与挑战

• ChatGPT的核心技术包括基于人类反馈的强化学习（RLHF），涉及监督微调（SFT）、奖励模型训练和近端策略优化（PPO）微调，使用大规模人类标注数据集。
• Dolly20借鉴此方法，通过内部激励机制（如游戏比赛）调动员工创建15万条指令数据对，强调数据集质量提升而非增加模型参数，降低成本至不足1千美元。
• 开源模型如Alpaca和Koala依赖GPT家族数据，受限于版权，影响商用化，Dolly20提供新路径以推动高质量指令数据获取。

商用意义与算力底座

Dolly20的发布加速了ChatGPT复现，降低技术门槛，促进“每个中型公司拥有一个GPT”的愿景。AI应用爆发时代，算力作为基础设施具有战略价值。此前报告指出模型不如数据为关键障碍，算力底座支撑应用层扩展。

投资建议

推荐关注第三方IDC服务商（如光环新网、奥飞数据），光模块服务（新易盛、天孚通信），基础电信运营商（中国电信、中国移动），以及云计算平台（亚马逊、阿里）。风险包括AIGC技术发展和商业落地进度不达预期。

风险提示

AIGC技术商业化面临挑战，需警惕开发进度延迟。