20230804-德邦证券-德邦金工文献精译第十二期_了解GPT_应用篇_17页_2mb

核心观点：

1. 微软Build 2023大会，OpenAI创始人 Andrej Karpathy 发布了“State of GPT”演讲，重点介绍了大模型的应用。
2. GPT的认知基础是标记序列，应用中需理解其缺陷，并通过提示工程、检索增强、约束提示、微调等方法提升性能。
3. 当前大模型领域竞争加剧，Llama2、ChatGLM2等新一代模型发布，大型应用如GitHub Copilot、BloombergGPT在办公和金融等领域成熟。

重点工作：

1. 应用提醒：

   • 使用“提示”导向：少样本提示、零样本提示、逐步思考。
   • 提示GPT复核：类比人类思维的系统一/系统二模式。
   • 推荐工具和插件：计算器、JSON输出等。
   • 微调和RLHF：监督微调不如RLHF。

2. 最新语言模型：

   • Llama2：参数版本多样，上下文扩展至4096 tokens。
   • ChatGLM2：结合中国速度优势。
   • Claude2、Bard、新开源模型竞争激烈。

3. 应用场景：

   • GitHubCopilot、NewBing、Microsoft365Copilot、WPSAI、BloombergGPT: 提升办公和金融生产力。
   • ChatGPT 插件：PortfolioPilot、LinkReader、AFinChat等支持股票分析、文档处理、财务组合优化。

风险提示：

• 数据不完整、模型滥用、算法偏见、安全问题。
• 不适用于高风险场景，需人机协同。