20250324-浙江大学-DeepSeek系列专题线上公开课(第二季)_从大模型_智能体到复杂AI应用系统的构建——以产业大脑为例_61页_12mb
报告摘要
浙江大学DeepSeek系列专题线上公开课(第二季)总结
核心内容
本次公开课围绕大模型、智能体和复杂AI应用系统的构建展开,重点以产业大脑为例,探讨了大模型推理能力的提升、智能体的定义与应用,以及如何通过大小模型协作构建更高效的智能体系统。
主要观点
大模型推理能力的提升
- 早期大模型的局限性:早期的大模型在推理能力上存在明显短板,例如易产生事实性幻觉,数学推理能力弱,多步推理不一致。
- 突破性进展:2023-2024年,大模型在推理能力上取得显著突破,如OpenAI的o1/o3和开源模型DeepSeek-R1在数学和代码推理任务上表现出色,准确率高达87.2%。
- 自动化思维链(CoT):新一代大模型通过生成思维链,实现更准确和深入的推理。这包括在测试时扩展、强化学习和蒸馏等技术。
智能体(AI Agent)的定义与功能
- 智能体的定义:智能体是能够自主执行任务、访问外部工具并进行推理的系统。它结合了大语言模型(LLM)的能力,同时具备记忆和工具调用功能。
- 智能体的功能:智能体可以进行任务拆解、规划、执行和生成响应。例如,可以撰写调研报告、自动回复邮件等。
- 智能体的架构:智能体由多个层次组成,包括模型、提示模板(Prompt Templates)、链(Chains)、智能体(Agent)和多智能体(Multi-Agent)。这些层次共同支持复杂任务的执行。
复杂AI应用系统的构建
- 以产业大脑为例:产业大脑是一个典型的复杂AI应用系统,结合了大模型和智能体技术,实现对多个任务的高效处理。
- 大小模型协作:大模型负责任务规划和决策,小模型负责任务执行。这种协作模式提高了系统的效率和准确性。
- 具体应用案例:如HuggingGPT,通过大模型规划任务,小模型执行具体任务(如图像生成、对象检测、图像分类等),最终生成完整的响应。
关键信息
大模型推理能力的提升
- 早期大模型在简单数值比较和多步推理上表现不佳。
- OpenAI的o1/o3和DeepSeek-R1在数学和代码推理任务上表现卓越。
- 推理模型通过测试时扩展、强化学习和蒸馏等技术不断提升推理能力。
智能体的定义与功能
- 智能体结合了LLM的能力,同时具备记忆和工具调用功能。
- 智能体可以执行复杂任务,如撰写调研报告、自动回复邮件等。
- 智能体的架构包括模型、提示模板、链、智能体和多智能体。
复杂AI应用系统的构建
- 产业大脑是复杂AI应用系统的代表,结合了大模型和智能体技术。
- 大小模型协作模式提高了系统的效率和准确性。
- HuggingGPT是大小模型协作的生成式智能体,通过大模型规划任务,小模型执行具体任务。
小结
- 大模型推理能力:早期大模型存在推理能力不足的问题,但通过技术进步,如CoT和测试时扩展,推理能力显著提升。
- 智能体:智能体是能够自主执行任务、访问外部工具的系统,结合了LLM的能力,同时具备记忆和工具调用功能。
- 复杂AI应用系统:通过大模型和智能体的结合,构建了如产业大脑和HuggingGPT等复杂应用系统,实现了高效的任务执行和响应生成。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载