360（张锋）_智能纽带_AI+Agent在解决大模型+应用难题中的关键作用_34页_7mb

讲师简介

张锋是360人工智能研究院认知引擎负责人，天津大学硕士毕业后加入华为，从事计费产品研发、设计和项目管理，并主导参数AI Lab建设，负责大数据、推荐和建模平台的规划建设及落地。推荐平台在四川电信成功落地，显著提升了用户观看时长，大数据平台作为标准化产品，已在全国数百个据点部署，成为部门主要现金流来源。2018年加入360公司后，专注于人工智能在互联网、物联网、数字化等领域的实际落地，带领团队主导360大模型的数据、训练、推理及应用工作，并参与建模、推荐、知识图谱等平台的设计与开发。相关成果广泛应用于360集团全量业务场景，支持千万级硬件设备和亿级用户。现为奇虎360 AI研究院技术总监。

LLM落地应用及AGI发展回顾

LLM能力长板与短板

大模型应用优势（搜、读、写、画）

• 写作：Jasper、Copy AI、Quillbot。
• 绘画：Canva AI、ClipDrop、Pika。
• 搜索：New Bing、Perplexity、You、Phind。
• 阅读：Chat Doc、Ask PDF。
  LLM能够高效完成创意类任务，如写诗、解题，但企业实际场景更关注流程优化、报告撰写和邮件处理。

LLM应用短板

1. 幻觉问题：模型生成内容可信度低，尤其知识问答场景。
2. 记忆与行业知识：缺乏对特定场景的深入理解，无法解决复杂行业问题。
3. 提示词工程难度：非技术员工难以掌握提示词编写技巧。
4. 与现有系统的协同：企业不愿推翻现有IT基础设施，需模型与系统协同而非替代。

解决方案：长短期记忆、接口对齐与任务规划

• 任务规划：将复杂任务拆解为子步骤，结合外部工具实现多步执行。
• 长期记忆：借助外部向量数据库，实现信息的高效存储与检索。
• 接口对齐：通过FunctionCall实现模型与外部系统无缝对接，降低开发门槛。

AI Agent架构与架构演进

核心组件

• LLM大脑：作为核心控制器，支持模型一键适配和Prompt模板优化。
• 任务规划：ReAct框架，通过问题分解与外部工具调用提升推理能力。
• 工具箱：涵盖搜索、文档处理、数据查询等，拓展模型能力边界。
• 记忆机制：短期记忆（STM）利用上下文学习，长期记忆（LTM）依赖向量数据库。

性能优化

• 任务分解能力：自动编排技术适用于简单任务；复杂任务需人工辅助规划。
• FunctionCall：模型通过JSON格式调用外部API，提升执行精准度。
• 多模态感知：支持图像、视频、代码等多种数据交互，增强场景适应性。

AI Agent行业案例与落地实践

业界进展

• GPT智能体：支持记忆和API调用，实现个性化智能应用开发。
• 微软Copilot：基于Agent框架，在办公自动化、数据分析等领域落地，如自动查账单。
• AutoGPT、Generative Agents：推动Agent自主决策与交互，模拟人类社会行为。
• HuggingGPT：通过工具调用实现任务规划与多模型协作。

360Agent实践

• 四大核心场景：涵盖搜索、读写、分析、创作，如AI Copilot、写作助手、文档解析工具。
• FunctionCall搜索增强：直接调用API获取实时数据，替代传统模糊搜索。
• 论文分析助手：基于结构化阅读框架，提炼论文核心内容与FAQ，提升效率。
• 写作Agent：分解任务，自动组合产品信息、目标用户数据，生成文案。
• 数字员工案例：如旅游规划师、IT运维助理，支持跨领域复杂任务。

AI Agent未来展望

技术趋势

• 多模态Agent：整合图像、视频、代码等多维交互，提升感知能力。
• 万物皆可Agent：通过分布式系统实现自主决策与自组织，拓展应用场景。
• 模型内生化：专用LLM深度嵌入Agent，提升任务针对性。

管理与架构组件演进

AI Agent的未来发展需在任务编排、多模态交互、长短期记忆及工具协同方面持续优化，以实现与企业系统的深度整合，推动AGI developmental 进程。