AI_原生应用开发实战营·深圳站分享材料_90页_41mb

构建 AI 原生应用的关键要素总结

核心内容

《AI原生应用架构白皮书》由阿里云智能高级技术运营专家王晨解读，介绍了AI原生应用架构的定义、关键要素、开发工具链发展阶段、AI基础大模型、AI基础设施（AI Infra）等。文档强调了AI原生应用架构是将与应用运行相关的要素抽象成一个可表达、可传播、可共识的概念，形成智能化的范式，即“机器会思考”。

主要观点

1. AI原生应用架构定义：基于模型、Agent驱动、以数据为中心，整合工具链，实现智能化的系统架构。
2. 数据飞轮机制：通过大小飞轮，打磨垂类场景模型的输出能力，形成企业专属数据集，用于支持垂类Agent。
3. AI开发工具链的四个发展阶段：
   • 2022年-2023年：基础开发框架，通过模块化抽象降低开发复杂度。
   • 2023年-2024年：协作与工具，实现脑力到行动力的跨部门协作。
   • 2024年-2025年：强化学习，数据驱动优化减少人为干预。
   • 2025年10月~：模型更加中心化，上下文工程能力内化到模型侧。
4. MCP（Model Context Protocol）：MCP开发者比用户多，是AI原生应用架构中的关键协议，用于增强模型上下文，实现更精准的推理。
5. EventBridge：支持多源数据采集、过滤、转换与存储，提供AI数据全链路处理能力，包括结构化、非结构化和半结构化数据。
6. 可观测与AI的融合：通过AI增强可观测能力，实现智能运维（AIOps），提升系统稳定性与性能，支持全栈监控、链路追踪、模型评估等。
7. AI开放平台HiMarket：为企业落地AI应用架构提供最短路径，支持模型、Agent、MCP、Prompt市场，以及统一的API接入、安全监管和计量计费。

关键信息

AI原生应用架构要素

• AI应用：包括通用智能体、AI Coding、AI Design、AI客服、AI陪护、AI硬件、具身智能等。
• AI开发工具链：包括应用开发框架、提示词、RAG、工具、强化学习、Memory、评估等。
• AI基础大模型：如Qwen、DeepChat、ChatGPT、Gemeni、Grok、Kimi、智普等。
• AI基础设施：包括算力、存储、数据库、网关、运行时、可观测、安全等。

开发工具链发展阶段

数据飞轮

• 数据飞轮1：每个垂类场景形成小飞轮，使用大尺寸SOTA模型生成高质量蒸馏数据集，用于微调小尺寸模型，支持垂类Agent。
• 数据飞轮2：多个Agent在实际业务场景下生成生产数据，用于增强大模型，形成企业专属模型底座。

EventBridge 多源 RAG 能力

• 支持多种数据源（OSS、Kafka、数据库等）。
• 支持多种非结构化数据格式（TXT、CSV、JSON、Markdown、PDF等）。
• 提供多种向量数据库支持，兼容主流数据处理方式（单文档加载、分块加载等）。

可观测技术

• 全栈智能可观测平台：支持AI应用的统一监控，包括模型性能、Token成本、GPU资源等。
• LLM Trace：基于OpenTelemetry实现端到端链路追踪，记录Prompt、Input/Output、Token消耗等。
• 性能稳定性：阿里云自研Python探针在性能、稳定性方面优于开源OTel探针，支持大模型插件、多进程、协程等。

HiMarket AI 开放平台

• 目标：为企业落地AI应用架构提供最短路径，支持API开放、权限适配、快速验证等。
• 功能模块：
  • 模型市场：提供模型服务，支持多种大模型。
  • Agent市场：支持多Agent架构，实现复杂任务的协作。
  • MCP市场：提供MCP工具，支持多智能体协同与知识融合推理。
  • Prompt市场：提供高质量提示词，提升模型性能。

AI应用可观测最佳实践

• Dify：建议使用云存储、增加数据库连接池、使用外置向量数据库等。
• MCP：支持模型调用过程的完整还原、提前发现Token爆炸现象、快速定位根因。
• AI网关：支持对异常模型调用进行限流，保障系统稳定性。

AI应用可观测案例

• 某新能源车企：
  • 痛点：新上线的千卡集群问题多，Dify平台缺乏可观测能力，开源OT探针部署存在兼容性问题。
  • 解决方案：开启灵骏集群监控，数据对接Prometheus，实现基础资源实时监控。

总结

AI原生应用架构强调模型驱动、Agent协同、数据为中心和工具链整合。通过EventBridge实现多源数据处理，结合数据飞轮机制提升模型输出能力。可观测技术与AI的融合，推动智能运维发展，提升系统稳定性与性能。HiMarket AI开放平台为企业提供一站式AI应用落地解决方案，涵盖模型、Agent、MCP、Prompt市场，支持统一接入、安全监管、性能优化等。