腾讯云XDeepSeek产品技术方案_17页_12mb
报告摘要
腾讯云与DeepSeek技术方案总结
核心内容概述
腾讯云与DeepSeek合作，推出了一系列基于DeepSeek模型的AI服务和解决方案，涵盖从免部署应用搭建到私有化模型精调与部署，再到结合向量数据库构建高质量RAG应用的全栈AI能力。该方案旨在帮助企业快速接入先进AI模型，提升业务智能化水平。
主要产品与解决方案
1. 腾讯云知识引擎 + DeepSeek
- 目标客户：初级开发者、企业运营人员
- 核心功能：
- 支持DeepSeek-R1、V3等满血版模型快速接入
- 集成私域知识库，支持复杂图文混排文档解析
- 提供零代码方式搭建应用，实现与现有业务系统无缝对接
- 主要优势：
- 分钟级应用构建
- 支持实时搜索和知识增强
- 提供多种模型选择，满足不同业务场景
2. 腾讯云TI平台 + DeepSeek
- 目标客户：具有一定开发能力的企业/资深开发者
- 核心功能：
- 提供大模型精调与部署的一站式解决方案
- 支持零代码一键部署，网页问答体验推理效果
- 提供低代码、灵活自定义的精调模式
- 集成多种训练工具与框架（如Pyspark、PyTorch、Angel等）
- 主要优势：
- 支持分布式训练与推理，具备故障自动恢复能力
- 内置训练加速能力，性能提升30%
- 提供多种算力管理方式（GPU算力包月、按量计费等）
- 支持模型量化、并行解码、Sampling及Batch优化
3. 腾讯云向量数据库 + DeepSeek
- 目标客户：需要构建RAG应用的企业
- 核心功能：
- 提供高吞吐、低延迟、低成本、高可用的向量检索服务
- 支持快速构建知识库，结合DeepSeek模型部署高质量RAG应用
- 提供自研文档识别模型，提升知识库构建效率
- 主要优势：
- 领先行业平均水平2倍以上性能
- 单QPS成本降低75%，极具性价比
- 支持公有云和私有化部署，兼容多种存储协议（如CFS、NAS等）
DeepSeek 模型特性
已支持模型
-
DeepSeek-V3：
- 参数量：671B MoE模型
- 上下文长度：支持64K
- 输出长度：最大支持8K
- 优势：在百科知识、数学推理等任务中表现优异，评测成绩位列开源模型榜首
-
DeepSeek-R1：
- 参数量：671B模型
- 上下文长度：支持64K
- 输出长度：最大支持8K
- 优势：使用强化学习训练，支持复杂逻辑推理，展现完整思考过程
其他模型
- R1-Distill-Llama-70B
- R1-Distill-Qwen-32B
- R1-Distill-Qwen-14B
- R1-Distill-Llama-8B
- R1-Distill-Qwen-7B
- R1-Distill-Qwen-1.5B
API服务说明
- 接口请求域名：
Ikeap.tencentcloudapi.com - 接口功能：发起一次对话请求
- 支持模型：DeepSeek-R1、V3
- 计费说明：
- 限时免费（2025年2月25日前）：单账号并发上限为5
- 标准计费（2025年2月26日起）：
- DeepSeek-R1：输入0.004元/千token，输出0.016元/千token
- DeepSeek-V3：输入0.002元/千token，输出0.008元/千token
- 兼容性：支持OpenAI接口协议，便于快速接入
腾讯云AI全栈能力
- 自研大模型：混元大模型（不同参数量级）及行业大模型（金融、汽车、医疗等）
- 开源模型：DeepSeek全系、Llama、Baichuan、ChatGLM、Qwen等
- AI框架支持：PySpark、PyTorch、VLLM、Megatron（训练）；Triton、VLLM、SGlang、SD、PMML（推理）
- 资源管理：
- 云服务器：支持HCC高性能服务器及私有化X86+ARM服务器
- 分布式文件存储：CFS、TurboFS、GooseFS（公有云）；NAS、CSP（私有化）
- 容器底座：TKE（公有云）、TCS（私有化）
核心收益
- 高并发、高可用：支持企业级鉴权与限流，保障服务稳定性
- 长上下文支持：64~128K上下文长度，满足复杂业务场景
- 低成本与高性能：通过优化算力调度与模型结构，显著降低算力投入
- 灵活扩展：支持多种部署模式（公有云/私有化），提供多种扩缩容策略
总结
腾讯云与DeepSeek合作，为企业提供了一套完整的AI解决方案，涵盖模型调用、应用开发、精调部署、向量数据库等多个环节。该方案不仅支持快速接入先进模型，还具备高可用性、灵活性和成本效益，能够满足从简单应用到复杂垂直场景的多样化需求。
展开完整摘要
试读结束，高清完整版pdf/doc/ppt,请点下载
