中文版_比女皇报告还炸裂AI深度调研刷屏_全球LLM大决战真正开始-ICONIQ-2025.6_67页_5mb

ICONIQ 2025 人工智能现状报告总结

核心内容概述

ICONIQ 2025 人工智能现状报告深入探讨了当前企业在构建、部署和优化人工智能产品方面的趋势与实践。报告涵盖了从产品路线图和模型训练技术到上市战略、合规性、组织结构、成本管理和内部生产力等多个方面，提供了全面的行业洞察和关键绩效指标。

---

主要观点与关键信息

人工智能产品类型

• 代理工作流和应用层是当前人工智能原生公司和人工智能启用公司最常构建的产品类型。
• 约 80% 的人工智能原生公司正在构建代理工作流。
• 人工智能原生公司在开发周期中比人工智能启用公司走得更远，约 47% 的受分析产品已达到临界规模并证明了市场契合度。

模型使用与关键采购考虑因素

• 准确性是企业在选择基础模型时的首要考虑因素。
• 成本和隐私性是紧随其后的关键因素。
• 多数公司采用多模型方法，以适应不同用例、性能、成本和客户要求。

顶级模型提供商

• OpenAI 的 GPT 模型仍然是最受欢迎的模型。
• 混合模型策略逐渐流行，许多公司同时使用 OpenAI 模型和 1-2 个其他供应商的模型。

模型训练技术

• 检索增强生成 (RAG) 和 微调是最常见的模型训练技术。
• 高增长公司更倾向于使用基于提示的技术。

人工智能基础设施

• 大多数公司使用基于云的解决方案和 AI API 提供商进行训练和推理。
• 68% 的企业完全在云中运营，64% 依赖外部 AI API 提供商。
• 混合方法和内部/专用推理基础设施的使用率较低，仅 23% 的团队采用混合方法，不到十分之一的团队维护内部推理基础设施。

模型部署挑战

• 幻觉、可解释性/信任度、投资回报率是部署模型时的首要挑战。
• 对于垂直人工智能应用的公司，可解释性和信任度尤为重要，因为这些公司可能面临受监管行业的额外合规性和法律限制。

人工智能性能监控

• 随着人工智能产品的扩展，性能监控变得越来越重要。
• 高级监控（如漂移检测、实时反馈回路）和全自动模型监控与再训练管道是主流做法。
• 高增长公司更积极地在生产中部署人工智能代理。

上市战略与合规性

• 人工智能产品路线图中，20% - 35% 的功能是人工智能驱动的，而高增长公司则将30% - 45% 的产品路线图专注于人工智能驱动的功能。
• 混合定价模式（订阅/计划与基于使用或结果的定价）是主流选择。
• 许多公司将人工智能视为打破垄断或追加销售的手段，而非主要利润来源。

人工智能功能的定价模式

• 大多数人工智能公司要么将人工智能功能作为高级产品的一部分，要么不收取额外费用。
• 部分公司正在探索基于消费、投资回报率和使用层级的新定价模式。

人工智能的可解释性和透明度

• 随着产品规模扩大，模型透明度报告和人工智能如何影响结果的基本见解变得越来越重要。
• 企业正在加强透明度，以建立客户信任。

人工智能合规与治理

• 大多数公司已制定人工智能道德和治理政策。
• “人在回路中” 的监督方式是常见的做法，以确保人工智能的公平性和安全性。

---

组织结构与人才

人工智能领导层

• 收入达到1亿美元的公司通常设有专门的人工智能领导层，如首席人工智能官、ML主管等。

人工智能特定角色

• AI/ML 工程师、数据科学家和AI 产品经理是最常见的特定角色。
• AI/ML 工程师的平均招聘时间最长。

招聘速度

• 对招聘速度的看法相对平均，缺乏合格候选人是主要制约因素。

工程团队比例

• 平均20-30% 的工程团队专注于人工智能，高增长公司的比例更高。

---

成本管理与投资回报率

人工智能研发支出

• 平均10-20% 的研发预算用于人工智能开发。
• 大多数公司计划在 2025 年增加人工智能方面的支出。

预算分配

• 随着人工智能产品规模扩大，人才成本占比下降，而基础设施和计算成本上升。
• API 使用费是企业最难控制的成本。

成本优化

• 企业正在探索开源模型和推理效率优化以降低成本。
• TensorRT 和 Triton 推理服务器 是推理优化的主要工具。
• ONNX Runtime 和 TorchServe 是非 NVIDIA 的替代方案。

模型训练与推理成本

• 模型训练成本范围在16万至150万美元之间，取决于产品成熟度。
• 推理成本在启动后激增，高增长公司在推理成本上的支出是同行的 2 倍。

---

内部生产力与采用情况

内部人工智能生产力

• 2025 年，所有收入层级的内部人工智能生产力预算都将增加近一倍，占总收入的 1-8%。
• 研发预算是主要来源，但人头预算也逐渐被采用。

人工智能的获取与使用

• 约 70% 的员工可以使用人工智能工具，但只有 50% 在持续使用。
• 成熟企业（收入超过10亿美元）更难采用人工智能工具。

用例数量

• 公司通常在各个职能部门探索多个 GenAI 用例。
• 员工采用率高的公司会在 7 个以上的用例 中使用 GenAI。

热门使用案例

• 研发 和 销售与营销 (S&M) 是最受欢迎的用例。
• 治理与行政 (G&A) 用例相对较少。

对内部采用人工智能的态度

• 高增长公司更积极地尝试和采用新的人工智能工具。
• 人工智能被视为一种战略杠杆，用于提高内部生产力。

---

最常用的人工智能工具

模型训练和微调

• PyTorch 和 TensorFlow 是最常用的深度学习框架。
• AWS SageMaker 和 OpenAI 微调服务 越来越受欢迎。
• Hugging Face 和 Databricks Mosaic AI Training 正在开辟新的利基市场。

LLM 与 AI 应用开发

• LangChain 和 Hugging Face 工具集 是最常用的工具。
• 70% 的受访者使用私有或自定义 LLM API。
• Guardrails 和 AI SDK 越来越受欢迎，用于增强安全性与简化集成。

监测与可观察性

• 现有 APM/日志堆栈（如 Datadog、New Relic）仍占主导地位。
• LangSmith 和 Weights & Biases 在 ML 监测方面逐渐获得认可。

推理优化

• NVIDIA 的 TensorRT 和 Triton 推理服务器 是推理优化的主要工具。
• ONNX Runtime 和 TorchServe 是非 NVIDIA 的替代方案。
• 一些受访者对推理优化方法存在困惑，为教育和工具提供了机会。

模型托管

• OpenAI 和 Anthropic 是最常用的模型托管平台。
• AWS Bedrock 和 Google Vertex AI 在超大规模企业中占有一席之地。
• Fireworks AI、Modal、Replicate 等新兴平台也在迅速发展。

模型评估

• Vertex.ai、Weights & Biases 和 Galileo 是主要的内置评估工具。
• LangSmith 和 Langfuse 在专用评估工具中领先。
• 一些受访者仍依赖 DIY 方法进行模型评估。

数据处理与特征工程

• Apache Spark 和 Kafka 是主流的大数据工具。
• Pandas 仍被广泛使用，特别是在处理较小数据集时。
• 专用功能库的使用率较低，仅 17% 的企业采用。

---

总结

ICONIQ 2025 人工智能现状报告提供了关于当前人工智能产品开发、部署和优化的全面分析。报告强调了准确性、成本控制、可解释性和合规性的重要性，并指出高增长公司在这些方面表现更为积极。随着人工智能技术的成熟，企业正在探索更复杂的工具和方法，以提高生产力和实现投资回报率。整体来看，人工智能正在成为企业战略的重要组成部分，其采用率和成熟度仍在不断提升。