【IDC】计算机行业五大关键要素：解锁生成式AI全新机遇_58页_8mb

生成式AI应用落地的挑战与云服务解决方案

核心内容

生成式AI在企业中的应用正迅速升温，但实际落地仍面临诸多挑战。IDC调研显示，近六成企业已开始拥抱生成式AI，但其落地速度不及预期，主要受制于数据准备、模型适配、基础设施成本、安全隐私及人才技能等因素。

生成式AI的落地需要经过模型训练、模型定制、模型部署、模型推理等环节。企业需要在这些环节中选择合适的模型，并确保数据安全和模型效果的准确性。此外，企业还需评估应用场景，制定战略，并构建端到端的AI解决方案。

主要观点

• 高性价比的基础设施 是生成式AI应用落地的关键，企业应优先考虑云服务提供的算力和成本管理能力。
• 丰富的模型选择 和 模型定制能力 是企业构建生成式AI应用的必要条件，可帮助企业实现差异化竞争优势。
• 开箱即用的AI驱动应用 能够降低企业进入门槛，提高开发效率，是当前较为成熟的选择。
• 负责任的AI 是构建生成式AI应用的重要组成部分，包括数据安全、内容合规和透明度。
• 端到端的数据基座 是支持生成式AI应用的基础，能够解决数据集成复杂、数据隐私和安全等问题。

关键信息

企业应用现状

• 60% 企业已开始使用或评估生成式AI。
• 35% 企业已进行初步测试和概念验证。
• 34% 企业正在制定应用场景，尚未进入试点。
• 7% 企业尚未采取任何措施。

企业面临的主要挑战

1. 模型选择与适配难：企业需要评估和选择最适合自身业务场景的模型，且模型适配与调整门槛较高。
2. 数据集成复杂：企业面临数据分散、数据归集难、数据管理复杂等问题。
3. 基础设施优化难：模型训练与推理对算力和存储要求高，且成本高昂。
4. 安全与隐私要求高：确保用户数据不被泄露，模型输出内容合规。
5. 人才技能不足：大模型相关人才稀缺，影响生成式AI的落地进程。

云服务的解决方案

• 亚马逊云科技 提供了从基础设施、模型选择到应用程序集成的全方位支持。
• Amazon Bedrock 提供多种基础模型，支持企业轻松构建生成式AI应用。
• Amazon Q 为企业提供定制化的生成式AI助手，提升员工效率和用户体验。
• Amazon SageMaker 提供一站式平台，支持模型训练、调优、部署和监控。
• Zero-ETL 集成 降低数据处理复杂度，提升数据整合效率。
• Guardrails 保障生成内容的安全性，避免“幻觉”和违规内容。
• Amazon DataZone 提供统一的数据目录和严格的访问权限管理，确保数据安全与治理。

五大关键要素

1. 高性价比的基础设施：提供灵活、高效、可扩展的云服务，降低训练与推理成本。
2. 丰富且灵活的模型选择：提供多种基础模型，支持企业根据需求选择并定制。
3. 使用私有数据实现差异化定制：通过提示词工程、RAG和微调等方式提升模型性能。
4. 开箱即用的生成式AI驱动的应用：帮助企业快速部署和使用AI能力。
5. 负责任的AI策略：确保数据安全、内容合规和透明度。

云服务助力生成式AI落地

• 全球客户：已有超过10万家企业采用亚马逊云科技机器学习服务，其中超过1万家企业使用Amazon Bedrock进行生成式AI创新。
• 典型应用场景：包括智能客服、个性化推荐、自动化文档处理、舆情分析、代码生成等。
• 企业案例：
  • 西门子：在3个月内构建了基于自有模型的智能知识库“小禹”，提升内部知识检索效率。
  • 中科创达：利用亚马逊云科技提升开发效率10倍，节省50%的IT建设成本。
  • 沐瞳科技：通过Amazon Bedrock提升辱骂识别准确率至95%以上，优化玩家体验。

未来展望

• 企业应从通用场景开始试点，逐步扩展到行业专有场景，并关注颠覆性技术。
• 高管需进行革命性思考，而非渐进式思考。
• 构建强大的数据价值链 是实现差异化竞争优势的关键。
• 企业应注重模块化和可扩展性，以适应未来技术的快速迭代。

亚马逊云科技的贡献

• 提供丰富的算力选择，如NVIDIA Grace Hopper超级芯片和Inferentia2。
• 推出Amazon Bedrock，支持企业构建和部署生成式AI应用。
• 提供Amazon Q，作为企业级生成式AI助手，提升员工效率和用户体验。
• 推出Guardrails，确保生成内容的安全性和合规性。
• 构建端到端数据基座，支持数据集成和治理。

企业如何构建生成式AI应用

• 制定人工智能战略：评估企业准备情况，选择合适的构建策略。
• 规划应用场景：优先选择具备经济价值、战略一致性和低实施复杂性的场景。
• 端到端构建：从数据准备、模型选择到应用程序集成，进行全面的优化与部署。
• 持续迭代：建立评估体系，监控关键绩效指标，不断优化AI应用效果。

结论

生成式AI正在改变企业运作方式，但其落地仍需克服诸多挑战。云服务提供商如亚马逊云科技，通过提供高性价比的基础设施、丰富的模型选择、开箱即用的应用程序、负责任的AI策略和端到端的数据治理，成为企业构建生成式AI应用的重要合作伙伴。未来，随着技术的不断成熟和应用场景的拓展，生成式AI将为企业带来更大的商业价值。