> **来源:[研报客](https://pc.yanbaoke.cn)** # 突破AI部署障碍 攻克 2025 年的 六大常见AI业务挑战 # AI拥有巨大潜力,无疑将改变我们的工作方式。 从更智能的线索评分到内容生成,再到费用预测,企业纷纷利用AI来节省时间和成本,扩大业务范围,开拓新市场。Gartner指出,许多CEO都认为,AI是未来三年将对其所在行业产生重大影响的关键技术<sup>1</sup>。 尽管期待值不断攀升,但企业在推进 AI 落地时却面临着重大障碍。AI 复杂性较高,成功驾驭这一领域并非易事。企业必须克服成本、数据隐私和集成等方面的挑战。领导者必须确保其 AI 项目具有切实的商业价值,并且能够基于试点项目进行规模扩展。下文将探讨当今企业推进 AI 落地时面临的六大常见挑战。 “想要利用 AI 成功创造价值,需要的不仅仅是技术。在数据、变革管理、AI 素养、风险降低、信任和治理方面若缺乏合理投资,会成为 AI 成功落地并实现价值的重大阻碍。” Gartner,《打造成功AI战略的关键支柱》 # 2025 年的 # 六大常见AI业务挑战 1 企业尚不明确哪些AI项目值得投资。 根据Gartner的数据,尽管AI热度高涨,但将AI潜能转化为实际成果并非易事: $49\%$ 深度参与AI项目的领导者表示,其企业或机构难以估算和证明AI的价值<sup>1</sup>。那么,如何判断哪些项目能够带来回报呢? 首先需要明确期望的结果,例如,您是希望提高生产力还是降低成本?您还需研究您所在的行业中有哪些主流 AI 用例,同时明确哪些利益相关者将参与界定 AI 项目成功的标准。 2 决策者必须确保AI投资成本的合理性,并且避免超支。 AI项目的成本往往会超出许多企业的预期。 领导层和IT决策者需要展开合作,共同确定哪种AI基础设施(本地还是云端)能够带来更高回报。值得注意的是,充分利用现有的硬件和云平台、软件和数据,可能会让您从投资中获得更多收益。 3 数据安全和隐私仍是重大问题。 在启动新的AI项目时,安全性至关重要。您需要制定健全的风险降低和治理策略,以加强数据保护。基于硬件的安全防护也非常重要。您的团队需要考虑PC、服务器和云服务中内置的安全功能。 “企业和机构针对 AI 运营模式制定的路线图有可能与 AI 项目组合完全脱节,因而很有可能无法实现商业价值。因此,在业务利益相关者所预期的实际价值(通过一系列用例组合)与实现该组合所需的必要基础设施之间,需要取得平衡。” Gartner,《打造成功AI战略的关键支柱》 4 即便是积极采用AI用例的企业,也并非总能找到获得足够计算性能的明确途径。 毋庸置疑,若要使用 AI,就需要更高的性能。但究竟需要达到怎样的性能水平呢?并不是每个人都需要一整个机架的 GPU。 出于成本、能效和隐私方面的考虑,许多AI工作负载将从云端转移至客户端。因此,IT运营团队必须确定哪种PC更适合在本地运行AI,同时还需提供一套全面的企业级可管理性和安全功能。 对于数据中心而言,架构师需明确在电力和空间均已受限的情况下,如何为运行 AI 提供足够的算力。如果在云端运行 AI,则需确定合适的实例,以尽可能提高每台虚拟机的性能,从而避免不必要的支出。 5 仅有硬件和现成的模型或软件是不够的。企业须能够将其数据与新的AI软件相结合。 强大的计算能力固然重要,但真正运行 AI 则需要软件。将软件与数据相结合,方能让 AI 服务于您的企业。 在探索如何使用新的 AI 模型、软件和代理式 AI 工具时,您需考虑如何使计算平台更好地支持数据整合,并在软件方面提供更多选择。 6 最后,将原型投入生产也存在重重挑战。 Gartner指出,那些成功利用AI创造价值的企业和机构已经跨越了实验和试点阶段。这些公司已经建立了与其业务战略高度相符的AI战略<sup>1</sup>。 在规划初期,您的团队需要考虑如何将 AI 应用扩展到整个企业或机构,并适应云端、PC 以及可能功耗受限的边缘位置等不同类型的环境。从 CUDA 迁移出来能够提高灵活性,而基于 x86 架构进行构建则有助于简化与现有工作流程的集成。 “AI潜在的巨大商业价值并不会自动实现。AI负责人应该引导企业和机构迈向新阶段,不仅要让AI创造切实的商业价值,更要成为重要的竞争优势和行业变革力量。” Gartner,《打造成功AI战略的关键支柱》 挑战一 # 确定 AI 的商业价值 # AI 能够为业务带来重大变革,但它仅仅是一种工具。要使 AI 发挥作用,离不开专业人士的高效运用。 # 大语言模型(LLM)一经问世,商业领袖便迅速将其定位为提高效率的理想方法。 然而,合理确定模型、整合数据并选择合适的员工来采用 AI 工具并非易事。毕竟,使用 AI 没有放之四海而皆准的方法。 为了避免被各种新颖的产品分散精力,您首先需要明确期望达成的业务成果:您希望使用 AI 做什么?帮助员工节省时间?增加现有客户营收?开拓新市场?更快地应对安全威胁?以下提供了一些切实可行的方法,助您更好地利用 AI(注:并非所有方法都涉及 LLM): - 利用机器学习对销售线索进行评分和优先排序 - 使用计算机视觉监控商店中的产品货架,确保及时补货 - 使用LLM针对财务报告生成叙述性内容 - 使用自然语言处理分析社交媒体上关于您品牌的对话 - 使用生成式 AI 模型创建营销文本和图像 - 使用基于LLM的聊天机器人来提升自动化客户服务水平 您所在行业的其他企业可以提供一些理想的应用案例。您可以将同行(和竞争对手)的实践作为真实案例,为您利用AI实现商业价值提供捷径。以下是一些示例: 医疗机构正在利用机器学习辅助疾病进展预测和治疗方案制定,利用计算机视觉分析医学影像,以及利用自然语言处理自动处理病历信息。 - 金融公司正在利用机器学习检测和预防欺诈,利用深度学习执行算法交易,以及利用生成式模型模拟风险管理情景。 - 零售商正在利用机器学习分析客户行为并优化库存管理,利用计算机视觉了解商品陈列情况,以及利用LLM部署客户服务聊天机器人。 制造商正在利用机器学习预测设备故障,利用深度学习识别缺陷,以及利用生成式模型优化流程。 保险公司正在利用机器学习评估风险状况,并利用自然语言处理从理赔申请中提取数据。 • 教育工作者正在利用机器学习创建个性化学习计划,利用自然语言处理实现自动化评分,以及利用生成式模型提供虚拟辅导。 • 法律公司正在利用自然语言处理来协助研究,利用生成式模型来模拟情景和预测案件结果,以及利用LLM来生成和审查法律文件。 - 电信服务提供商正在利用机器学习优化网络资源分配,利用预测性分析识别导致客户流失的因素,以及利用生成式AI优化网络拓扑结构。 - 能源公司正在利用机器学习来优化能源分配并预测消费模式,并利用深度学习来预测设备故障。 - 媒体和娱乐公司正在利用机器学习来推荐内容,并利用生成式 AI 来创作艺术作品、音乐及其他内容。 当然,您需要将合适的利益相关者召集到一起,来确定目标并探索用例。Gartner 建议让高层管理人员参与到讨论中,以便对业务重点和机遇进行更好的权衡。此外,让架构师、IT 运营负责人以及将使用 AI 应用的员工参与进来也是明智之举。 # Gartner:确定 AI 的战略价值优先级 您对于 AI 的应用具有何种期望水平? AI 将主要用于改善现有业务,还是扩展甚至彻底变革您的业务?针对各个期望水平,将分配多少资金,用于哪些业务领域? 这些优先级与业务目标有何关系? 例如,如果业务目标是削减成本,那就需要优先考虑影响成本的 AI 用例。如果是为了提高客户参与度,那就需要优先考虑支持客户参与度的 AI 用例。换言之,AI 在哪些业务领域更有机会真正创造价值? 在各个领域中, AI 的使用与哪些业务目标有关? 在哪些领域, AI 可以催生新的业务机遇, 或解决现有的业务挑战? 哪些关键绩效指标(KPI)会对哪些利益相关者产生影响? 衡量 AI 所创造价值的关键指标是什么? 有哪些 AI 用例的实际案例? 这些案例与哪些业务目标和指标相关?企业和机构所在领域或行业内外存在哪些机遇? Gartner. 《打造成功 AI 战略的关键支柱》 # Gartner # AI战略的核心要素 来源:Gartner 805859_C AI战略的根基在于愿景、驱动力和风险,应重点关注企业和机构希望通过AI实现的目标。 “AI战略的根基在于愿景、驱动力和风险,应重点关注企业和机构希望通过AI实现的目标,并确保与其业务战略完全一致。 这一结果应是 AI 负责人与利益相关者经过(反复)讨论后所确立的。就 AI 战略而言,这涉及到高层管理人员。他们的业务优先事项、机遇、挑战以及与 AI 相关的关注点都应在 AI 战略中找到共同立足点。” Gartner,《打造成功AI战略的关键支柱》 # 生成式 AI 创造的新价值 企业对 GenAI 充满期待是有原因的。GenAI 包括 ChatGPT 等主流 LLM 服务、Midjourney 和 Stable Diffusion 等图像生成工具,还有音频和 3D 模型生成器。GenAI 有可能将数小时的人工工作缩短为几分钟,并且在许多情况下,只需给予合适的提示即可使其发挥作用。 “许多企业和机构已经启动 AI(包括生成式 AI)项目,或扩大了其项目规模,还有更多企业和机构已宣布将进行大规模新增投资或追加投资。 就生成式 AI 而言,最近的一项调查显示, $18\%$ 的企业领导者正在针对其业务职能开展试点、推进实施该技术,或已将其投入应用;而 $47\%$ 的企业领导者则计划在未来 12 个月内这样做。” Gartner,《打造成功AI战略的关键支柱》 发掘真实场景下的成功案例,探索前沿AI工具,并找到增强自身AI能力的强大解决方案: - 英特尔客户聚焦 AI用例和应用 - 英特尔® AI Software Catalogue - 英特尔® AI Inference Software & Solutions Catalogue 挑战二 # 克服成本障碍 “业务与AI相互影响、相互塑造。如今,选择保守策略反而会面临更大风险,因为竞争对手或新入局者可能会利用AI与日俱增的强大力量,成功超越现有企业。” Gartner,《打造成功AI战略的关键支柱》 想要借助AI实现商业价值,首先要进行明智的投资,并避免超支浪费。初始成本可能很高,而持续支出也会不断累加。要想真正从AI中获益,企业需要进行战略性投资,既要平衡开支,又要能够推动创新。 在 AI 相关成本中,很大一部分来自训练,即让模型进行学习的过程。然而,大多数企业并不需要从头开始开发模型。相反,其主要 AI 工作负载将涉及推理,即运行预训练模型的过程。幸运的是,尽管训练一般需要专门的 AI 加速器,但推理通常可以在通用处理器上运行。 # 为数据中心或云端加入推理功能 即使您还未确定您的企业将运行哪些 AI 应用,您也可以通过为新一代 AI 用例做好准备来提升自身优势。尽管 GPU 通常被认为是运行 AI 任务的标准方案,但也存在更具成本效益的替代方案,在推理方面尤其如此。 对于本地数据中心,您可将推理功能纳入基础设施定期更新计划中。最近几代通用服务器在推理方面取得了长足进步,全新英特尔®至强®处理器等CPU已内置AI加速功能。如果您希望支持一些推理任务,但任务量不会很大,那么基于英特尔®至强®处理器的服务器可能足以轻松处理推理任务及其他企业级工作负载,从而可避免购买专用硬件。 如果您的数据中心需要更高的性能,则可以选择英特尔®至强®处理器作为AI加速系统的机头CPU。除了GPU之外,您还可以考虑英特尔®Gaudi®AI加速器。这些加速器在设计上注重能效表现,为推理和训练提供了经济高效的替代方案。 在云端,基于全新英特尔®至强®CPU运行的虚拟机可为许多推理工作负载提供足够的性能,而无需使用专用实例,这有助于控制成本。基于英特尔®Gaudi®加速器运行的云服务能力以更具竞争力的成本提供更高性能。您可以通过公有云服务提供商或英特尔®Tiber™ AI Cloud选择这些实例。 # 充分利用空间、电力和预算 性能的关键在于均衡。性能过低,则不足以支持新的工作负载。性能过高,则会导致硬件成本过高,并需要持续负担昂贵的电力成本。此外,在当今的数据中心,机架空间和电力都较为紧缺。那么,如何在资源已经受限的数据中心内增加足够性能以满足推理需求? 新一代CPU提供了单线程“能效核”方案,旨在帮助降低横向扩展工作负载的功耗。例如,英特尔®至强®6能效核处理器具有更高的每路内核数和每瓦性能。将使用了五年的服务器更换为英特尔®至强®6能效核处理器后,可实现高达3:1的机架整合比例²。设备群在四年内能够节省多达8万兆瓦时的能源,减少多达3.4万吨的二氧化碳排放量²。整合机架后,您可以对空间和电力进行重新分配,从而支持新的AI用例。 通过增加配备“性能核”的新服务器,能够在支持数据库和数据分析等其他企业级工作负载的同时,为AI推理提供出色性能。与第五代英特尔®至强®可扩展处理器相比,采用英特尔®至强®6性能核处理器可将AI图像分类、生成式AI(如LLM)、加密Web服务以及数据服务等计算密集型企业级工作负载的总体拥有成本降低多达 $20\%$ 至 $38\%$ . 从 x86 基础设施着手开展 AI 部署,不仅能够降低系统复杂性,还可显著提高硬件利用率,避免硬件闲置或浪费。这有助于提高基础设施投资回报率。 # 快速部署 大多数企业不需要从头开始构建模型。在开发人员社区中,AI拥有非常庞大的开源生态系统,提供了大量的示例代码,有助于节省时间和开发成本。 英特尔已将其中许多资源汇集成一个预建AI模型和可定制代码配方库,以快速启动主流企业AI用例的开发流程。与主流HuggingFaceAI平台的集成对开发人员非常友好,同时有助于确保您的应用在英特尔®平台上实现出色的性能。英特尔®AIforEnterpriseRAG提供了一个软件目录,其中包含用于聊天问答、代码生成、内容摘要等的模型和工具。 在PC开发方面,英特尔赞助了多个项目,为开发人员提供资源和工具套件,让他们能够更快地启动项目并投入运行,而无需经历艰难的学习过程。 对于寻求全面集成解决方案的企业,英特尔与出色的全球系统集成商合作,以优化 AI 软件和解决方案。这些产品能够消除不确定性,助力企业走上 AI 快车道。 挑战三 # 应对安全和隐私问题 网络攻击正在不断演变,其速度可能不亚于 AI。希望利用 AI 创造价值的企业必须保持谨慎,以免因数据泄露而得不偿失。 企业需要在风险降低、信任框架和有力的治理策略方面进行深思熟虑,才能安全地利用AI。仅靠软件和传统的基于边界的安全防护已不足以抵御新兴的安全威胁。基于硬件的安全防护为先进安全方法奠定了基础,能够更好地保护基础设施、人员及数据。 # Gartner: 确定战略风险 在开始着手制定信任和治理策略时,Gartner建议探讨以下问题: - 企业和机构对于负责任、合乎道德且安全地使用 AI 有何愿景? - 对于企业和机构而言,与使用 AI 相关的主要风险是什么? 除了合规、道德、安全和声誉,使用AI还会给哪些领域带来风险? - 降低这些风险的主要行动计划是什么? - 授权谁或哪个委员会来制定有关 AI 使用的决策? Gartner,《打造成功AI战略的关键支柱》 # 基于硬件的安全技术 软件可能会被相对底层的安全漏洞所欺骗。如果固件、BIOS、操作系统或虚拟机管理程序遭到破坏,黑客就可以获得系统访问权限。为确保IT基础设施的安全,需要从硬件层的平台信任根着手,将软件和基于硬件的安全功能结合起来。 在数据中心或云端中,基于硬件的安全功能有助于在将 AI 投入使用的同时,增加数据和模型的安全性。英特尔® 至强® 处理器内置安全引擎,可在网络威胁发生时,提高您的应对能力。这些引擎提供更强的控制能力,可实现更高级别的加密安全性,仅允许经授权的人员访问和使用您的数据。您可以将数据隔离到安全飞地中,以帮助抵御攻击。 在PC上,英特尔通过多层安全功能和已启用的合作伙伴软件,助力企业抵御威胁并加快修复速度。英特尔正在与CrowdStrike、Proofpoint和Trend Micro等全球主流网络安全独立软件供应商(ISV)合作,充分利用AI功能,帮助增强安全性。英特尔®酷睿™ Ultra处理器和英特尔®vPro®平台从设计层面就通过一系列深入硬件并贯穿于整个计算堆栈的技术,为现代计算和AI提供了更安全的基础。 根据 ABI Research 的数据4,英特尔在产品安全保障方面处于芯片行业前列。“Intel 2023 Product Security Report(2023年英特尔®产品安全报告)”中强调,英特尔持续在产品安全性方面展现出优异表现5。 # 进一步了解 # 基于硬件的安全功能: - 英特尔®机密计算解决方案 - 博客文章:借助基于 AI 的 PC 安全性,为您的企业保驾护航 - 博客文章:基于英特尔®技术的AIPC提供经行业验证的强大防御能力,助力应对真实场景下的网络攻击 挑战四 # 在性能上为 AI 做好准备 # 为了运行 AI,无疑需要具备更出色的计算能力。这种计算能力从何而来取决于您的业务需求。 “不同的 AI 计划对能力成熟度的要求存在差异。例如,有些计划可以利用现有工具,仅需相对较低的能力水平即可实施,而有些计划可能在技术或变革管理方面非常复杂,需要更为先进的能力。” Gartner,《打造成功AI战略的关键支柱》 # 云 云提供了一种快速简便的方法,无需高昂的前期成本即可获得 AI 应用所需的性能。但需注意,随着 AI 规模在整个企业或机构中的扩展,云成本可能会迅速增长。 # 数据中心 在数据中心托管 AI 应用需要大量的初始投资,但就长期而言可能具有成本优势,同时还能为处理 AI 及其他工作负载提供充足性能。 # PC和边缘设备 在PC或边缘服务器上本地运行AI可以在更靠近数据处理的位置提供更高性能,这有助于降低时延。在本地处理数据也更便于满足隐私合规要求。 有些情况下,具有内置加速功能的CPU可以提供足够的性能来满足您的推理需求。其显著优势在于,您可以利用现有的基础设施和平台来增加AI功能。在需要更高性能的情况下,您需要考虑选择专用AI加速器。 # 数据中心和云端的AI 随着数据中心的机架空间和电力资源日趋紧张,架构师须确定如何在受限条件下增加足够的 AI 计算性能。如果在云端运行 AI,团队必须选择更合适的实例,尽可能地提高每台虚拟机的性能。 AI推理所需的性能将根据您的模型规模、用户数量、每天须支持的查询次数以及对响应时间的要求而有所不同。OpenAI开发的大模型每天须支持数十亿次查询,而大多数企业使用的则是较小的模型,使用量也要小得多。在许多情况下,基于内置AI加速功能的CPU的通用服务器可以提供充足性能,既能节省成本,又可避免因使用GPU带来的集成难题。 您可以在数据中心和云端采用内置 AI 加速功能的 CPU,避免使用专用硬件和实例,从而大幅降低总体拥有成本。在主流部署中,全新英特尔® 至强® 处理器在运行 AI、Web 服务以及数据服务等计算密集型企业级工作负载时,可提供较其他产品更优的吞吐量和能效。英特尔® 至强® 处理器拥有众多内置加速器,可加速多种工作负载并提高每瓦性能。 如果您计划运行更大的模型或需要支持高强度使用怎么办?GPU 可能是一个不错的选择,可以确保您获得所需的性能。但许多架构师并没有意识到,还有其他专用 AI 处理器在成本和能效方面可以比 GPU 更具优势。例如,对于许多 AI 工作负载,英特尔® Gaudi® AI 加速器的性价比优于 GPU。 # 软件升级的额外优势 数据中心架构师在研究如何提高AI性能的同时,还须对定期的硬件更新和软件迁移进行规划。架构师可以选择全新英特尔®至强®处理器来进行数据中心的硬件更新,在运行其他企业级工作负载的相同内核上为AI推理提供更高性能。此外,英特尔®至强®处理器还有助于从软件迁移中获得更多价值,尤其是在升级到新版Microsoft SQL Server和Windows Server时。通过将软件迁移与新硬件相结合,可以带来额外的性能、成本和安全优势,从而助力优化数据中心。 # 在PC上运行AI 从总结会议纪要到撰写文档再到生成代码,如果您的团队希望使用新的 AI 工具和代理式 AI,就需要配备性能强大的 PC。此外,能够在 PC 上而非云端运行 AI 有助于增强数据隐私性,并且无需依赖网络连接。 本质上,“AI PC”内置神经处理单元(NPU),可在本地处理 AI 工作负载。2024 年,PC 制造商发布了搭载英特尔®酷睿™ Ultra 处理器并配备 NPU 的主流 Windows 商用笔记本电脑。 您的IT运营团队需要评估并决定哪些PC更适合在本地运行AI,同时还能提供商用级可管理性和安全功能,以支持日常工作。 英特尔®酷睿™ Ultra 处理器拥有三大计算引擎:CPU、GPU和NPU。三者协同运作以支持AI工作负载。该平台提供了庞大的AI软件库和出色的AI软件兼容性,经测试支持多达 $99\%$ 的AI功能7。英特尔与100多家ISV合作,针对英特尔®酷睿™ Ultra处理器优化工具,并提供300多项AI加速功能7,因此您可以探索各种不同方法,让AI更好地赋能您的员工。 英特尔还提供了 AI Playground,这是一款面向基于英特尔®技术的 AI PC 的生成式 AI 应用套件。借助该套件,用户可以轻松快速地加载 AI 模型,然后基于搭载英特尔®酷睿™ Ultra 处理器的 PC 的内置 GPU,构建自定义功能和应用。企业可将其用于产品设计、故事板、演示或脚本创建、内容摘要、搜索和编码辅助等用途。 # 了解有关 AI 性能加速的更多信息: 云性能基准测试 数据中心性能和能效:英特尔® 至强® 6处理器家族 挑战五 # 将数据与 AI 相结合 # 产品功能、客户购买历史、供应链记录……数据是一种强大的差异化因素,能够让企业获得价值和竞争优势。 “数据管理、数据和分析治理、数据分析、数据组织、角色分配和数据素养等方面的数据和分析(D&A)能力可用来服务于 AI。但只有对其进行调整和扩展后,才能为 AI 计划所用。例如,D&A 的数据管理和治理能力可以在提供 AI 就绪型数据方面发挥重要作用。 反之,利用 AI 对于 D&A 也非常有益。例如,可以生成用于开发和测试的代码或脚本、实现数据编织或增强型数据集成、生成合成数据或通过自然语言进行用户交互。” Gartner,《打造成功AI战略的关键支柱》 要让AI发挥作用,您需要将数据整合到所选的AI工具和模型中。英特尔提供了可扩展的计算平台,在软件方面为您提供广泛的选择,可帮助您更好地利用新的AI模型、软件和代理式AI工具。 # 为迎接代理式AI做好准备 代理式AI是下一轮企业AI浪潮。这些软件程序旨在利用AI帮助执行特定任务,可以自主运行,有时甚至可以主动运行。 代理式AI系统可以快速分析数据集并据此采取行动,从而节省时间并帮助您的团队更快做出决策。代理可以连接整个企业或机构中的人员、应用和数据源,帮助打破孤岛,使团队之间能够更好地共享信息。 能否利用代理式 AI 取得成功取决于能否在整个企业或机构中实现数据连接。英特尔为代理式 AI 提供了更灵活的企业级基础。对于 PC,英特尔® 酷睿™ Ultra 处理器提供了在本地运行 AI 代理的出色性能,无需发送到云端即可访问隐私数据。在数据中心、云端和边缘,英特尔® 至强® 和英特尔® 酷睿™ CPU 为数据运营奠定了坚实基础,使代理式 AI 系统能够更稳定地访问您所需的数据。 # 利用AI优化IT运营 数据不仅可以帮助您制定更明智的业务决策,还能提高IT运营效率,甚至自动执行IT任务。例如,基于英特尔® vPro®平台的商用PC提供遥测和设备洞察功能,可以为AI运维(AI Ops)提供支持。为AI Ops提供更优质的数据有助于优化业务成果,并有望提高PC设备群的智能化和自动化水平。 # 将数据与AI模型相结合 为了利用AI获得更有意义的定制化结果,开发人员和数据科学家必须将内部数据与预建模型相结合。而能否高效使用其所选的软件或模型则会受到硬件的影响。 借助英特尔®硬件,您可以使用自己理想的AI框架和模型,同时还能获得性能提升。无论您使用的是PyTorch、TensorFlow、ONNX还是其他主流框架,英特尔都通过与生态系统合作伙伴的合作实现了性能优化。面向英特尔®架构优化的库提供了与主流AI框架的深度集成,因而无需进行手动优化。这意味着您无需修改代码,即可获得开箱即用的、由硬件带来的出色性能。 开发人员还可以利用预建模型加速从原型设计到投产的流程。为助力项目快速启动,英特尔提供广泛的预建AI模型库、可定制的代码配方以及与HuggingFace的集成,以加速开发进程。通过利用HuggingFace上的面向英特尔®架构优化的模型和工具,开发人员可以快速微调模型,并将其部署到英特尔的硬件上,从而提高性能和能效。 挑战六 # 从原型设计到投产 # 展示 AI 试点项目所具备的潜力只是第一步,而将该用例推广到整个业务运营范围才是真正挑战。 “……当前许多 AI 计划仍处于试验阶段,作为孤立的项目而存在。这种碎片化的情况导致难以扩大规模、管理风险和实现商业价值。” 尽管孤岛式的实验性探索可能有助于培养技能并了解 AI 的功能和局限,但这不足以创造可持续的商业价值。” Gartner,《打造成功AI战略的关键支柱》 在全力推进 AI 项目之前,请先考虑您将如何适应不同的环境和需求,包括在云端、数据中心、PC 和边缘的部署。 # 迁移出 CUDA CUDA 是当今许多 AI 创新者所青睐的开发环境。然而,在单个 GPU 或集群上成功运行的概念验证往往无法经济高效地实现扩展。从 CUDA 迁移到开放工具,可以让您在更多样化的硬件类型上进行扩展。 英特尔提供了各种工具,助力简化从采用 CUDA 框架的 NVIDIA 系统向英特尔® Gaudi® AI 加速器和英特尔® CPU 的迁移流程。开发人员还可使用来自 HuggingFace、TensorFlow、Keras、PyTorch、PaddlePaddle 或 ONNX 的开源预训练模型,然后借助 OpenVINO™ 工具套件对模型进行转换,使其适用于所选的英特尔® 硬件。 对于因需要处理更大模型或服务更多用户而追求更高性能的开发人员来说,英特尔®Gaudi®AI加速器提供了更具经济效益选择,尤其是在生成式AI用例中,能够在不超支的情况下实现出色性能。您可以从英特尔®Gaudi®软件目录和HuggingFace中找到越来越多的优化模型。 # 基于 x86 架构进行开发 通过在 x86 架构上开发应用,您可以在数百万台 PC、服务器和边缘设备上简化其部署。目前,搭载英特尔®酷睿™ Ultra 处理器运行的 AI PC 已超过 4000 万台,更有不计其数基于英特尔®至强®和英特尔®酷睿™ CPU 的平台遍布企业、云端和边缘。对于 AI PC 应用,开发人员可以利用英特尔的工具套件和资源快速进行开发、部署和扩展。其中包括面向英特尔®酷睿™ Ultra 处理器优化的 500 多个 AI 模型、对 AI 框架的广泛支持以及兼容的 AI 运行时。英特尔的工具可助您走在 AI 开发的前沿,让您能够同时利用成熟的 x86 PC 市场和新兴的 AI PC 生态系统,以确保您的应用能够覆盖全球用户群。 基于 x86 架构构建 AI 应用还可以简化与现有工作流和数据的集成。英特尔® 至强® 处理器为企业生态系统奠定了基础。通过采用这款处理器来开发 AI 应用,您可以显著提高与大规模数据中心和云基础设施及软件的兼容性。 对于边缘应用,英特尔在边缘软硬件方面历经迭代创新,并且拥有广泛的合作伙伴生态系统。英特尔提供的软件工具可以优化计算机视觉、小语言模型 或大语言模型 (SLM/LLM) 推理以及其他 AI 应用,使其在各类硬件上流畅运行。 x86 的前景非常广阔。英特尔是 x86 生态系统顾问小组的联合创始人之一,该小组旨在塑造这一全球主流计算架构的未来。该顾问小组将助力实现跨平台兼容性,简化软件开发,并为开发人员提供确定架构需求和功能的平台,以构建创新解决方案。一致的 x86 功能和编程模型将扩展到数据中心、云端、客户端、边缘和嵌入式设备。 此外,英特尔还为企业AI开放平台(OPEA)等项目做出重要贡献,以推动AI创新。OPEA为开发人员提供了协作环境,可以在此访问开源工具、框架和企业级资源,用以在真实场景中构建AI解决方案。 迈出下一步 # 借助英特尔®技术让AI为企业赋能 # 在制定 AI 战略路线时,请牢记这并非一劳永逸的任务。 “AI战略与其他战略,特别是业务战略之间的协调一致应该是双向的。因为AI不仅仅是优化现有业务的技术工具,更日益成为催化新商机、颠覆既有商业模式乃至整个市场的变革力量。 总之,业务战略上的任何变化(可能源于新的竞争行为或市场环境变化)都应在更新 AI 战略时得到体现。反之,也应当根据这些变化对 AI 项目组合的优先级重新排序,并且 AI 运营模式的规划目标也要进行更新。 Gartner,《打造成功AI战略的关键支柱》 定期与关键利益相关方重新审视目标、项目和成果,以便评估结果并做出相应调整。行业发展日新月异,您的AI战略也应随之演进。 选择基于英特尔®技术的计算平台,即使市场瞬息万变,您也能够做好充分准备,让AI为企业赋能。商用级AIPC可以直接为员工提供AI工具。在数据 中心和云端,能效出色、功能强大的计算平台可为您提供出色性能,从容应对新一代AI用例。英特尔提供开放、灵活的平台,能让您做好充分准备,更好地应对各种AI模型、数据类型和不同环境。 英特尔可助您在当下做好迎接未来的准备,让您按照自身需求来部署用例,从而为企业创造更高价值。That's the power of Intel inside®. 如需了解有关构建AI战略的更多信息,请参阅免费的Gartner报告“The Pillars of a Successful Artificial Intelligence Strategy(打造成功 AI 战略的关键支柱)”。 # intel ai # 脚注 1. Gartner, “The Pillars of a Successful Artificial Intelligence Strategy (打造成功 AI 战略的关键支柱)”, Pieter den Hamer、Raghvender Bhati, 2024 年 4 月 23 日。 2. 详情请见以下网址的 [7T2]: intel.com/processorclaims(英特尔®至强®6处理器)。具体成本和结果可能不同。 3. 详情请见以下网址的 [9T3、9T4、9T5]: intel.com/processorclaims(英特尔®至强®6处理器)。结果可能不同。 4. 根据 ABI Research 的研究: intel.com/content/www/us/en/security/security-as-a-component-of-tech.html。 5. 更多信息,请参阅“Intel2023ProductSecurityReport(2023年英特尔®产品安全报告)”:intel.com/content/www/us/en/security/intel-2023-product-security-report.html。 6. 详情请见以下网址 intel.com/processorclaims(英特尔® 至强® 6 处理器、第五代英特尔® 至强® 处理器和第四代英特尔® 至强® 处理器)。结果可能不同。 7. 基于截至 2025 年 1 月的公开信息分析。 实际性能受使用情况、配置和其他因素的差异影响。更多信息请见intel.cn/performanceindex。性能测试结果基于配置信息中显示的日期进行的测试,且可能并未反映所有公开可用的安全更新。详情请参阅配置信息披露。没有任何产品或组件是绝对安全的。具体成本和结果可能不同。 英特尔技术可能需要启用硬件、软件或激活服务。加速器是否可用视SKU而定。更多产品详情,请见英特尔产品规格页面。 所有版本的英特尔vPro平台均需配备符合条件的英特尔处理器、受支持的操作系统、英特尔LAN和/或WLAN芯片、固件增强功能以及其他必要的软硬件,以实现平台特有的可管理性用例、安全功能、系统性能和稳定性。如欲了解更多信息,请访问https://edc.intel.com/content/www/cn/zh/products/performance/benchmarks/intel-vpro/。 AI 功能可能需要额外购买软件、订阅或由软件或平台提供商启用,或可能有特定的配置或兼容性要求。数据时延、成本和隐私优势是指非基于云的 AI 应用。更多信息请见 intel.com/AIPC。 英特尔并不控制或审计第三方数据。请您审查该内容,咨询其他来源,并确认提及数据是否准确。 ⑥英特尔公司版权所有。英特尔、英特尔标识以及其他英特尔商标是英特尔公司或其子公司的商标。其他的名称和品牌可能是其他所有者的资产。 英特尔通过参与、赞助和/或向多个基准测试系列提供技术支持的方式为基准测试发展做贡献,包括由Principled Technologies管理的BenchmarkXPRT开发社区。 # Gartner Gartner 不为其研究出版物中提及的任何供应商、产品或服务背书,也未建议技术用户仅选择那些获得最高评级或其他称号的供应商。Gartner 研究报告包含 Gartner 研究机构的观点,不应解读为事实陈述。Gartner 对本研究不作任何明示或暗示的保证,包括对任何适销性或特定用途适用性的保证。 GARTNER 是 Gartner, Inc 和/或其关联公司在美国和国际上的商标和服务标识,并在获得许可的情况下在此使用。保留所有权利。