2023混合AI是AI的未来白皮书-第一部分终端侧AI和混合Al开启生成式AI的未来英文版-高通_17页_2mb

混合AI是生成式AI发展的关键。随着生成式AI应用的快速增长，计算需求激增，传统以云端为主的架构难以满足成本、能耗和扩展性需求。混合AI通过将计算任务分布在云和边缘设备之间，提供更高效、可靠的解决方案。其优势体现在降低成本、提高能效、增强可靠性与性能、保障隐私安全及支持个性化体验等方面。

生成式AI模型（如ChatGPT、Stable Diffusion）已在多个领域引发变革，包括搜索引擎优化、内容创作、生产力工具及自动驾驶等。当前，生成式AI的查询成本远高于传统方法，例如基于大规模模型的搜索查询成本可能增加10倍。通过将部分计算任务转移至边缘设备，可缓解云端压力，同时确保用户在无网络连接时仍能使用AI功能。

混合AI架构分为三种模式：设备中心型、设备感知型和联合处理型。设备中心型以本地处理为主，云端仅负责复杂任务；设备感知型利用本地模型处理输入（如语音识别），再与云端大模型结合；联合处理型则通过云端与设备的协同工作提升效率，例如使用“推测解码”技术并行生成多个token，降低计算能耗。实验表明，这种模式可使生成速度提升2-3倍。

边缘设备的AI能力正在快速提升，现有智能手机、PC等已能运行超10亿参数的模型，未来将进一步支持更复杂的生成式AI任务。例如，生成式AI可优化手机搜索体验，提升办公软件效率（如Microsoft 365 Copilot），辅助汽车驾驶决策，推动XR领域的3D内容创作及虚拟现实体验，以及改善物联网场景下的运营效率和客户服务。

混合AI对全球企业及消费者需求至关重要。通过合理分配计算负载，既能降低运营成本，又能满足低延迟、高隐私的要求。随着硬件升级和模型压缩技术的发展，生成式AI将更广泛地应用于移动设备、汽车、XR头显和物联网终端，带来更智能化的交互体验。