高通：2023混合AI是AI的未来白皮书（第二部分）_14页_1mb

混合AI是AI未来的关键方向，云端与终端协同处理可带来成本、能耗、性能、隐私与安全优势。高通作为终端侧AI领导者，凭借全栈优化技术与全球终端布局，在推动混合AI规模化扩展方面具备以下优势：

1. 终端侧AI技术领导力：

   • AI引擎整合硬件（Hexagon处理器、Kryo CPU）与软件栈，支持10亿参数级模型运行。
   • 全栈优化实现硬件加速、算法创新与模型效率提升，例如INT4量化技术提供7倍能效。

2. 技术架构优势：

   • AI软件栈：支持跨平台部署，开发者可实现一次编写、多终端部署。
   • 编译器与量化：创新编译技术优化推理时延，量化支持提升内存带宽利用率。
   • 异构计算：整合CPU/GPU/AI加速器，提升多元场景运行效率。

3. 全球终端覆T：

   • 累积20亿台搭载骁龙平台的终端，覆盖手机、汽车、物联网、XR等设备。
   • 技术快速下沉至入门级设备，推动混合AI规模化应用。

4. 关键创新应用案例：

   • 全球首个INT4实时超级分辨率演示。
   • Transformer加速与多头注意力机制优化，大型语言模型效率突破。

高通通过“技术领导力+规模优势+生态赋能”三者结合，正在将混合AI应用从云端拓展至边缘终端，并助力开发者快速构建生成式AI解决方案，其独特的全栈整合能力与全球化部署能力在混合AI时代凸显重要价值。