20240606-西南证券-科技前瞻系列专题_国际巨头的端侧AI布局_49页_8mb

苹果AI布局总结

苹果在端侧AI领域积极布局，涵盖模型、硬件和应用三个层面。模型方面，苹果于2024年3月发布多模态大模型MM1，具备300亿参数，采用混合专家MoE架构，在基准测试中实现领先性能，并支持上下文预测和少样本学习。4月份推出的OpenELM系列模型（27亿、45亿等版本）聚焦端侧运行，优化了准确率和训练效率，使用分层缩放策略，减少了预训练token需求。Ferret-UI系统则专为移动端UI理解设计，具备引用、定位和推理功能，在基础任务中优于GPT-4V，但复杂任务处理仍有提升空间。硬件方面，苹果从A11芯片起引入NPU，并在M系列芯片中采用统一内存架构（如M3/M4支持进入级LLM），通过LLMinaflash技术提升内存有限环境下的推理效率，例如窗口化和行列打包减少数据传输，支持更高效的大模型运行。应用侧，苹果计划在WWDC 2024上升级Siri，整合生成式AI，使其更具对话性和多功能性；同时，iOS 18将引入AI原生功能，提升服务业务价值。未来，苹果的VisionPro终端将推动空间计算生态，结合生成式AI创造新元宇宙应用，其强大的芯片设计和软件优化能力是AI战略的关键。

高通AI布局聚焦提升端侧AI的效率、个性化和性能，针对功耗、模型压缩和并发场景优化。模型优化采用量化策略（如INT8精度保持，损失小于1%），使用AIMET工具库提供模型压缩、知识蒸馏和元训练，支持INT8量化并保持高精度。硬件方面，骁龙8Gen3和8sGen3平台实现NPU性能98%提升、GPU能效25%优化，支持运行百亿参数模型（如每秒生成20tokens for 70B LLM），XPlus平台则针对PC端增强AI处理速度。应用侧，高通探索高能效视频处理、射频无线定位和AI雷达技术，这些技术应用于视频压缩、监控和云雷达等场景，支持智能设备实现厘米级精确定位和实时响应。生成式AI方面，高通推动异构计算，优化跨处理器AI部署，结合终端场景提升生产力。通过 partnering with生态伙伴，高通赋能混合AI战略，强化其在移动端AI硬件市场的领导地位。

三星在端侧AI布局中强调隐私保护、上下文感知和快速响应优势，针对本地资源瓶颈（算力、存储、电力）提出优化方案。模型技术包括FleXOR分数量化（支持小于1位的权重表示）、BiQGEMM二进制编码量化矩阵乘法，显著减少内存占用；软件平台如nnStreamer用于高效神经网络管道（压缩代码行数，降低CPU和内存占用），以及nnTrainer提供端侧个性化训练，提升模型准确率。三星整合GalaxyAI功能于Galaxy系列，使用Gemini或文心一言模型，赋能原生应用如圈即搜、实时翻译，提升用户交互体验。未来，三星计划深化软件与硬件结合，推动AI在穿戴设备和移动生态中的创新。

相关内容强调苹果和高通为AI投资重点：苹果研发支出达300亿美元/财年，自由现金流强劲，支持其软件定义服务增值；高通则通过骁龙平台吸引合作伙伴，预计AI手机和AIPC将显现成果。整体上，国际巨头在端侧AI领域的竞争推动技术创新和应用扩展，相关标的显示市场潜力较高。