20240221-万联证券-计算机行业跟踪报告_谷歌再更新Gemini大模型_立足MoE架构性能更加卓越_7页_1mb

谷歌于2024年2月15日推出综合性能更优的Gemini15Pro版本，其性能可媲美当前顶级模型Gemini10Ultra，在31项基准测试中的27项表现优于Gemini10Pro，并在多数文本与部分视觉基准测试中超越Gemini10Ultra。

该模型基于稀疏混合专家（MoE）架构，通过将传统Transformer模型中的部分层替换为稀疏MoE层，将大型网络分割为多个小专家，由门控网络动态分配token处理，从而大幅度节省训练与服务资源。

Gemini15Pro是一种中等规模的多模态模型，内置超大上下文窗口，最高支持100万个token，能高效处理高达30,000行代码、44分钟视频或700,000单词数据库，适用于复杂信息分析与多模态任务。

基于此，我们认为多模态大模型领域将迎来加速落地，尤其MoE架构有望成为主流，建议投资者关注超长上下文运用与多模态技术应用，同时需注意人工智能发展、应用落地缓慢及技术伦理风险。