【中信证券前瞻】Llama 4...
【中信证券前瞻】Llama 4发布速评
2025年4月5日,Meta发布Llama 4多模态模型Scout和Maverick,支持超长上下文和多模态能力,并预告2万亿总参数的教师模型Behemoth。
--- Scout:170亿活跃参数,16个专家,总参数1090亿,MoE架构,支持1000万token超长上下文窗口。适用于单个 NVIDIA H100 GPU;基准测试中比 Gemma 3、Gemini 2.0 Flash-Lite 和 Mistral 3.1 提供更好的结果。
---Maverick:170亿活跃参数,128个专家,总参数4000亿,MoE架构。基准测试中击败了 GPT-4o 和 Gemini 2.0 Flash,在推理和编码方面取得了与新 DeepSeek v3 相当的结果,实验性聊天版本在LMArena上的ELO得分1417。
---Behemoth(训练中):2880亿活跃参数,16个专家,总参数接近2万亿,是Meta迄今为止最强大的模型,STEM 基准测试中的表现优于GPT-4.5、Claude Sonnet 3.7和Gemini 2.0 Pro,目前仍在训练中,将在未来数月内发布。
主要亮点:1)超长上下文:Scout支持1000 万token的上下文,是目前业内最长的长度,有望在多文档摘要、解析大量数据以执行个性化任务、代码库推理等功能实现突破。2)原生多模态能力:文本、图像、视频等数据统一编码训练。3)训练成本:使用混合专家 (MoE) 架构的模型优化配置,Maverick输入输出成本低至每百万tokens 0.19美元。4)2万亿参数模型:Behemoth将成为Meta迄今为止最强大的模型,并且可支持Scout、Maverick等模型训练,摊销学生训练的部分计算成本。
Llama 4在多模态和上下文处理等方面取得突破,并通过MoE架构实现性能与成本的平衡,2万亿参数大模型的研发进一步印证Meta技术能力和工程能力,推动AI产业进步并支持AI广告、Meta AI、端侧AI等业务发展。我们认为当下股价回调系政策因素导致市场对经济环境的担忧,但短期关税对公司直接冲击有限,经济波动中效果广告韧性更强;中期公司成长逻辑清晰,新产品和AI机遇有望对冲宏观风险;当前股价对应2025年19倍PE,估值处于过去5年约25%百分位,投资价值凸显,持续看好Meta的社交龙头地位与AI机遇。
欢迎联系中信证券前瞻团队!
2025年4月5日,Meta发布Llama 4多模态模型Scout和Maverick,支持超长上下文和多模态能力,并预告2万亿总参数的教师模型Behemoth。
--- Scout:170亿活跃参数,16个专家,总参数1090亿,MoE架构,支持1000万token超长上下文窗口。适用于单个 NVIDIA H100 GPU;基准测试中比 Gemma 3、Gemini 2.0 Flash-Lite 和 Mistral 3.1 提供更好的结果。
---Maverick:170亿活跃参数,128个专家,总参数4000亿,MoE架构。基准测试中击败了 GPT-4o 和 Gemini 2.0 Flash,在推理和编码方面取得了与新 DeepSeek v3 相当的结果,实验性聊天版本在LMArena上的ELO得分1417。
---Behemoth(训练中):2880亿活跃参数,16个专家,总参数接近2万亿,是Meta迄今为止最强大的模型,STEM 基准测试中的表现优于GPT-4.5、Claude Sonnet 3.7和Gemini 2.0 Pro,目前仍在训练中,将在未来数月内发布。
主要亮点:1)超长上下文:Scout支持1000 万token的上下文,是目前业内最长的长度,有望在多文档摘要、解析大量数据以执行个性化任务、代码库推理等功能实现突破。2)原生多模态能力:文本、图像、视频等数据统一编码训练。3)训练成本:使用混合专家 (MoE) 架构的模型优化配置,Maverick输入输出成本低至每百万tokens 0.19美元。4)2万亿参数模型:Behemoth将成为Meta迄今为止最强大的模型,并且可支持Scout、Maverick等模型训练,摊销学生训练的部分计算成本。
Llama 4在多模态和上下文处理等方面取得突破,并通过MoE架构实现性能与成本的平衡,2万亿参数大模型的研发进一步印证Meta技术能力和工程能力,推动AI产业进步并支持AI广告、Meta AI、端侧AI等业务发展。我们认为当下股价回调系政策因素导致市场对经济环境的担忧,但短期关税对公司直接冲击有限,经济波动中效果广告韧性更强;中期公司成长逻辑清晰,新产品和AI机遇有望对冲宏观风险;当前股价对应2025年19倍PE,估值处于过去5年约25%百分位,投资价值凸显,持续看好Meta的社交龙头地位与AI机遇。
欢迎联系中信证券前瞻团队!
来源:xiaozuowen日期:2025-04-06