科技巨头Meta重磅推出了其极具突破性的开源人工智能 (AI) 模型——Llama 4系列。这一系列模型凭借创新的架构设计与强大的性能表现,在人工智能领域掀起了新的波澜。
Llama 4系列首次采用了混合专家(MoE)架构。这种架构极大地提升了模型训练和回答用户查询时的效率,它能够将模型巧妙地划分为多个专注于特定任务的 “专家” 子模型,让每个子模型各司其职,协同完成复杂的任务。
此次发布的Llama 4 Scout堪称性能最强的小尺寸模型。它拥有170亿的激活参数,配备16个“专家”模型,总参数量达1090亿。值得一提的是,Llama 4 Scout运行速度极快,并且原生支持多模态,其多模态上下文窗口高达1000万+ Token。更为惊艳的是,如此强大的它仅需单张H100 GPU即可流畅运行,为众多科研人员和开发者提供了便捷且高效的使用体验。
Llama 4 Maverick同样表现卓越,被誉为同级别中最佳的多模态模型。它与Llama 4 Scout 一样拥有170亿激活参数,但 “专家” 模型数量增加到了128个,总参数量飙升至4000亿。其上下文窗口超过100万,在多个主流基准测试中,Llama 4 Maverick成功击败了GPT-4o和 Gemini 2.0 Flash。在推理和编码能力方面,它与DeepSeek v3相当,然而其激活参数量却不到后者的一半,并且能够在单个主机上运行,在性能与资源占用之间达到了绝佳的平衡。
除了已经发布的Llama 4 Scout和Llama 4 Maverick,Meta还带来了预览版的Llama 4 Behemoth。这一模型堪称 Meta迄今最强,拥有2880亿激活参数,16个“专家”模型,总参数量更是达到令人惊叹的2万亿。在多个STEM基准测试中,Llama 4 Behemoth的表现优于GPT-4.5、Claude Sonnet 3.7和Gemini 2.0 Pro,展现出了在科学、技术、工程和数学等领域的强大实力。
所有这些模型均经过海量未标注的文本、图像和视频数据的深度训练,从而具备了广泛且深入的视觉理解能力。Meta方面表示,其人工智能助手Meta AI已在40个国家更新为使用 Llama 4模型,不过目前多模态功能仅在美国以英语提供。
来源:93913
稿件/商务合作: 向前(微信 Shixiangqian7)电话:18700987744
创始人:张明军(微信 13720775110)
更多精彩内容,请关注ARinChina微信公众号(ID:X增强现实)

评论