新闻
Day-0 支持:摩尔线程完成美团 LongCat-2.0 极速适配
1 分钟阅读
来源:ithome.com
IT之家 7 月 6 日消息,今天,美团将万亿参数大模型 LongCat-2.0 正式开源。摩尔线程随后宣布,基于 AI 训推一体全功能 GPU 智算卡 MTT S5000 及 MUSA 软件栈, 已完成对该模型的快速适配 。 ▲ LongCat-2.0 模型在 MTT S5000 上运行 据介绍,此次适配覆盖模型加载、推理引擎拉起、关键算子优化、部署验证与精度校验等全链路环节,使 LongCat-2.0 能够在 MTT S5000 上实现稳定、高效的推理运行。 作为美团自研的新一代万亿参数 MoE 大模型,LongCat-2.0 总参数量达 1.6T(平均激活约 48B,动态范围 33B~56B)。该模型 专为 Agentic Coding 场景设计,原生支持 1M 超长上下文 ,并通过自研稀疏注意力机制(LSA)、ScMoE 跨层快捷连接架构与零计算专家动态激活机制,实现了资源的高效利用与多任务协同。 摩尔线程技术团队依托 SGLang-MUSA 推理引擎及 MUSA 软件生态,围绕 LongCat-2.0 的模型结构和推理特性,快速完成从框架兼容到性能优化的全链路适配。 硬件原生 FP8 加持,释放长上下文推理性能 LongCat-2.0 面向更复杂的任务处理需求,在实际部署中往往涉及长输入、多轮上下文、复杂指令分解和持续生成等推理负载,对 GPU 算力、显存容量、访存带宽和推理调度能力均提出更高要求。MTT S5000 具备硬件级原生 FP8 加速能力,单卡具备高算力、大容量显存与高带宽,可为长上下文输入、KV Cache 读写和高并发推理提供稳定支撑。结合 SGLan