Moonshot 的计算高效 MoE 大语言模型,首次对 Muon 优化器进行规模化扩展 • 共 3 项资源 • 更新于 1 月 27 日
Moonshot AI 开源 Moonlight 16B MoE 指令模型
AI智能总结
月之暗面发布 Moonlight 16B-A3B-Instruct 指令微调模型,采用混合专家架构,在 HuggingFace 引起广泛关注。
月之暗面发布 Moonlight 16B-A3B-Instruct 指令微调模型,采用混合专家架构,在 HuggingFace 引起广泛关注。