28

10月

星期三

13:37

DiffuSpace开源Clover-35B-A3B:MoE扩散模型提速至680 tokens/s

火星财经消息 10月28日,扩散智能DiffuSpace发布并开源扩散语言模型Clover-35B-A3B-Preview。模型采用MoE架构,总参数350亿、单token激活约30亿,支持128K上下文与块扩散生成;在智能体编程、工具调用等任务上,评测表现超过Mercury 2.5及同尺寸Qwen3.6-35B-A3B。 技术侧重构门控Delta网络,以递归状态压缩历史上下文,结合双向注意力与可学习块大小校准适配块级并行去噪。权重代码已上架Hugging Face、GitHub,支持SGLang、llama.cpp,内部测试整体生成速度达680 tokens/s,较同规模自回归方案最高快5—10倍。(广角观察)

本内容旨在传递行业动态,不构成投资建议或承诺。