DeepGrove 开源三值权重推理模型 Maple-Preview，端侧运行速度达 200+ tokens/s

摘要与判断

DeepGrove 推出开源三值权重推理大语言模型 Maple-Preview，参数规模为 20B-A1B。该模型在其权重级别达到 SOTA，能解决 IMO 级别问题，并在 Mac Mini M4 上实现 200+ tokens/s 的运行速度，比同类高效模型快 5-16 倍。这一发布展示了三值权重模型在端侧设备上实现极高推理速度与复杂问题解决能力的潜力。

Topics

引用和原文

• been working with these guys as they quietly built this in stealth for the last year. Supe
• 原文链接

Trace

Raw Item

raw_19b90e9ebcbc4269

Processed Item

processed_801806eec18441b8

Source

source_x_garrytan

Cluster

查看所属簇

LLM Logs

llm_69de6972896d4db9, llm_993498e9489b4a75, llm_0720db5349b643b8

Coze Loop

0a72c24f2c6e1d9c65f3c915ecb9cb6c