Y Combinatorhighconfig v28

DeepGrove发布开源三元权重推理模型Maple-Preview,端侧推理速度达200+ tokens/s

摘要与判断

DeepGrove 发布开源 20B-A1B 三元权重推理大语言模型 Maple-Preview,在同等参数级别中达到 SOTA,并具备解决 IMO 级别数学问题的能力。该模型在 Mac Mini M4 上的推理速度超过 200 tokens/s,比 Gemma 4、Qwen3.5 等高效模型快 5 至 16 倍。这一技术突破大幅提升了端侧设备的复杂推理效率,为低位宽模型在消费级硬件上的部署确立了新标杆。

Topics

引用和原文

Trace

Raw Item
raw_307e8a30a9ea48ef
Processed Item
processed_4400520a274a4634
Source
source_x_ycombinator
Cluster
查看所属簇
LLM Logs
llm_591cb559dd35477e, llm_8edd9b77676e4da2, llm_11806669f8004268
Coze Loop
9837a12b49997b7b7c0a78d7ced25991