Relace公布推理优化进展，称两周内跻身OpenRouter的DeepSeek服务前列

摘要与判断

Relace表示，其已将推理速度优化至“Fast Apply”每秒约1万词元、“Compact”每秒约5万词元；过去两周内，其服务已位居OpenRouter的DeepSeek相关服务前列。团队下一阶段将继续降低开源代码模型的部署成本，为代码代理用户提供更多低价推理服务选择，但目前仍属于阶段性优化进展。

Topics

引用和原文

• We've spent a lot of time optimizing inference for speed -- 10k tok/s Fast Apply and a 50k
• 原文链接

Trace

Raw Item

raw_b1fd4feb681946d8

Processed Item

processed_c0229443d74148e3

Source

source_x_stuffyokodraws

Cluster

查看所属簇

LLM Logs

llm_b478c7c175df44bd, llm_f158259bb078464f, llm_3243965247ef4dd9

Coze Loop

138b65c6b73e216cd5e8c851e00f6651