开发者分享大模型长推理实测：耗时21分钟消耗超2万推理Token

摘要与判断

开发者 Simon Willison 分享了一次大模型生成任务的完整记录，该过程耗时近21分钟，消耗了22276个推理 token，最终生成3223个输出 token。这一实测数据直观展示了当前大模型在处理复杂生成任务时的时间与算力成本，对关注长上下文推理与实际应用性能的开发者具有一定的参考价值。

Topics

引用和原文

• It did take nearly 21 minutes to generate, and used 22,276 reasoning tokens to produce 3,2
• 原文链接

Trace

Raw Item

raw_09313afcc3024f67

Processed Item

processed_7666878ad7a84c93

Source

source_x_simonw

Cluster

查看所属簇

LLM Logs

llm_08bd483ffff246af, llm_e23e53b4bb1f4310, llm_bab791ed8ab14527

Coze Loop

c6f7763d61ea7b79acd17e5afef16483