DAIR.AIhighconfig v28

Kimi K3 正式开源:2.8万亿参数MoE架构,支持百万上下文

摘要与判断

月之暗面正式开源其最新旗舰模型 Kimi K3 的模型权重并发布技术报告。Kimi K3 采用 2.8 万亿参数的 MoE 架构,具备原生视觉理解能力和高达 100 万 token 的上下文窗口,其全新架构使单位算力的智能水平提升了 2.5 倍。这一超大规模模型的开源显著拓宽了开源社区的能力边界,为长文本处理与多模态前沿研究提供了顶级的开源基础设施。

Topics

引用和原文

Trace

Raw Item
raw_00646756bbcf4803
Processed Item
processed_917de7fc1f48455d
Source
source_x_feishu_candidate_dair_ai
Cluster
查看所属簇
LLM Logs
llm_6ae1c1e6176a4234, llm_92b6a4bd706045af, llm_378f7ceaabbf45e6
Coze Loop
1cb397098466cb5a8a483e5b91fff0db