DAIR.AIhighconfig v28
Kimi K3 正式开源:2.8万亿参数MoE架构,支持百万上下文
摘要与判断
月之暗面正式开源其最新旗舰模型 Kimi K3 的模型权重并发布技术报告。Kimi K3 采用 2.8 万亿参数的 MoE 架构,具备原生视觉理解能力和高达 100 万 token 的上下文窗口,其全新架构使单位算力的智能水平提升了 2.5 倍。这一超大规模模型的开源显著拓宽了开源社区的能力边界,为长文本处理与多模态前沿研究提供了顶级的开源基础设施。
Topics
引用和原文
Trace
- Raw Item
- raw_00646756bbcf4803
- Processed Item
- processed_917de7fc1f48455d
- Source
- source_x_feishu_candidate_dair_ai
- Cluster
- 查看所属簇
- LLM Logs
- llm_6ae1c1e6176a4234, llm_92b6a4bd706045af, llm_378f7ceaabbf45e6
- Coze Loop
- 1cb397098466cb5a8a483e5b91fff0db