Prime Intellect 发布 Blackwell 架构优化的 MoE 推理内核 Prime Flash MoE
Prime Intellect 发布了针对 Blackwell 架构优化的 CUDA 内核集合 Prime Flash MoE,专为混合专家模型(MoE)推理设计。该工具融合了路由感知 GEMM、SwiGLU、量化和归约操作,避免物化中间结果,支持 BF16 与 MXFP8 路径,并在 B200 GPU 上完成基准测试。这为开发者在最新硬件上部署 MoE 模型提供了更高效的底层支持。
簇级候选:8 个已有簇, 共 8 条代表。