覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信,3 道题持续更新。
MoE 模型推理有哪些特有的挑战?
DeepSeek MoE 的"共享专家 + 细粒度专家"设计有什么好处?
什么是 Grouped GEMM?为什么 MoE 推理需要它?