覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信，2 道题持续更新。
CUDA 中 warp、block、grid、SM 的关系是什么？
CUDA 中 Global Memory、Shared Memory、Register 的区别？为什么 kernel 优化要关注它们？