AI Infra Academy
🎯 AI Infra 面试题库

高频面试真题

覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信,5 道题持续更新。

01
中等AttentionAttentionGQAMQA

MHA、MQA、GQA 有什么区别?为什么现在主流用 GQA?

12 0 0
02
中等AttentionAttentionFlashAttention面试高频

FlashAttention 的核心思想是什么?它优化了什么?

9 0 0
03
中等AttentionAttention数值稳定面试高频

为什么 Softmax 需要做数值稳定处理(减去最大值)?

7 0 0
04
中等AttentionAttentionRoPE长上下文

RoPE(旋转位置编码)是什么?为什么利于长上下文外推?

8 0 0
05
困难AttentionAttentionKV CacheMLA

MLA(Multi-head Latent Attention)是什么?它如何减小 KV Cache?

8 0 0