🎯 AI Infra 面试题库
高频面试真题
覆盖 GQA / FlashAttention / PagedAttention / MoE / 量化 / 分布式通信，5 道题持续更新。
0102030405
困难系统设计系统设计推理系统面试高频
如何设计一个高并发、低延迟的 LLM 在线推理服务？
7 0 0
困难系统设计系统设计量化vLLM
如果让你把一个 70B 模型部署到 2 张 A100 80G 上，你会怎么做？
5 0 0
困难系统设计系统设计推理系统PD分离
Prefill/Decode 分离（Disaggregation）架构的动机和挑战是什么？
5 0 0
困难系统设计系统设计推理系统Mooncake
Mooncake 的以 KV Cache 为中心的架构有什么特点？
6 0 0
困难系统设计系统设计负载均衡面试高频
在线服务中如何做 LLM 的负载均衡？为什么简单轮询不够？
6 0 0