算子训练营

手写 AI Infra 核心算子

LeetCode for AI Infra:从 RMSNorm、RoPE 到 FlashAttention,在线编写 Python 实现并即时评测。

#题目难度状态
1

实现 RMSNorm

归一化基础算子
简单
2

实现 Rotary Position Embedding (RoPE)

位置编码Attention
中等
4

实现数值稳定的 Softmax

基础算子Attention
简单
5

实现 FlashAttention-2 前向

FlashAttentionAttentionIO-aware
困难
6

vLLM kv cache 管理

困难