FlashAttention

FlashAttention

针对 GPU 访存与并行瓶颈，梳理 FlashAttention 1–3 的分块、在线 Softmax 和异步流水线设计。