KV Cache 管理策略对比：vLLM 的 PagedAttention 与 SGLang 的 RadixAttention
在线大模型服务中，KV Cache 的显存分配与复用直接决定吞吐与延迟。本文对比 vLLM 的 PagedAttention 与 SGLang 的 RadixAttention，解释块式分页、前缀树复用、驱逐策略与调度差异，并给出不同工作负载下的选型建议。
#RadixAttention
共 2 篇文章
AI 推理系列（八）：Prefix Caching 如何减少 Agent 重复 Prefill：从 KV 复用到 RadixAttention
围绕 Agent、RAG 与多轮对话中反复出现的长 System Prompt、工具定义和历史前缀，解释 Prefix Caching 如何复用已计算的 KV Cache，分析 vLLM Block Hash、SGLang RadixAttention、缓存淘汰、多级存储及命中率对 TTFT 与吞吐的影响。