在 RTX PRO 6000 與 DGX Spark 上實現 vLLM 的 NVFP4 KV cache（以及未來的 RTX Spark...？）

TL;DR

深入探討如何在 vLLM 中為消費級與 SoC Blackwell 硬體實現原生 NVFP4 KV cache 支援，並介紹能啟用 Gemma 4 的 512-wide heads 的 VO-split 技巧。