RTX PRO 6000 および DGX Spark 向け vLLM における NVFP4 KV キャッシュ（将来的に RTX Spark も対応予定...？）

TL;DR

コンシューマーおよび SoC 向け Blackwell ハードウェアにおいて、vLLM でネイティブな NVFP4 KV キャッシュサポートを実装するための技術解説。Gemma 4 の 512 幅ヘッドを有効にするための VO 分割テクニックを紹介。