我们如何为 GLM-5.2 构建全球最快的 API

TL;DR

Baseten 详细介绍了其 GLM-5.2 API 背后的工程实践，通过 NVFP4 量化、解耦推理和 MTP 技术，实现了每秒 280 个以上的 token 生成速度。