vLLM 上生产级 Kimi K3 支持的预览
A Preview of Production-Scale Kimi K3 Support on vLLM
摘要
vLLM 发布了生产级 Kimi K3 模型支持的预览，包含 KDA 感知前缀缓存、融合内核、优化的 MXFP4 MoE、多模态集成，以及初步的 NVIDIA 和 AMD 硬件路径。
vLLM 中生产级 Kimi K3 支持的预览，包括 KDA 感知前缀缓存、融合内核、优化的 MXFP4 MoE、多模态集成，以及初步的 NVIDIA 和 AMD 路径。
译自 vLLM · 官方博客 · 录于 二〇二六年七月二十二日