Mistral AI·· 2026-01-22精选AI 评分62
Mistral AI 深度排查 vLLM 内存泄漏：从 Heaptrack 到 BPFtrace 和 GDB 最终定位 UCX mmap 钩子问题
Heaps do lie: debugging a memory leak in vLLM.
AI 导读
Mistral AI 工程团队复盘在 vLLM Prefill/Decode 分离部署（使用 NIXL）Mistral Medium 3.1 并启用 graph compilation 时遇到的内存泄漏，生产级流量下系统内存以每分钟 400 MB 线性增长，数小时后触发 out of memory。
推荐理由
完整复盘了从 Heaptrack、pmap、BPFtrace 到 GDB 逐层下钻的内存泄漏排查路径，方法可直接迁移到类似生产问题。
来源：Mistral AI · mistral.ai