GPU 内存占用精准定位工具
推荐指数 68.0 NO. 003 · 2026.11.05
Stars105创建1 天前Forks6Issues3
简介
gputaskman 是一个终端 UI 工具，能按进程拆解 GPU 内存去向（模型权重、KV cache、运行时等），覆盖 Windows/Linux/WSL/macOS 多平台。解决 AI 工程师本地跑模型时"显存满了但不知道谁吃了"的痛点，比系统自带工具颗粒度细 10 倍。
A GPU task manager for Windows, Linux, and WSL: per-process VRAM, GPU activity, and LLM model/KV-cache insights (Windows AMD and NVIDIA).
媒体预览
编辑判断
之前大家排查 GPU 内存问题基本靠 nvidia-smi 或 py-spy 猜，只能看到进程级占用，分不清是模型权重膨胀还是 KV cache 泄漏。gputaskman 直接关联到具体模型文件和 LLM buffer 类型，这对调试量化失败、OOM 定位、多卡负载不均非常关键。
同类工具里，nvtop 只有 Linux 且不做语义拆解，NVIDIA Nsight 太重且学习曲线陡峭。这个工具的定位像是 GPU 版的 htop + lsof 混合体，轻量且对本地 LLM 场景做了特化。
如果你在本地用 Ollama、llama.cpp 或 Unsloth 跑微调，经常遇到"明明 24G 显存为什么 13B 模型都塞不下"的困惑，建议直接替换掉你现在的监控习惯。
Star History
生态分析
Beta
面向AI开发者的跨平台GPU显存精细化诊断工具，填补系统工具与ML框架间的观测空白
独特价值：进程级显存拆解至模型权重/KV cache维度，解决黑盒化显存占用痛点