Инженер Microsoft представил открытую утилиту gputaskman для мониторинга процессов на GPU

Скотт Хансельман, вице-президент и технический специалист Microsoft и GitHub, представил открытый проект gputaskman. Это утилита для Windows, Linux, WSL и macOS, которая показывает, какие процессы используют мощности графического процессора. Код написан на Python с помощью Copilot и опубликован на GitHub под лицензией MIT.

Хансельман объяснил, что штатные средства Windows дают мало информации о загрузке GPU: диспетчер задач показывает лишь общий уровень загрузки и температуру, а объём видеопамяти по процессам спрятан во вкладке «Подробности» и почти ничего не говорит о характере нагрузки. По его словам, система может сообщить «использовано 15 ГБ», но не объясняет, идёт ли речь о весах нейросети, KV-кэше, браузере или композиторе рабочего стола.

gputaskman отображает загрузку GPU, потребление видеопамяти, температуру, энергопотребление, тактовые частоты, активность кодировщиков и декодеров и обмен данными по шине PCIe — все показатели разбиты по отдельным процессам. Утилита также распознаёт запущенные процессы больших языковых моделей и показывает веса модели, квантование, число слоёв и объём занятой видеопамяти.

Хансельман подчеркнул, что проект находится на ранней стадии: точны только измерения по устройствам и процессам, а классификации на основе формата GGUF носят оценочный характер. Инструмент не делает дамп видеопамяти и не инвентаризирует текстуры в играх, а область применения ограничена локальными задачами — работа с облаком в неё не входит.

В планах разработчика — поддержка сред выполнения ONNX Runtime, PyTorch и TensorRT, работа с GPU AMD и Intel на Linux, портативная сборка для macOS и интеграция с LM Studio.