Trình quản lý tác vụ GPU mã nguồn mở giúp vạch mặt nguyên nhân hút sạch VRAM

Phó chủ tịch Microsoft Scott Hanselman đã tiết lộ một dự án mã nguồn mở mới trên GitHub có tên là gputaskman. Tên gọi này đã tóm tắt gọn gàng vai trò chính của công cụ, một trình quản lý tác vụ tập trung vào GPU, nhưng phạm vi hoạt động của nó có thể rộng hơn bạn tưởng. Công cụ mới dành cho Windows, Linux và macOS này có thể hiển thị mức sử dụng GPU theo từng tiến trình, lượng VRAM tiêu thụ, thời gian chạy hoạt động và nhiều thống kê khác. Nó cũng tách riêng các thông tin cụ thể về tác vụ AI/LLM.

Trên mạng xã hội, Hanselman đã nhanh chóng làm rõ nhu cầu kỹ thuật mà gputaskman được thiết kế để giải quyết. Gương mặt đại diện nổi bật của hệ sinh thái nhà phát triển Microsoft cho biết: "Có rất nhiều thứ đang diễn ra trong GPU của tôi. Tôi đang tạo ra một GPU Taskman để có cái nhìn chi tiết về việc bộ nhớ GPU của mình đang đi về đâu."

Có một số hình ảnh chụp màn hình ví dụ về GPU Taskman đang được sử dụng bởi vị Phó chủ tịch Microsoft. Chúng thể hiện rõ ràng các loại dữ liệu được trình bày trong giao diện giống như dòng lệnh xuất hiện trong công cụ. Bài đăng trên Twitter của Hanselman cho thấy ứng dụng ngốn nhiều VRAM nhất trên hệ thống trang bị RTX 4080S của ông chính là trình quản lý cửa sổ màn hình nền (desktop windows manager). Tiến trình đó được chọn trong danh sách và nhiều chi tiết hơn được hiển thị cho tác vụ này ở cuối cửa sổ. Ngoài ra, chúng ta còn thấy các ứng dụng AI/LLM tiêu thụ VRAM cùng một số tác vụ quen thuộc của Windows.

Trong một hình ảnh được tích hợp trên GitHub, chúng ta có thể thấy các chi tiết nào được bóc tách khi ứng dụng llama-server.exe được chọn trong danh sách. Phần phân tích ở cuối cửa sổ tiết lộ rằng Qwen3-0.6B đang được sử dụng, đồng thời cung cấp bảng chi tiết về trọng số, bộ nhớ đệm KV, số lượng tham số và nhiều thông tin khác. Rất nhiều thông tin hữu ích.

Vì nhà phát triển của Microsoft đã cung cấp các bản tải xuống dạng portable cho Windows của phiên bản gputaskman v0.3.0 mới nhất, tôi đã không thể cưỡng lại việc thử nghiệm nó. Khi khởi chạy, tôi nhận thấy không có tác vụ nào sử dụng GPU rời trên laptop của mình... vì vậy tôi đã khởi động lại bài kiểm tra hiệu năng Unigine Valley cũ kỹ để đánh thức chiếc RTX 4060 khỏi giấc ngủ. Tôi nhận thấy các biểu đồ phát trực tiếp hiển thị tải GPU, mức sử dụng VRAM, nhiệt độ và các thông số khác nổi bật hơn trong ảnh chụp màn hình của tôi so với các ví dụ của Hanselman. Có lẽ ông ấy đã chụp màn hình một phiên bản trước đó của công cụ này.

Có rất nhiều thông tin khác về gputaskman, hoạt động bên trong và thậm chí cả mã nguồn của nó, trên kho lưu trữ GitHub được liên kết. Hanselman đang chia sẻ công cụ "phần mềm thử nghiệm" của mình theo giấy phép MIT rộng rãi. Cuối cùng, trong các bình luận trên mạng xã hội, ông hé lộ rằng các khả năng giám sát GPU mở rộng có thể sẽ sớm xuất hiện trên Windows như một tính năng tiêu chuẩn.