Tin công nghệ › Phần mềm & Web
Công cụ miễn phí giúp bạn kiểm tra ứng dụng nào đang ngốn GPU
Kỹ sư Scott Hanselman của Microsoft vừa phát triển gputaskman, một công cụ miễn phí giúp hiển thị chi tiết mức sử dụng GPU và VRAM của từng tiến trình. Ứng dụng này đặc biệt hữu ích trong việc theo dõi các tác vụ AI cục bộ và lượng RAM hệ thống mà GPU đang chiếm dụng.
Một công cụ miễn phí với cái tên có phần kỳ lạ sẽ cho bạn biết chính xác tiến trình nào đang sử dụng GPU trên PC của bạn. Kỹ sư Scott Hanselman của Microsoft đã tạo ra gputaskman nhằm hiển thị nhiều thông tin chi tiết hơn so với các công cụ tích hợp sẵn trên Windows 11.
Task Manager có thể hiển thị mức sử dụng GPU và tiêu thụ bộ nhớ theo từng tiến trình, nhưng nó cung cấp cái nhìn khá hạn chế về cách các ứng dụng đang sử dụng tài nguyên GPU thực tế ra sao. Bạn có thể xem thêm thông tin trong tab Details, nhưng chừng đó vẫn chưa thể phác hoạ bức tranh toàn cảnh.
Ứng dụng gputaskman hiển thị thông tin cho từng tiến trình riêng lẻ, chẳng hạn như mức sử dụng GPU và lượng VRAM tiêu thụ. Thay vì chỉ đơn thuần cho biết bộ nhớ GPU đang được sử dụng, gputaskman giúp xác định liệu bộ nhớ đó đang bị ngốn bởi một mô hình AI, trình duyệt web, quá trình kết xuất màn hình desktop hay một tiến trình nào khác.
Nó cũng có thể nhận diện các tác vụ AI chạy cục bộ và hiển thị thông tin chi tiết về các LLM đang chạy, bao gồm thông tin về mức sử dụng bộ nhớ của mô hình và các tài nguyên GPU liên quan. Ứng dụng này đồng thời hiển thị cả nhiệt độ GPU.
Hanselman đã giải thích mục đích của ứng dụng trên trang GitHub của gputaskman:
Task Manager báo 'Đã dùng 15 GB'. Công cụ này cố gắng giải đáp câu hỏi: do cái gì? Trọng số mô hình? Bộ nhớ đệm KV? Trình duyệt của bạn? Trình quản lý cửa sổ desktop? Và tại sao lại có nhiều bộ nhớ GPU nằm trong RAM hệ thống đến vậy?
Ứng dụng này vẫn đang trong giai đoạn đầu phát triển. Hanselman đã mời mọi người trên X tạo các yêu cầu pull request. Ngay lúc này, gputaskman hỗ trợ các PC chạy Windows sử dụng GPU AMD hoặc NVIDIA. Hanselman cho biết trong một bài đăng tiếp theo rằng mục tiêu là hỗ trợ Surface Laptop Ultra cùng các thiết bị RTX Spark và Windows on Arm.
Sáng kiến Hybrid intelligence mới được Microsoft công bố kết hợp giữa việc xử lý AI trên thiết bị với các dịch vụ AI dựa trên đám mây. Khi ngày càng có nhiều tác vụ AI chạy cục bộ trên PC, người dùng có thể sẽ cần khả năng hiển thị tốt hơn về cách các khối lượng công việc đó ảnh hưởng đến bộ nhớ GPU và hiệu suất. Các công cụ như gputaskman cung cấp cái nhìn chi tiết về tiến trình, mô hình và ứng dụng nào đang ngốn tài nguyên GPU.
Nguồn: Windows Central · Bản dịch tiếng Việt của VGSNews, chỉ để tham khảo.