Tin công nghệ › Phần cứng

PS4 đời cũ bỗng hóa thành máy AI nhờ mã nguồn mở Garlic LLM

Một lập trình viên đã phát triển ứng dụng Garlic LLM cho phép máy PlayStation 4 đã jailbreak chạy mô hình AI 9 tỷ tham số Qwen3.5 ngoại tuyến trực tiếp trên GPU từ năm 2013. Dự án này tận dụng tối đa kiến trúc phần cứng cũ với tốc độ phản hồi ấn tượng từ 31 đến 43 token mỗi giây.

Tom's Hardware20:00 16/11/20261 phút đọc1 lượt đọc

Ảnh: Tom's Hardware

Lập trình viên Leonardo Alegría vừa cho ra mắt mã nguồn mở Garlic LLM, cho phép một chiếc PlayStation 4 đã jailbreak chạy mô hình AI Qwen3.5-9B với 9 tỷ tham số hoàn toàn ngoại tuyến ngay trên phần cứng đồ họa từ năm 2013 của cỗ máy. Ứng dụng này giao tiếp trực tiếp với GPU, trong đó mô hình được thu gọn xuống khoảng 4,5GiB để vừa vặn với bộ nhớ của console, đạt tốc độ từ 31 đến 39 token mỗi giây.

Dự án này được đặt tên theo loại bộ nhớ mà GPU đọc trực tiếp — loại bộ nhớ

Bài gốc (tiếng Anh): Jailbroken PS4 runs 9-billion-parameter AI model at up to 43 tokens per second
Nguồn: Tom's Hardware · Bản dịch tiếng Việt của VGSNews, chỉ để tham khảo.
FacebookTelegramX← Tin khác