PS4 đời cũ bỗng hóa thành máy AI nhờ mã nguồn mở Garlic LLM
Một lập trình viên đã phát triển ứng dụng Garlic LLM cho phép máy PlayStation 4 đã jailbreak chạy mô hình AI 9 tỷ tham số Qwen3.5 ngoại tuyến trực tiếp trên GPU từ năm 2013. Dự án này tận dụng tối đa kiến trúc phần cứng cũ với tốc độ phản hồi ấn tượng từ 31 đến 43 token mỗi giây.

Lập trình viên Leonardo Alegría vừa cho ra mắt mã nguồn mở Garlic LLM, cho phép một chiếc PlayStation 4 đã jailbreak chạy mô hình AI Qwen3.5-9B với 9 tỷ tham số hoàn toàn ngoại tuyến ngay trên phần cứng đồ họa từ năm 2013 của cỗ máy. Ứng dụng này giao tiếp trực tiếp với GPU, trong đó mô hình được thu gọn xuống khoảng 4,5GiB để vừa vặn với bộ nhớ của console, đạt tốc độ từ 31 đến 39 token mỗi giây.
Dự án này được đặt tên theo loại bộ nhớ mà GPU đọc trực tiếp — loại bộ nhớ
Nguồn: Tom's Hardware · Bản dịch tiếng Việt của VGSNews, chỉ để tham khảo.