Mac Studio và Apple Silicon chính là

Apple đã xây dựng hạ tầng cho mọi thứ trừ mô hình biên

Khoảng thời gian qua, dư luận thường cho rằng Apple đã hụt hơi trong cuộc đua trí tuệ nhân tạo vì họ không sở hữu một mô hình ngôn ngữ lớn (LLM) hàng đầu. Tính năng Siri AI bị trì hoãn và sự ra mắt của Apple Intelligence không mấy suôn sẻ. Nhưng nhìn lại, có lẽ Apple đã đúng khi không lao vào cuộc đua đốt tiền đó. Các phòng thí nghiệm AI đang phải chi hàng tỷ USD mua GPU để giành vị trí dẫn đầu trong vài tháng ngắn ngủi, trong khi ngay khi một mô hình đạt chuẩn ra mắt, các phiên bản mã nguồn mở chạy trực tiếp trên phần cứng sẵn có sẽ nhanh chóng xuất hiện.

Các mô hình mở là minh chứng rõ ràng nhất: Muse Spark Open sở hữu tới 816 tỷ tham số, 42 tỷ tham số hoạt động cùng cửa sổ ngữ cảnh một triệu token, và Meta phát hành hoàn toàn miễn phí. Apple không tạo ra LLM đó, nhưng họ chế tạo phần cứng để chạy nó. Dù vậy, rõ ràng Siri vẫn còn một chặng đường dài phải theo kịp.

Nhìn vào những gì Apple đã âm thầm tung ra trong lúc mọi người chờ đợi họ cạnh tranh với Anthropic hay OpenAI. Nhờ kiến trúc bộ nhớ thống nhất (unified memory) của Apple Silicon, GPU có thể tận dụng tối đa dung lượng lên tới 512 GB trên một chiếc Mac Studio duy nhất, thay vì bị giới hạn trong VRAM chật chội của card đồ họa truyền thống.

MLX là framework học máy chuyên dụng của Apple, được thiết kế tối ưu riêng cho kiến trúc bộ nhớ thống nhất trên Apple Silicon. Nếu từng dùng NumPy, bạn sẽ cảm thấy quen thuộc ngay lập tức với API này. Hơn thế nữa, MLX tích hợp các gói cấp cao dành cho mạng neural và bộ tối ưu hóa, cùng khả năng chuyển đổi hàm hỗ trợ tự động đạo phân và tối ưu hóa đồ thị, giúp xây dựng các mô hình phức tạp mà vẫn đảm bảo hiệu suất. Framework này cũng hỗ trợ Swift, C++ và C, cho phép chạy trên mọi nền tảng của Apple.

Các bài đăng nghiên cứu về máy học của Apple cho thấy bốn chiếc M5 Ultra Mac Studios có thể chạy Muse Spark Open với tốc độ hơn 36 token mỗi giây — nhanh hơn tốc độ đọc của con người — trong khi mức tiêu thụ điện chỉ dao động quanh ngưỡng 300 watt cho mỗi máy.

Meta đã đưa ra nhận định về thiết lập này:

> Kiến trúc bộ nhớ thống nhất của Apple cho phép GPU tích hợp trên M5 Ultra tận dụng tối đa 512 GB trên mỗi Mac Studio, do đó chỉ cần hai cỗ máy là có thể chứa toàn bộ mô hình. Băng thông bộ nhớ 1.2 TB/s của con chip đủ nhanh để đọc phần dữ liệu nhỏ cần thiết cho mỗi token. Kết quả là hai chiếc Mac Studio vận hành mượt mà hệt như một siêu máy tính với một terabyte bộ nhớ thống nhất.

> Chúng tôi đã thử nghiệm hàng loạt quy trình tác vụ tự động chạy hoàn toàn trên thiết bị, sử dụng Muse Code vận hành bởi Muse Spark Open, bao gồm việc phát hành các thay đổi mã nguồn thực tế cho Ice Cubes — một ứng dụng mã nguồn mở của Mastodon — từ việc sửa lỗi, tính năng mới cho đến biên dịch hoàn chỉnh, đồng thời điều khiển DaVinci Resolve từ đầu đến cuối để mô hình đánh giá từng khung hình và tự động cắt dựng dọc.

Đây chính là tinh thần của dòng máy chủ Xserve được tái sinh cho năm 2026. Apple từng khai tử Xserve vào năm 2011 vì chẳng ai muốn đặt máy Mac trong trung tâm dữ liệu. Giờ đây, chỉ với vài chiếc Mac Studio, người ta có thể lưu trữ một mô hình AI vốn trước đây đòi hỏi cả một tủ rack phần cứng Nvidia tốn kém điện năng, nhưng lại hoạt động êm ái đến mức có thể đặt gọn gàng ngay dưới bàn làm việc.

Hoạt động trơn tru ngay trên MacBook 16 GB

Câu chuyện về Mac Studio thu hút nhiều sự chú ý, nhưng điều quan trọng nhất với phần lớn đội ngũ IT lại nằm ở phân khúc phổ thông hơn. Osaurus là một công cụ AI mã nguồn mở miễn phí dành cho Mac, giúp quản lý các mô hình cục bộ hoạt động ngoại tuyến, đồng thời có thể gọi đến các mô hình biên khi cần thiết. Một tính năng cực kỳ thông minh là ứng dụng này sẽ chạy một mô hình cục bộ nhỏ trước để quét tên, số điện thoại và số tài khoản trong đoạn văn bản bạn dán vào, sau đó thay thế bằng các ký tự ẩn danh trước khi gửi bất kỳ dữ liệu gì lên Claude hay OpenAI.

Osaurus hoàn toàn không có máy chủ hay cơ sở dữ liệu khách hàng. Ứng dụng này hoạt động độc lập và tiếp tục vận hành cho đến khi hệ điều hành macOS không còn tương thích. Cá nhân có thể sử dụng miễn phí, trong khi gói trả phí Workspaces hướng đến các nhóm muốn chia sẻ tác vụ giữa các máy Mac nội bộ. Ngoài ra, phiên bản beta cho Windows cũng đã có sẵn, giúp củng cố vị thế của hệ sinh thái Mac nhờ lợi thế về bộ nhớ thống nhất.

Tổng kết

Sự tiến bộ của các mô hình cục bộ đang diễn ra với tốc độ chóng mặt, và không lâu nữa chúng sẽ đạt được năng lực tương đương các mô hình biên hiện tại. Khoảng cách đó sẽ ngày càng thu hẹp, và các giải pháp "đủ tốt" chính là thứ nhân viên văn phòng cần trong phần lớn thời gian làm việc. Thay vì cố gắng chạy đua theo các mô hình biên đắt đỏ, Apple đã đầu tư kiên trì vào dung lượng bộ nhớ, băng thông và framework phần mềm, để rồi giờ đây, mô hình mã nguồn mở tiên tiến nhất lại được tối ưu hóa tối đa cho máy Mac.