Tủ rack AI Kyber của NVIDIA tiêu thụ điện bằng cả một khu dân cư

Phần cứng AI tiếp tục tiến hóa với tốc độ chóng mặt trong những năm qua, gây ra không ít phiền toái cho người tiêu dùng liên quan đến tình trạng thiếu hụt DRAM. Tuy nhiên, một vấn đề lớn hơn nhiều đang xuất hiện trên đường chân trời mà các trung tâm dữ liệu hay chính phủ đơn giản là chưa được trang bị để xử lý: giải quyết hạ tầng điện năng. Khi các mô hình AI tiên tiến đòi hỏi các cụm lớn hơn để huấn luyện, mật độ công suất đang leo thang đến những mức độ khó tin.

Dữ liệu trực quan mới nhất làm nổi bật hệ thống tủ rack Kyber sắp ra mắt của NVIDIA, được xây dựng xung quanh nền tảng Rubin Ultra NVL576, và các con số tiết lộ một cuộc khủng hoảng cận kề đối với các trang trại máy chủ doanh nghiệp. Dưới đây là con số sẽ khiến bạn phải kinh ngạc: một tủ rack Kyber duy nhất sẽ yêu cầu lượng điện liên tục đáng kinh ngạc là 600kW, tương đương với mức tiêu thụ điện của khoảng 500 hộ gia đình trung bình ở Mỹ.

Các tủ rack máy chủ vào năm 2024 chỉ yêu cầu 8kW, khiến hệ thống Kyber của NVIDIA trở thành một "quái vật" thực sự khi nói đến nhu cầu ngốn điện.

Một ước tính dưới dạng biểu đồ đã được chia sẻ bởi Jessie Dong cho thấy sự gia tăng theo cấp số nhân về mức tiêu thụ điện năng qua các thế hệ GPU NVIDIA kế tiếp, vẽ ra một bức tranh ảm đạm về xu hướng nhu cầu điện cho điện toán hiệu năng cao. Xin nhắc lại, vào năm 2022, một tủ rack Hopper mật độ cao điển hình của NVIDIA tiêu thụ khoảng 40kW. Đến năm 2024, kiến trúc Blackwell NVL72 đã đẩy giới hạn đó lên khoảng 120kW.

Với việc Kyber dự kiến sẽ ra mắt vào nửa cuối năm 2027, nhu cầu điện năng sẽ vọt lên mức khổng lồ 600kW mỗi tủ, dẫn đến mức tăng đáng kinh ngạc gấp 5 lần so với Blackwell và tiêu thụ lượng điện gấp 75 lần so với một tủ rack máy chủ doanh nghiệp tiêu chuẩn 8kW. Với tình trạng thiếu hụt bộ nhớ, các bên chính có thể đơn giản là nâng cao năng lực sản xuất trong vài năm, giải quyết phần nào nhu cầu, nhưng đây lại là một tầm vóc vấn đề hoàn toàn mới.

Việc cung cấp mức điện năng này phức tạp hơn nhiều so với việc chỉ đơn giản là đảm bảo công suất lưới điện từ các nhà cung cấp tiện ích địa phương. Các nhà vận hành trung tâm dữ liệu hiện đại đang gặp phải những nút thắt phân phối nội bộ nghiêm trọng vì việc nâng cấp các cơ sở hiện có để cung cấp 600kW trực tiếp cho từng diện tích tủ rack là gần như bất khả thi. Amazon ước tính đã chi 5 tỷ USD cho việc giao các tủ rack GB300, nhưng họ không có cách nào cấp nguồn cho những GPU AI này vì hạ tầng đơn giản là chưa chuẩn bị để xử lý tải trọng lớn như vậy.

Vấn đề không dừng lại ở Amazon, bởi vì các phòng thí nghiệm AI lớn nhất luôn ngốn các kiến trúc mới nhất đầu tiên, có nghĩa là các nhà vận hành trung tâm dữ liệu hy vọng thu hút doanh thu từ AI tiên tiến phải xây dựng các cơ sở chuyên dụng từ con số không. Chúng tôi đã từng đưa tin vào năm 2025 rằng cơn sốt trung tâm dữ liệu AI lớn đến mức lưới điện quốc gia đang ở trạng thái nghẽn cổ chai, và với 600kW điện năng yêu cầu, một cảnh báo lớn đang được gửi tới các nhà cung cấp dịch vụ quy mô lớn (hyperscalers).

Trừ khi các trung tâm dữ liệu tương lai được thiết kế lại hoàn toàn từ nguồn điện chính cho đến các manifold làm mát, làn sóng AI tạo sinh tiếp theo sẽ rơi vào tình trạng bơ vơ không đủ điện để khởi động.