Nvidia muốn biến hơn 130 tòa nhà viễn thông cũ thành trung tâm dữ liệu siêu nhỏ

Nhà cung cấp dịch vụ internet và viễn thông Brightspeed được cho là đang đàm phán với Nvidia để chuyển đổi một số tòa nhà của mình thành các trung tâm dữ liệu siêu nhỏ. Theo tờ The Information, Nvidia đã đưa ra ý tưởng này với các giám đốc điều hành của Apollo Global Management - công ty mẹ của Brightspeed, và sau đó được yêu cầu nộp bản kế hoạch chi tiết bằng văn bản cho nhà cung cấp internet này.

Nvidia đã tuân thủ yêu cầu và hiện đang yêu cầu cung cấp thêm thông tin, dữ liệu cũng như thực hiện các chuyến khảo sát thực tế tại một số cơ sở hiện có của Brightspeed.

Công ty viễn thông này sở hữu khoảng 130 tòa nhà nằm rải rác trên khắp đất nước, nhiều tòa nhà trong số đó đã được xây dựng sẵn để xử lý lưu lượng dữ liệu và thoại, đồng thời có cơ sở hạ tầng điện cần thiết để vận hành các máy chủ Nvidia.

Các nguồn tin cho biết gã khổng lồ công nghệ AI ước tính các địa điểm này có thể cung cấp tổng cộng khoảng 1 gigawatt công suất điện toán, có khả năng chứa hơn 2.200 rack Supermicro Vera Rubin NVL72, mỗi rack gồm 72 GPU Rubin và 36 CPU Vera.

Mặc dù các địa điểm này đã có sẵn nguồn điện để cung cấp cho các GPU này, đây vẫn chưa phải là giải pháp cắm-là-chạy (plug-and-play), do Nvidia vẫn cần lắp đặt hệ thống làm mát và các kiến trúc hỗ trợ khác.

Những công việc này vẫn đòi hỏi giấy phép và sự chấp thuận từ chính quyền địa phương, nhưng khả năng cao họ sẽ ít gặp phải thủ tục rườm rà và sự phản đối hơn so với việc xây dựng một trung tâm dữ liệu từ con số không.

Apollo Global Management đã thực hiện các khoản đầu tư lớn vào phần cứng AI, với việc công ty quản lý tài sản này tham gia vào thương vụ trị giá 40 tỷ đồng với SpaceX, mang lại cho họ khoảng 360.000 GPU Vera Rubin trên 5.000 rack NVL72.

Mặc dù hiện vẫn chưa rõ ai sẽ sở hữu các chip AI được lắp đặt tại các cơ sở của Brightspeed, đề xuất này có thể giúp Apollo tìm được nơi đặt số chip Nvidia mà họ đã đặt hàng để đưa chúng vào hoạt động nhanh nhất có thể.

Đây là một giải pháp tốt hơn rất nhiều so với việc phải chờ đợi nhiều năm để một trung tâm dữ liệu được phê duyệt, trong khi vẫn phải đối mặt với sự phản kháng từ cộng đồng ngay cả sau khi đã nhận được sự đồng ý từ chính quyền địa phương.

Việc sở hữu nhiều trung tâm dữ liệu quy mô nhỏ như thế này cũng là cấu hình mà OpenAI và Anthropic đang xem xét, đặc biệt là khi các cơ sở lớn hơn đang phải đối mặt với sự chậm trễ và phản ứng dữ dội từ cộng đồng nơi họ tọa lạc.

Mặc dù việc có một cụm máy chủ đồng nhất lớn được xây dựng tại một địa điểm duy nhất sẽ tốt hơn cho quá trình huấn luyện mô hình, các đại diện của Nvidia đã mô tả các địa điểm nhỏ hơn này hoạt động cùng nhau như một "mạng lưới suy luận" để giúp vận hành các mô hình AI hiện có.

Điều này đặc biệt quan trọng khi các tác tử AI (AI agents), vốn sử dụng lượng token gấp 5 đến 10 lần so với con người, đang trở nên phổ biến hơn.

Động thái sử dụng các cơ sở vật chất có sẵn thay vì xây dựng mới từ đầu đã thu hút sự chú ý trở lại, đặc biệt là sau khi người dân Mỹ bỏ phiếu áp đảo chống lại việc xây dựng các trung tâm dữ liệu trong các cuộc bầu cử giữa nhiệm kỳ.

Mặc dù hơn 300 lệnh cấm trung tâm dữ liệu được ban hành trên khắp nước Mỹ chỉ mới làm chậm trễ ba dự án hiện có, người ta vẫn lo ngại rằng các lệnh cấm và tạm hoãn này sẽ khiến việc khởi動 các dự án trung tâm dữ liệu mới trở nên khó khăn hơn nhiều.

Đồng thời, điều này cũng gây trở ngại cho các công ty AI trong việc đảm bảo năng lực tính toán cần thiết để cung cấp sức mạnh cho các mô hình AI của họ trong tương lai.