Đừng mong SSD rẻ hơn trong tương lai gần do cơn sốt bộ nhớ High Bandwidth Flash

Nếu High Bandwidth Flash hay HBF chứng minh được sự thành công về mặt thương mại, nó có khả năng sẽ loại bỏ các dòng SSD giá rẻ trong tương lai gần, đặc biệt khi HBF có chi phí ước tính chỉ bằng một phần mười so với một stack HBM4 tương đương, dẫn đến nhu cầu gia tăng do nghịch lý Jevons.

Một stack HBF 8 tầng sẽ có giá 0.64 USD mỗi GB so với mức giá 6.78 USD mỗi GB của stack HBM4 8 tầng.

Để bạn đọc dễ hình dung, cũng giống như cách HBM xếp chồng DRAM, HBF xếp chồng các die NAND lên nhau, với các kết nối xuyên silicon (TSVs) nối các die lại với nhau và một die logic điều khiển được gắn vào mảng NAND này.

Tuy nhiên, vấn đề khi sử dụng các ô nhớ NAND là tốc độ của chúng rất chậm. SRAM cung cấp tốc độ đọc chỉ khoảng một nano giây so với khoảng 100 nano giây của DRAM và lên tới khoảng 100 micro giây đối với NAND. Điều này có nghĩa là NAND có tốc độ đọc chậm hơn 1.000 lần so với HBM dựa trên DRAM.

Tuy nhiên, HBF tận dụng sức mạnh của tính toán song song để tăng băng thông lên nhiều bậc. Về cơ bản, die logic sẽ lên lịch cho hàng nghìn thao tác đọc song song các ô nhớ NAND cùng lúc. Do đó, mặc dù mỗi lần đọc riêng lẻ của một ô nhớ NAND chậm hơn khoảng 1.000 lần, hàng nghìn thao tác đọc song song có thể mang lại băng thông tích lũy từ 0.3TB/s đến 3TB/s.

Mặc dù vậy, HBF không thể khắc phục được tốc độ ghi kém và độ bền ghi mong manh của NAND. Dù sao đi nữa, SanDisk hiện đang phát triển tiêu chuẩn HBF với SK hynix, mang lại dung lượng lưu trữ 512GB cùng băng thông từ 0.4TB/s đến 3TB/s, với việc thương mại hóa dự kiến diễn ra vào năm 2028/2029.

Điều này đưa chúng ta đến cốt lõi của chủ đề hôm nay. Các nhà phân tích tại Bernstein hiện ước tính rằng một stack HBF 8 tầng thông thường sẽ có giá chỉ 0.64 USD mỗi GB, chỉ bằng khoảng một phần mười chi phí của một stack HBM4 tương đương có giá khoảng 6.78 USD mỗi GB.

Với mức chênh lệch chi phí đáng kể này, HBF hoàn toàn có thể thay thế HBM trong một số trường hợp sử dụng, chẳng hạn như lưu trữ trọng số mô hình, hoặc khi xử lý việc lưu trữ cache KV tiền tố chia sẻ - nơi hàng nghìn lời nhắc từ người dùng khác nhau thường truy vấn chính xác cùng một lời nhắc hệ thống lớn, cơ sở mã hoặc ngữ cảnh tài liệu hàng trăm trang; cache KV cho dữ liệu tiền tố nền tảng này được tính toán một lần và sau đó được ghi vĩnh viễn vào HBF.

Tuy nhiên, mỗi stack HBF 8 tầng sử dụng lượng wafer nhiều hơn 6.5 lần so với NAND TLC thông thường, điều này có khả năng sẽ làm cạn kiệt nguồn cung wafer NAND khả dụng khi HBF bước vào giai đoạn thương mại hóa, ngăn cản sự xuất hiện của các dòng SSD giá rẻ.