Bộ nhớ Edge Inference mới của Micron hé lộ giải pháp tối ưu năng lượng cho robot AI

Generative AI có thể cuối cùng sẽ chuyển dịch sang trí tuệ nhân tạo vật lý, dẫn đến việc sản xuất hàng loạt các robot hình người có khả năng đưa ra quyết định dựa trên hành vi chủ động. Điều này kỳ vọng sẽ trở thành hiện thực nhờ vào bộ nhớ Edge Inference Memory (EIM) của Micron, với mục tiêu mang lại các đặc tính công suất thấp giống như LPDDR đồng thời cung cấp các thuộc tính độ trễ thấp và băng thông cao của HBM. Hơn hết, EIM có thể xuất hiện sớm hơn dự kiến, với một báo cáo cho biết việc thương mại hóa có thể diễn ra sớm nhất vào năm 2028.

EIM cũng có thể được áp dụng trong bộ nhớ LPDDR6 và không làm tăng mức tiêu thụ điện năng của HBM xếp chồng.

Robot hỗ trợ AI sẽ có các mẫu hình hoạt động khác biệt đáng kể so với các loại robot dịch vụ. Các cỗ máy công nghiệp này sẽ lặp lại các chuyển động được lập trình sẵn và đó là nơi robot hình người dự kiến sẽ giới thiệu một yếu tố khác biệt. Chúng sẽ được yêu cầu kích hoạt các hành động dựa trên những gì chúng nhận thức và kiểm soát thông qua các tín hiệu thị giác, thính giác, trọng lượng, kết cấu và các yếu tố khác.

Đây là lúc Edge Inference Memory phát huy tác dụng, vì nó mang lại hiệu quả năng lượng cho robot AI, cho phép chúng hoạt động trong nhiều giờ đồng hồ đồng thời giúp chúng đưa ra quyết định nhanh chóng nhờ độ trễ thấp và băng thông cao hơn. Theo The Elec, EIM xếp chồng bộ nhớ LPDDR lên trên một die logic, làm cho nó hơi khác so với Processing-In-Memory (PIM), nhưng có mục tiêu tương tự là nâng cao khả năng xử lý dữ liệu trong khi tiêu thụ ít năng lượng hơn.

Tại thời điểm viết bài, cấu trúc tính toán và hiệu suất của EIM vẫn chưa được tiết lộ, nhưng lời hứa mà nó mang lại có thể đẩy nhanh thị trường AI vật lý sớm hơn nhiều so với dự đoán. Micron đã dự đoán rằng robot AI sẽ sử dụng HBM trong tương lai vì chúng hỗ trợ các mô hình có tham số cao hơn. Hiện tại, những cỗ máy này sử dụng từ 1 đến 2 tỷ tham số, do đó việc chuyển dịch khỏi bộ nhớ LPDDR là không cần thiết.

Tuy nhiên, khi các phiên bản nâng cao hơn ra mắt hỗ trợ các Mô hình Ngôn ngữ Thị giác cải tiến có khả năng dịch nguồn cấp video thành đầu vào, điểm nghẽn của LPDDR sẽ lộ rõ. Micron trước đây từng dự đoán rằng robot AI cuối cùng sẽ cần 200GB RAM và vài terabyte lưu trữ NAND. Robot dịch vụ hoạt động trong các nhà máy sản xuất thường sử dụng khoảng 12GB RAM và 256GB dung lượng lưu trữ.

EIM cũng được báo cáo là sẽ được áp dụng trong LPDDR6, và chúng ta sẽ theo dõi chặt chẽ vào năm 2028 đối với bất kỳ tiến bộ nào đang đến với chúng ta, vì vậy hãy chú ý đón theo dõi.