CPU NVIDIA Vera đánh bại dòng EPYC Venice của AMD trong các tác vụ AI tự trị

Các dòng CPU NVIDIA Vera tiếp tục khẳng định hiệu năng và khả năng tiết kiệm điện mạnh mẽ khi đặt lên bàn cân với các dòng chip x86 hàng đầu trong các tác vụ AI tự trị (Agentic AI).

Người dùng thử nghiệm sớm NVIDIA Vera ghi nhận hiệu năng trên mỗi watt vượt trội

CPU Vera tiếp tục tạo ra sức hút lớn trong phân khúc AI tự trị và đã được nhiều công ty AI áp dụng. Lý do khiến Vera được triển khai rộng rãi là minh chứng cho nhu cầu AI hiện tại, khi trọng tâm đã dịch chuyển từ GPU sang CPU trong kỷ nguyên tác nhân tự trị (Agentic).

Các tác vụ AI tự trị hoạt động theo vòng lặp, chuyển đổi liên tục giữa GPU và CPU hàng trăm lần cho mỗi tác vụ. GPU đảm nhận phần suy luận, trong khi CPU xử lý khối lượng công việc gồm gọi công cụ, truy vấn SQL, gọi API, viết kịch bản... Mỗi vòng lặp đều có tính tuần lễ và ngốn dữ liệu, liên tục truy cập bộ nhớ.

Để theo kịp vòng lặp liên tục này, các CPU thiết kế cho AI tự trị cần đáp ứng các yếu tố:

• Hiệu năng đơn nhân cao để việc gọi công cụ kết thúc nhanh chóng.
• Băng thông bộ nhớ lớn để dữ liệu truyền đến không bị chậm trễ.
• Độ trễ thấp giúp bước suy luận tiếp theo của GPU bắt đầu sớm hơn.

Những thay đổi về kiến trúc bên trong CPU Vera của NVIDIA đã đáp ứng trọn vẹn các yêu cầu này, và công ty đang chia sẻ các kết quả thử nghiệm mới cho thấy:

1. Hiệu suất năng lượng cao hơn 1,6 lần so với dòng chip x86 96 nhân hiệu năng cao.
2. Tốc độ xử lý tác vụ nhanh gấp 2 lần so với dòng chip x86 256 nhân mật độ cao.

Các kết quả hiệu năng này được so sánh trực tiếp với các dòng chip AMD EPYC Venice thế hệ thứ 6. So với phiên bản EPYC Venice 96 nhân tối ưu tần số nhanh nhất, Vera mang lại hiệu suất trên mỗi watt cao hơn 60%, còn khi đối đầu với bản Zen 6 256 nhân dày đặc nhân hơn, Vera cung cấp tốc độ tác vụ cao gấp đôi.

Các kết quả mà NVIDIA công bố chắc chắn rất hấp dẫn đối với các khách hàng làm về AI tự trị, và chúng ta rất kỳ vọng hãng sẽ cung cấp thêm các phân tích chi tiết hơn. Trong khi đó, tỷ lệ áp dụng Vera ở các nhà cung cấp AI tự trị hàng đầu vẫn không ngừng gia tăng, với danh sách những người dùng thử nghiệm sớm và số liệu kiểm thử thực tế như sau:

• Perplexity: Các tác vụ lập trình tự trị chạy nhanh hơn 1,5 lần so với CPU truyền thống. Perplexity có kế hoạch triển khai Vera trong hệ thống sản xuất sắp tới.
• DeepInfra: Trong khối lượng công việc tự trị của riêng mình, Vera mang lại hiệu quả điều phối tác vụ nhanh gấp 2,2 lần so với chip x86 tốt nhất, trở thành kiến trúc nhanh nhất trong bốn kiến trúc được thử nghiệm.
• ClickHouse: Phiên bản nhị phân tiêu chuẩn không qua tinh chỉnh riêng cho Vera đã mở rộng quy mô gần như tuyến tính trên 176 nhân và đứng đầu bảng xếp hạng phần cứng ClickBench.
• DuckDB: Đạt hiệu suất TPC-H SF1000 trung bình khoảng 1,5 lần so với nền tảng tiêu chuẩn Intel Xeon 6.
• Daytona: Khởi chạy 1.000 sandbox tác vụ trực tuyến trong 10,8 giây và hoàn thành 12,7 công việc mỗi giây ở mức 2.000 sandbox đồng thời, so với mức 10,9 của AMD EPYC 9755.
• Modal: Thông lượng sandbox trên mỗi nhân cao gấp đôi so với phần cứng x86 tương đương, với mức độ tăng trưởng rõ rệt hơn dưới tải trọng nặng.

CPU Vera của NVIDIA đang nổi lên như một thế lực thực tế trong kỷ nguyên AI tự trị, mang lại hiệu năng và độ phản hồi mà các tác vụ lặp đi lặp lại, đòi hỏi nhiều dữ liệu này cần đến. Các kết quả ban đầu từ môi trường thực tế đã cho thấy chip vượt trội hơn các giải pháp thay thế x86 hàng đầu cả về tốc độ lẫn mức tiêu thụ điện, củng cố đà tăng trưởng áp dụng trong các nhà cung cấp hạ tầng AI.