LattePanda Sigma 2 ra mắt: Bo mạch chủ tích hợp AI mạnh mẽ với sức mạnh 180 TOPS

Nhóm phát triển LattePanda vừa cho ra mắt LattePanda Sigma 2, một máy chủ bo mạch đơn x86 được thiết kế để mang lại khả năng điện toán AI cục bộ hiệu suất cao trực tiếp vào các sản phẩm và hệ thống thông minh. Được xây dựng xung quanh bộ vi xử lý Intel Core Ultra X7 358H với đồ họa Intel Arc B390, LattePanda Sigma 2 mang lại hiệu suất AI tổng thể lên tới 180 TOPS ở định dạng INT8 trong một kích thước nhỏ gọn.

Với tên gọi "Máy chủ bo mạch đơn AI có thể nhúng", LattePanda Sigma 2 kết hợp khả năng tính toán hiệu suất cao, bộ nhớ lên tới 64 GB, kết nối mạng tốc độ cao, khả năng mở rộng linh hoạt và điều khiển phần cứng thời gian thực trên một bo mạch duy nhất. Thay vì nằm cạnh một sản phẩm, nó được thiết kế để tích hợp trực tiếp vào chính sản phẩm đó, hỗ trợ các ứng dụng từ robot tự hành và hệ thống thị giác đến các thiết bị chuyên dụng và thiết bị AI riêng tư.

LattePanda Sigma 2 kết hợp CPU Intel Core Ultra X7 358H, GPU Intel Arc B390 và NPU tích hợp để mang lại hiệu suất AI tổng thể lên tới 180 TOPS ở định dạng INT8. Thiết bị có CPU 16 nhân với tốc độ xung nhịp lên tới 4.8 GHz, GPU Intel Arc B390 12 nhân Xe mang lại hiệu suất AI INT8 lên tới 122 TOPS và một NPU có khả năng đạt tới 50 TOPS.

Với tối đa 64 GB RAM LPDDR5X-8533 và băng thông bộ nhớ 136.5 GB/s, LattePanda Sigma 2 cung cấp dung lượng và thông lượng cần thiết cho các tác vụ AI cục bộ đòi hỏi khắt khe. Lên đến 59 GB VRAM có thể được phân bổ cho các tác vụ AI, cung cấp đủ không gian cho các mô hình MoE lượng tử hóa lớp 35B và bộ nhớ đệm KV cần thiết cho các tác nhân AI ngữ cảnh dài. Với lượng tử hóa INT4 và OpenVINO, hệ thống có thể chạy mô hình Qwen3.6-35B-A3B cục bộ ở mức khoảng 30 token mỗi giây.

Được xây dựng cho các hệ thống AI cục bộ

LattePanda Sigma 2 được thiết kế để hỗ trợ cả các tác vụ AI cá nhân hóa và các hệ thống AI cục bộ đa tác nhân. Các nhà phát triển có thể mở rộng công suất tính toán thông qua M.2, OCuLink hoặc Thunderbolt 4, kết nối các bộ tăng tốc AI bổ sung khi khối lượng công việc tăng lên. Vi điều khiển RP2350 tích hợp bổ sung kết nối GPIO và điều khiển phần cứng thời gian thực, cho phép các ứng dụng AI tương tác với các cảm biến và bộ truyền động. Phần mềm cơ sở MicroPython được tải sẵn cung cấp một giao diện có thể lập trình cho các thiết bị thông minh và hệ thống tự động hóa.

Mở rộng cấp độ máy chủ trong một kích thước có thể nhúng

LattePanda Sigma 2 cung cấp khả năng kết nối phong phú cho lưu trữ, mạng và tăng tốc. Thiết bị bao gồm ba khe cắm M.2 M-Key, một khe cắm M.2 E-Key, PCIe 4.0 x2 thông qua OCuLink và hai cổng Thunderbolt 4. Kết nối Ethernet 10GbE kép hỗ trợ mạng băng thông cao, trong khi USB 3.2 Gen 2, USB 2.0, HDMI 2.1, DisplayPort 2.1 và eDP 1.5 cung cấp các tùy chọn tích hợp hệ thống linh hoạt. Các giao diện này cho phép LattePanda Sigma 2 hoạt động như một máy chủ AI cục bộ nhỏ gọn hoặc tích hợp trực tiếp vào các hệ thống thông minh lớn hơn.

Sẵn sàng phát triển và triển khai AI cục bộ

LattePanda Sigma 2 hỗ trợ Windows 11 và Ubuntu 24.04 LTS trở lên, với khả năng tương thích cho OpenVINO, llama.cpp và Ollama. Máy đi kèm với Ubuntu, trình điều khiển GPU và NPU, OpenVINO Model Server (OVMS), OpenClaw và các mô hình AI cục bộ được cài đặt sẵn trên SSD tích hợp, giúp giảm thời gian thiết lập để triển khai AI cục bộ.

Được thiết kế để tích hợp sản phẩm

LattePanda Sigma 2 được thiết kế để tích hợp cấp độ sản phẩm và triển khai dài hạn, cung cấp vòng đời sản phẩm được đảm bảo từ 3 năm trở lên, logo khởi động tùy chỉnh và các tùy chọn tùy chỉnh BIOS, cùng với hỗ trợ kỹ thuật trực tiếp cho các dự án tích hợp. Sự kết hợp giữa tính toán AI cục bộ, I/O tốc độ cao, khả năng mở rộng linh hoạt và điều khiển thời gian thực hỗ trợ một loạt các ứng dụng, bao gồm:
- Thiết bị AI cục bộ: Chạy RAG riêng tư và các tác nhân AI đồng thời giữ dữ liệu nhạy cảm ở tại chỗ.
- Homelab tất cả trong một: Kết hợp NAS, ảo hóa, dịch vụ truyền thông và AI cục bộ trong một hệ thống duy nhất.
- Thiết bị chuyên nghiệp: Thu thập và xử lý các luồng dữ liệu tốc độ cao trực tiếp bên trong thiết bị chuyên nghiệp nhỏ gọn.
- Robot tự hành di động: Thống nhất nhận thức, điều hướng, lập kế hoạch và điều khiển thời gian thực trên một nền tảng duy nhất.

"AI cục bộ đang vượt ra ngoài giai đoạn phát triển để tiến vào các sản phẩm và hệ thống mà mọi người sử dụng hằng ngày," Youliang Yu, Giám đốc Sản phẩm của LattePanda Sigma 2 chia sẻ. "Với LattePanda Sigma 2, chúng tôi đang kết hợp hiệu suất tính toán, dung lượng bộ nhớ, khả năng mở rộng và điều khiển phần cứng thời gian thực cần thiết để chạy AI cục bộ trong một nền tảng nhỏ gọn, có thể nhúng. Mục tiêu là cung cấp cho các nhà phát triển một cách thiết thực để đưa AI cục bộ trực tiếp vào các sản phẩm họ xây dựng."

## Thông số kỹ thuật chính
- Vi xử lý: Intel Core Ultra X7 358H
- Hiệu suất AI: Lên tới 180 TOPS (CPU + GPU + NPU, INT8)
- NPU: Lên tới 50 TOPS
- CPU: 16 nhân (4P + 8E + 4LPE), lên tới 4.8 GHz, bộ nhớ đệm 18 MB
- GPU: Intel Arc B390, 12 nhân Xe, lên tới 122 TOPS (INT8)
- Bộ nhớ: Lên tới 64 GB LPDDR5X-8533 RAM, băng thông 136.5 GB/s
- Lưu trữ & Mở rộng: 3x M.2 M-Key, 1x M.2 E-Key, OCuLink PCIe 4.0 x2
- Mạng: 2x 10GbE RJ45
- Thunderbolt: 2x Thunderbolt 4 Type-C
- USB Type-A: 2x USB 3.2 Gen 2, 2x USB 2.0
- Hiển thị: HDMI 2.1, DP 2.1 qua USB Type-C, eDP 1.5
- Bộ đồng xử lý: RP2350
- Hệ điều hành: Windows 11, Ubuntu 24.04 LTS trở lên
- Kích thước: 146 x 102 mm

Để biết thêm thông tin về LattePanda Sigma 2, vui lòng truy cập trang web của LattePanda. Trong thời gian bán trước kéo dài đến giữa tháng 11, LattePanda Sigma 2 có sẵn với mức giá khuyến mại là 2.599 USD. Sau khi kết thúc thời gian bán trước, giá sẽ trở lại mức 2.799 USD.