WenTian WA7780 G3 Máy Chủ Đào Tạo Mô Hình Lớn AI 7U Rack 2-socket 8 GPU

Máy chủ AI WenTian WA7780 G3

Lenovo Wentian WA7780 G3 là máy chủ được thiết kế chuyên dụng cho việc đào tạo mô hình AI quy mô lớn. Khi bước vào thời đại trí tuệ nhân tạo tổng quát, số lượng tham số trong quá trình đào tạo mô hình lớn đã vượt ngưỡng hàng nghìn tỷ, và khả năng tính toán AI đã trở thành yêu cầu thiết yếu để các doanh nghiệp đào tạo, phát triển và ứng dụng trí tuệ nhân tạo. Lenovo Wentian WA7780 G3 ra đời nhằm phá vỡ thế bế tắc trong cung ứng khả năng tính toán AI, cung cấp nền tảng tính toán mạnh mẽ cho việc đào tạo mô hình lớn tổng quát.

Máy chủ đào tạo mô hình AI lớn Lenovo Wentian WA7780 G3 được xây dựng dựa trên bộ vi xử lý Intel® Xeon® Scalable thế hệ thứ tư và thứ năm, trang bị tám GPU NVIDIA HGX™ NVLink®.

Máy chủ huấn luyện mô hình lớn Lenovo Wentian WA7780 G3 AI được thiết kế để đáp ứng nhu cầu truyền thông dữ liệu tốc độ cao giữa các máy chủ GPU trong các kịch bản huấn luyện mô hình AI quy mô lớn. Máy chủ hỗ trợ nhiều giải pháp kết nối mạng bên ngoài bao gồm IB và RoCE. Máy chủ có thể hỗ trợ tối đa 8 card mạng tốc độ cao RDMA, cung cấp tổng băng thông 3.2 Tb\/s. Điều này hoàn toàn đáp ứng các yêu cầu truyền thông giữa các nút trong quá trình tính toán song song khi huấn luyện mô hình quy mô lớn. Đồng thời, về thiết kế lưu trữ cục bộ, máy chủ áp dụng công nghệ GPU Direct Storage (GDS). Thông qua GDS, GPU và NVMe đạt được kết nối nhanh và độ trễ thấp, có thể hiệu quả cải thiện tốc độ tải dữ liệu huấn luyện và nâng cao hiệu suất huấn luyện mô hình lớn.

Thông Số Kỹ Thuật

Từ Yếu tố	máy Chủ Kệ 7U
Bộ xử lý	Tối đa 2 bộ vi xử lý Intel Xeon Scalable thế hệ 4 hoặc 5
Bộ nhớ	32 khe cắm DDR5 DIMM, mỗi CPU hỗ trợ 8 kênh; tần số tối đa là 5600 MHz cho 1DPC và 4800 MHz cho 2DPC.
Khay ổ cứng	8 khe cắm thiết bị lưu trữ 2,5 inch có thể thay nóng trên bảng điều khiển phía trước -PCIe trực tiếp: 8x SSD NVMe 2 khe cắm thiết bị lưu trữ 2,5 inch có thể thay nóng trên bảng điều khiển phía sau -Kết nối trực tiếp CPU2: 2x SSD NVMe/SATA (PCH)/SAS* (*Hỗ trợ SAS yêu cầu card HBA/RAID tùy chọn) 2x ổ SSD M.2 tích hợp sẵn
Hỗ trợ GPU	NVIDIA HGX 8-GPU NVLink
Giao diện mạng	Mô-đun mạng LAN 10GbE RJ45 tích hợp 2 cổng (Intel x710 Based-T)
RAID	SATA với RAID (0,1,5,10); Các thành phần tiêu chuẩn bao gồm các card RAID/HBA PCIe tiêu chuẩn và nội bộ
Sức mạnh	nguồn điện 3+3 3000W 80 PLUS Titanium