WenTian WA7780 G3 AI Large Model Training 7U Rack Server 2-socket 8 GPU Server

WenTian WA7780 G3 AI Server

Ang Lenovo Wentian WA7780 G3 ay isang server na espesyal na idinisenyo para sa AI large model training. Dahil sa pagdating ng panahon ng pangkalahatang artipisyal na katalinuhan, ang dami ng parameter sa large model training ay lumampas na sa threshold na trilyon, at ang AI computing power ay naging mahalagang pangangailangan para sa mga kumpanya upang magtrabaho, umunlad, at magamit ang artipisyal na katalinuhan. Ang Lenovo Wentian WA7780 G3 ay narito upang masolusyunan ang problema sa suplay ng AI computing power, na nagbibigay ng makapangyarihang suporta sa pag-compute para sa pangkalahatang large model training.

Ang Lenovo Wentian WA7780 G3 AI large model training server ay nakabase sa ika-apat at ika-limang henerasyon ng Intel® Xeon® Scalable Processors, kasama ang walong NVIDIA HGX™ NVLink® GPU.

Ang Lenovo Wentian WA7780 G3 AI Large Model Training Server ay idinisenyo upang matugunan ang mga pangangailangan ng high-speed na komunikasyon ng data sa pagitan ng GPU servers sa mga large-scale na AI model training na senaryo. Sumusuporta ito sa iba't ibang solusyon sa koneksyon sa labas ng network kabilang ang IB at RoCE. Ang server ay maaaring sumuporta sa hanggang 8 RDMA high-speed network cards, na nagbibigay ng kabuuang bandwidth na 3.2 Tb/s. Ganap na natutugunan nito ang mga pangangailangan sa komunikasyon sa pagitan ng mga node habang nasa parallel computing sa large-scale na model training. Samantala, sa bahagi ng disenyo ng lokal na imbakan, ginagamit ng server ang teknolohiya ng GPU Direct Storage (GDS). Sa pamamagitan ng GDS, ang GPUs at NVMe ay nakakamit ng mabilis at mababang latensyang koneksyon, na maaaring epektibong mapabuti ang bilis ng paglo-load ng datos sa pagsasanay at mapahusay ang pagganap sa large model training.

Teknikong mga Detalye

Mula Sa Pisikal	7U Rack Server
Proseso	Hanggang 2 Intel Xeon Scalable Processors ng ika-4 o ika-5 henerasyon
Memorya	32 DDR5 DIMMs, kung saan ang bawat CPU ay sumusuporta sa 8 channels; ang pinakamataas na frequency ay 5600 MHz para sa 1DPC at 4800 MHz para sa 2DPC.
Drive Bays	8x front-panel na hot-swappable 2.5-inch na puwesto para sa storage device -PCIe direct: 8x NVMe SSD 2x rear-panel na hot-swappable 2.5-inch na puwesto para sa storage device -CPU2 direct: 2x NVMe/SATA (PCH)/SAS* SSD (*Kinakailangan ang opsyonal na HBA/RAID card para sa suporta sa SAS) 2x built-in M.2 SSD
Suporta sa GPU	NVIDIA HGX 8-GPU NVLink
Interface ng network	Nakalamanang 2 x 10GbE RJ45 LAN Module (Intel x710 Based-T)
RAID	SATA na may RAID (0,1,5,10); Mga universal na bahagi kabilang ang standard at internal PCIe RAID/HBA adapters
Kapangyarihan	3+3 3000W 80 PLUS Titanium Power Supply