WenTian WA7780 G3 AI 대형 모델 학습 7U 랙 서버 2-소켓 8 GPU 서버

WenTian WA7780 G3 AI 서버

Lenovo Wentian WA7780 G3는 AI 대형 모델 학습을 위해 특별히 설계된 서버입니다. 일반 인공지능 시대가 도래함에 따라 대형 모델 학습의 파라미터 수량이 1조 개를 넘어섰으며, AI 컴퓨팅 파워는 기업이 인공지능을 학습, 개발, 활용하는 데 있어 필수적인 요건이 되었습니다. Lenovo Wentian WA7780 G3는 AI 컴퓨팅 파워 공급의 난제를 해결하기 위해 등장하여 일반 대형 모델 학습에 강력한 컴퓨팅 지원을 제공합니다.

Lenovo Wentian WA7780 G3 AI 대형 모델 학습 서버는 4세대 및 5세대 Intel® Xeon® 확장형 프로세서 기반으로, 8개의 NVIDIA HGX™ NVLink® GPU를 탑재하고 있습니다.

레노버 웬티안 WA7780 G3 AI 대형 모델 훈련 서버는 대규모 AI 모델 훈련 시나리오에서 GPU 서버 간의 고속 데이터 통신 요구를 충족하도록 설계되었습니다. 이 서버는 IB 및 RoCE를 포함한 다양한 외부 네트워크 연결 솔루션을 지원합니다. 최대 8개의 RDMA 고속 네트워크 카드를 지원하며, 집계 대역폭은 3.2 Tb/s에 달합니다. 이는 대규모 모델 훈련 병렬 컴퓨팅 과정에서 노드 간 통신 요구를 충분히 만족시킵니다. 한편, 로컬 스토리지 설계 측면에서 서버는 GPU Direct Storage(GDS) 기술을 채택하고 있습니다. GDS를 통해 GPU와 NVMe가 빠르고 저지연으로 상호 연결되어 훈련 데이터 로딩 속도를 효과적으로 향상시키고 대형 모델 훈련 성능을 개선할 수 있습니다.

기술 사양

요소별로 부터	7U 랙 서버
프로세서	최대 2개의 4세대 또는 5세대 인텔 제온 확장형 프로세서
메모리	32개의 DDR5 DIMM, 각 CPU당 8채널 지원; 1DPC에서는 최대 주파수가 5600MHz, 2DPC에서는 4800MHz입니다.
드라이브 베이	8개의 프론트 패널 핫스왑 가능 2.5인치 저장 장치 슬롯 -PCIe direct: 8개 NVMe SSD 2개의 리어 패널 핫스왑 가능 2.5인치 저장 장치 슬롯 -CPU2 direct: 2개 NVMe/SATA (PCH)/SAS* SSD (*SAS 지원에는 옵션 HBA/RAID 카드 필요) 2개 내장 M.2 SSD
GPU 지원	NVIDIA HGX 8-GPU NVLink
네트워크 인터페이스	통합 2 x 10GbE RJ45 LAN 모듈 (Intel x710 Based-T)
RAID	RAID (0,1,5,10) 지원 SATA; 표준 및 내부 PCIe RAID/HBA 어댑터가 포함된 범용 컴포넌트
전력	3+3 3000W 80 PLUS Titanium 전원 공급 장치