WenTian WA7780 G3 Entrenamiento de modelos grandes de IA Servidor rack 7U con procesadores duales y 8 GPU
- Overview
- Servidor de Racks con IA
- Related Products
Servidor de IA WenTian WA7780 G3
El servidor Lenovo Wentian WA7780 G3 está especialmente diseñado para el entrenamiento de grandes modelos de inteligencia artificial. Con la llegada de la era de la inteligencia artificial general, la cantidad de parámetros en el entrenamiento de modelos ha superado el umbral de billones, y el poder computacional de IA se ha convertido en un requisito crucial para que las empresas entiendan, desarrollen y utilicen la inteligencia artificial. Lenovo Wentian WA7780 G3 llega para superar el dilema del suministro de potencia de cálculo de IA, proporcionando un poderoso soporte computacional para el entrenamiento de grandes modelos generales.
El servidor de entrenamiento de grandes modelos de IA Lenovo Wentian WA7780 G3 se basa en los procesadores escalables Intel® Xeon® de cuarta y quinta generación, equipado con ocho GPU NVIDIA HGX™ NVLink®.
El servidor de entrenamiento de modelos grandes Lenovo Wentian WA7780 G3 AI está diseñado para satisfacer las demandas de comunicación de datos a alta velocidad entre servidores GPU en escenarios de entrenamiento de modelos AI a gran escala. Admite varias soluciones de conexión de red externa, incluyendo IB y RoCE. El servidor puede soportar hasta 8 tarjetas de red de alta velocidad RDMA, proporcionando un ancho de banda agregado de 3,2 Tb/s. Esto satisface plenamente los requisitos de comunicación entre nodos durante el cálculo paralelo del entrenamiento de modelos a gran escala. Mientras tanto, en cuanto al diseño de almacenamiento local, el servidor adopta la tecnología GPU Direct Storage (GDS). A través de GDS, las GPUs y las unidades NVMe logran una interconexión rápida y de baja latencia, lo que puede mejorar eficazmente la velocidad de carga de los datos de entrenamiento y potenciar el rendimiento del entrenamiento de modelos grandes.
Especificaciones Técnicas
Desde Factor | servidor en Rack 7U |
Procesador | Hasta 2 procesadores Intel Xeon Scalable de cuarta o quinta generación |
Memoria | 32 DIMMs DDR5, con cada CPU que soporta 8 canales; la frecuencia máxima es de 5600 MHz para 1DPC y 4800 MHz para 2DPC. |
Bandejas de disco |
8 ranuras para dispositivos de almacenamiento frontales de 2,5 pulgadas intercambiables en caliente -PCIe directo: 8x SSD NVMe 2 ranuras para dispositivos de almacenamiento traseros de 2,5 pulgadas intercambiables en caliente -Directo CPU2: 2x SSD NVMe/SATA (PCH)/SAS* (*La compatibilidad con SAS requiere una tarjeta HBA/RAID opcional) 2 SSD M.2 integrados |
Soporte para GPU | NVIDIA HGX 8-GPU NVLink |
Interfaz de red | Módulo LAN integrado 2 x 10GbE RJ45 (Intel x710 Based-T) |
RAID | SATA con RAID (0,1,5,10); Componentes universales incluyendo adaptadores estándar y internos PCIe RAID/HBA |
Poder | 3+3 Fuente de alimentación 3000W 80 PLUS Titanium |