Servidor Rack 7U WenTian WA7780 G3 Treinamento de Grandes Modelos de IA Servidor com 2-socket e 8 GPU
- Overview
- Servidor Rack de IA
- Related Products
Servidor de IA WenTian WA7780 G3
O Lenovo Wentian WA7780 G3 é um servidor especificamente projetado para o treinamento de grandes modelos de IA. Com o advento da era da inteligência artificial geral, a quantidade de parâmetros no treinamento de grandes modelos ultrapassou o limite de trilhões e o poder computacional de IA tornou-se uma exigência crucial para que as empresas treinem, desenvolvam e utilizem a inteligência artificial. O Lenovo Wentian WA7780 G3 está aqui para superar o impasse no fornecimento de poder computacional de IA, oferecendo suporte computacional poderoso para o treinamento de grandes modelos gerais.
O servidor de treinamento de grandes modelos de IA Lenovo Wentian WA7780 G3 é baseado nas quarta e quinta gerações de Processadores Intel® Xeon® Scalable e equipado com oito GPUs NVIDIA HGX™ NVLink®.
O servidor Lenovo Wentian WA7780 G3 para treinamento de grandes modelos de IA foi projetado para atender às demandas de comunicação de dados em alta velocidade entre servidores GPU em cenários de treinamento de grandes modelos de IA. Ele suporta várias soluções de conexão de rede externa, incluindo IB e RoCE. O servidor pode suportar até 8 placas de rede de alta velocidade RDMA, oferecendo uma largura de banda agregada de 3,2 Tb/s. Isso satisfaz plenamente os requisitos de comunicação entre nós durante o processamento paralelo no treinamento de modelos em larga escala. Além disso, em termos de design de armazenamento local, o servidor adota a tecnologia GPU Direct Storage (GDS). Por meio do GDS, GPUs e NVMe alcançam interconexão rápida e com baixa latência, o que pode melhorar efetivamente a velocidade de carregamento dos dados de treinamento e aumentar o desempenho no treinamento de grandes modelos.
Especificações Técnicas
Do Fator | servidor de Rack 7U |
Processador | Até 2 processadores Intel Xeon Scalable da 4ª ou 5ª geração |
Memória | 32 DIMMs DDR5, com cada CPU suportando 8 canais; a frequência máxima é de 5600 MHz para 1DPC e 4800 MHz para 2DPC. |
Baias de Disco |
8x slots para dispositivos de armazenamento frontais de 2,5 polegadas com suporte a troca em operação (hot-swap) -PCIe direto: 8x SSD NVMe 2x slots para dispositivos de armazenamento frontais de 2,5 polegadas com suporte a troca em operação (hot-swap) -Direto CPU2: 2x SSD NVMe/SATA (PCH)/SAS* (*suporte a SAS requer placa opcional HBA/RAID) 2x SSD M.2 integrados |
Suporte para GPU | NVIDIA HGX 8-GPU NVLink |
Interface de Rede | Módulo LAN integrado 2 x 10GbE RJ45 (Intel x710 Based-T) |
RAID | SATA com RAID (0,1,5,10); Componentes universais incluindo adaptadores padrão e internos PCIe RAID/HBA |
Poder | 3+3 Fonte de Alimentação 3000W 80 PLUS Titanium |