Сервер для навчання великих моделей WenTian WA7780 G3 AI, 7U у формі стійки, двосокетний, сервер із 8 GPU
- Overview
- Серверна стійка з штучним інтелектом
- Related Products
WenTian WA7780 G3 сервер з штучним інтелектом
Lenovo Wentian WA7780 G3 — це сервер, спеціально створений для навчання великих моделей з штучним інтелектом. З появою ери загального штучного інтелекту, кількість параметрів навчання великих моделей перевищила трильйонний поріг, а обчислювальна потужність штучного інтелекту стала ключовим фактором для підприємств у навчанні, розробці та використанні штучного інтелекту. Lenovo Wentian WA7780 G3 створений, щоб подолати проблему з постачанням обчислювальної потужності штучного інтелекту, забезпечуючи потужну обчислювальну підтримку для навчання загальних великих моделей.
Сервер Lenovo Wentian WA7780 G3 для навчання великих моделей з штучним інтелектом базується на процесорах Intel® Xeon® Scalable четвертого та п'ятого поколінь, оснащених вісімома GPU NVIDIA HGX™ NVLink®.
Сервер для навчання великих моделей Lenovo Wentian WA7780 G3 AI створений для задоволення потреб високошвидкісного обміну даними між GPU-серверами в сценаріях масштабного навчання моделей штучного інтелекту. Він підтримує різноманітні рішення зовнішнього підключення до мережі, включаючи IB та RoCE. Сервер може підтримувати до 8 високошвидкісних мережевих карт RDMA, забезпечуючи сумарну пропускну здатність 3,2 Тб/с. Це повністю задовольняє вимоги до обміну даними між вузлами під час паралельних обчислень у масштабному навчанні моделей. У той же час у проектуванні локального сховища сервер використовує технологію GPU Direct Storage (GDS). Через GDS GPU та NVMe досягають швидкого та малої затримки з'єднання, що ефективно підвищує швидкість завантаження навчальних даних і підвищує продуктивність навчання великих моделей.
Технічні характеристики
З фактора | 7U Ракушковий Сервер |
Процесор | До 2 процесорів Intel Xeon Scalable 4-го або 5-го покоління |
Пам'ять | 32 слоти DDR5 DIMM, кожен CPU підтримує 8 каналів; максимальна частота становить 5600 МГц для 1DPC і 4800 МГц для 2DPC. |
Дискові бокси |
8 слотів для гарячої заміни пристроїв зберігання даних формату 2,5 дюйми на передній панелі - Безпосереднє підключення PCIe: 8x NVMe SSD 2 слоти для гарячої заміни пристроїв зберігання даних формату 2,5 дюйми на задній панелі - Безпосереднє підключення CPU2: 2x NVMe/SATA (PCH)/SAS* SSD (*для підтримки SAS потрібна додаткова HBA/RAID-карта) 2 вбудовані SSD M.2 |
Підтримка GPU | NVIDIA HGX 8-GPU NVLink |
Мережевий інтерфейс | Вбудований модуль LAN 2 x 10GbE RJ45 (на основі Intel x710 Based-T) |
RAID | SATA з підтримкою RAID (0,1,5,10); Універсальні компоненти, включаючи стандартні та внутрішні адаптери PCIe RAID/HBA |
Потужність | 3+3 Блок живлення 3000 Вт 80 PLUS Titanium |