EN
เซิร์ฟเวอร์แร็ค 7U สำหรับฝึกอบรมโมเดลใหญ่ทางปัญญาประดิษฐ์ WenTian WA7780 G3 ซ็อกเก็ต 2 ตัว พร้อม GPU 8 ตัว
- Overview
- เซิร์ฟเวอร์แร็คแบบ AI
- Related Products
เซิร์ฟเวอร์ Lenovo Wentian WA7780 G3 AI
Lenovo Wentian WA7780 G3 เป็นเซิร์ฟเวอร์ที่ออกแบบมาโดยเฉพาะสำหรับการฝึกอบรมโมเดลขนาดใหญ่ด้วย AI ด้วยยุคแห่งปัญญาประดิษฐ์ทั่วไป (General Artificial Intelligence) ได้เริ่มต้นขึ้น จำนวนพารามิเตอร์ในการฝึกอบรมโมเดลขนาดใหญ่ได้เกินขีดจำกัดระดับล้านล้านไปแล้ว และการประมวลผล AI ได้กลายเป็นความต้องการที่สำคัญสำหรับองค์กรต่าง ๆ ในการฝึกอบรม พัฒนา และใช้งานปัญญาประดิษฐ์ Lenovo Wentian WA7780 G3 ได้ถูกออกแบบมาเพื่อแก้ปัญหาเรื่องการจัดหาทรัพยากรการประมวลผล AI และมอบการสนับสนุนการประมวลผลอันทรงพลังสำหรับการฝึกอบรมโมเดลขนาดใหญ่ทั่วไป
เซิร์ฟเวอร์ Lenovo Wentian WA7780 G3 AI สำหรับฝึกอบรมโมเดลขนาดใหญ่ ใช้หน่วยประมวลผล Intel® Xeon® Scalable รุ่นที่ 4 และรุ่นที่ 5 เป็นฐาน และติดตั้ง GPU แบบ NVIDIA HGX™ NVLink® จำนวน 8 ตัว
Lenovo Wentian WA7780 G3 AI Large Model Training Server ถูกออกแบบมาเพื่อตอบสนองความต้องการในการสื่อสารข้อมูลความเร็วสูงระหว่างเซิร์ฟเวอร์ GPU ในสถานการณ์การฝึกอบรมโมเดล AI ขนาดใหญ่ โดยรองรับโซลูชันการเชื่อมต่อเครือข่ายภายนอกหลายรูปแบบ รวมถึง IB และ RoCE เซิร์ฟเวอร์สามารถรองรับการ์ดเครือข่ายความเร็วสูง RDMA ได้สูงสุด 8 ใบ ให้แบนด์วิดธ์รวม 3.2 Tb/s ซึ่งเพียงพอต่อความต้องการในการสื่อสารระหว่างโหนดที่เกิดขึ้นระหว่างการประมวลผลแบบขนานในการฝึกอบรมโมเดลขนาดใหญ่ นอกจากนี้ ในส่วนของการออกแบบการจัดเก็บข้อมูลในเครื่อง เซิร์ฟเวอร์ใช้เทคโนโลยี GPU Direct Storage (GDS) ผ่าน GDS ทำให้ GPU และ NVMe เชื่อมต่อกันได้อย่างรวดเร็วและมีความหน่วงต่ำ ซึ่งสามารถเพิ่มความเร็วในการโหลดข้อมูลการฝึกอบรมและยกระดับประสิทธิภาพการฝึกอบรมโมเดลขนาดใหญ่ได้อย่างมีประสิทธิภาพ
ข้อมูลจำเพาะทางเทคนิค
| จากปัจจัย | เซิร์ฟเวอร์แร็ค 7U |
| โปรเซสเซอร์ | สูงสุด 2 หน่วยประมวลผล Intel Xeon Scalable รุ่นที่ 4 หรือ 5 |
| หน่วยความจำ | 32 ช่องเสียบหน่วยความจำ DDR5 DIMM โดยแต่ละ CPU รองรับ 8 ช่องทาง ความถี่สูงสุดอยู่ที่ 5600 MHz สำหรับการติดตั้ง 1DPC และ 4800 MHz สำหรับการติดตั้ง 2DPC |
| ช่องใส่ไดรฟ์ |
ช่องติดตั้งอุปกรณ์จัดเก็บข้อมูลขนาด 2.5 นิ้วแบบถอดเปลี่ยนขณะใช้งานได้ (Hot-Swappable) ที่แผงด้านหน้า 8 ช่อง -PCIe แบบตรง: 8x SSD NVMe ช่องติดตั้งอุปกรณ์จัดเก็บข้อมูลขนาด 2.5 นิ้วแบบถอดเปลี่ยนขณะใช้งานได้ (Hot-Swappable) ที่แผงด้านหลัง 2 ช่อง -เชื่อมต่อโดยตรงกับ CPU2: 2x SSD NVMe/SATA (PCH)/SAS* (*การสนับสนุน SAS จำเป็นต้องใช้การ์ด HBA/RAID เพิ่มเติม) ติดตั้ง SSD M.2 มาในตัว 2 ช่อง |
| การรองรับ GPU | NVIDIA HGX 8-GPU NVLink |
| อินเตอร์เฟซเครือข่าย | โมดูล LAN แบบบูรณาการ 2 พอร์ต 10GbE RJ45 (ใช้ชิป Intel x710 Based-T) |
| RAID | รองรับ SATA พร้อม RAID (0,1,5,10); ชิ้นส่วนทั่วไปที่รองรับรวมถึงตัวแปลง PCIe RAID/HBA แบบมาตรฐานและแบบติดตั้งภายใน |
| พลังงาน | พาวเวอร์ซัพพลาย 3+3 3000W แบบ 80 PLUS Titanium |
