DGX GB200 NVL72 CX7 36 Grace CPUs and 72 Blackwell GPUs Std Support, 3 Years

Systemy NVIDIA GB200 i GB300 NVL72 są zazwyczaj oferowane jako kompletne szafy (racki) mieszczące 72 GPU, co zapewnia bardzo wysoką gęstość obliczeniową.

Widok szafy:

• Lewy obraz przedstawia widok przedniej części racka.
• Prawy obraz przedstawia widok tylnej części racka.
• W górnej części racka znajduje się przełącznik (switch).
• Bezpośrednio pod nim umieszczony jest zasilacz rackowy (Rack Power Supply).
• Zasilacz otrzymuje z centrum danych wysokonapięciowe zasilanie AC, przekształca je na prąd stały DC, a następnie dostarcza go do gniazd DC step-down znajdujących się z tyłu racka.

Budowa systemu

System składa się z następujących elementów:

18 × Compute Trays (tace obliczeniowe)

Każda taca zawiera 2 jednostki GB200 lub GB300, a każda jednostka obejmuje:

• 2 procesory CPU,
• 4 procesory GPU.

Łącznie daje to 72 GPU w całym racku.

9 × NVSwitch Trays

Każda taca zawiera 2 moduły NVSwitch. Każdy NVSwitch wyposażony jest w 72 porty, umożliwiające połączenie wszystkich GPU w ramach architektury NVLink.

Interconnect – NVLink

Cały system jest połączony za pomocą NVLink, zapewniającego bardzo dużą przepustowość komunikacji pomiędzy GPU. Dzięki temu 72 procesory graficzne mogą pracować jako jeden, wysoko skalowalny system obliczeniowy.

Porty sieciowe

W praktyce GB300 NVL72 zapewnia więc dwukrotnie większą przepustowość pojedynczego portu sieciowego w porównaniu z GB200 NVL72: 800 Gb/s vs 400 Gb/s.