Rewolucyjne wyniki wspierane przez innowacje ewolucyjne

NVIDIA DGX ™ B200 to ujednolicona platforma AI do opracowywania rurociągów dla firm dowolnych wielkości na dowolnym etapie ich podróży AI. Wyposażony w osiem GPU NVIDIA Blackwell połączone z NVIDIA® NVLINK® Piątej generacji, DGX B200 zapewnia wiodącą wydajność, oferując 3x wydajność treningu i 15-krotną wydajność wnioskowania poprzednich pokoleń. Wykorzystując architekturę GPU Nvidia Blackwell, DGX B200 może obsługiwać różnorodne obciążenia – w tym duże modele językowe, systemy rekomendatorów i chatboty – idealnie dla firm, które chcą przyspieszyć transformację sztucznej inteligencji.

Infrastruktura AI dla każdego obciążenia

Dowiedz się, w jaki sposób DGX B200 umożliwia przedsiębiorstwom przyspieszenie wszelkich obciążenia AI, od przygotowania danych po szkolenie po wnioskowanie.

Przeczytaj arkusz danych

Przykłady udanych wdrożeń przedsiębiorstw

Przeczytaj, w jaki sposób platforma NVIDIA DGX i NVIDIA NEMO ™ wzmocniły wiodące przedsiębiorstwa.

Pobierz ebook

Korzyści

Ujednolicona platforma AI

Jedna platforma do rurociągów rozwiniętych

Przedsiębiorstwa wymagają ogromnej mocy obliczeniowej do obsługi złożonych zestawów danych AI na każdym etapie rurociągu AI, od szkolenia po dopracowanie do wnioskowania. Dzięki NVIDIA DGX B200 przedsiębiorstwa mogą uzbroić swoich programistów w jedną platformę zbudowaną w celu przyspieszenia przepływów pracy.

Potęga wydajności sztucznej inteligencji

DGX B200, zasilany postępami architektury NVIDIA Blackwell w obliczeniach, zapewnia 3x wydajność treningową i 15 -krotną wydajność wnioskowania DGX H100. Jako fundament NVIDIA DGX Basepod ™ i Nvidia DGX Superpod ™, DGX B200 zapewnia najnowocześniejszą wydajność dla każdego obciążenia.

Sprawdzony standard infrastruktury

DGX B200 to w pełni zoptymalizowana platforma sprzętowa i oprogramowania, która obejmuje kompletny stos oprogramowania NVIDIA AI, w tym NVIDIA Base Command i NVIDIA AI Enterprise Software, bogaty ekosystem wsparcia innych firm oraz dostęp do porad ekspertów od NVIDIA Professional Services.

Wydajność

Wydajność nowej generacji napędzana przez DGX B200

Wnioskowanie modelu dużego języka
w czasie rzeczywistym

Prognozowane wyniki ulegające zmianie. Token-to-Token Opóźnienie (TTL) = 50 ms w czasie rzeczywistym, pierwsze opóźnienie tokenu (FTL) = 5s, długość sekwencji wejściowej = 32 768, długość sekwencji wyjściowej = 1 028, 8x ośmiokierunkowe DGX H100 GPUS chłodzone powietrzem vs. 1x ósemkę Way DGX B200 chłodzony powietrzem, na porównanie wydajności GPU.

Wydajność
treningowa AI

Prognozowane wyniki ulegające zmianie. 32 768 GPU, 4096x ośmiokierunkowy klaster ochłodzony powietrzem DGX H100: 400G IB Sieć, 4096x 8-kierunkowy klaster chłodzący powietrze B200: 400G IB Network.

Specyfikacje

Specyfikacje NVIDIA DGX B200

GPU	8x NVIDIA Blackwell GPUs
Pamięć GPU	1 440 GB Całkowita pamięć GPU
Wydajność	72 petaFLOPS training and 144 petaFLOPS inference
Pobór energii	~14.3kW max
CPU	2 procesory Intel® Xeon® Platinum 8570 112 rdzeni łącznie, 2,1 GHz (podstawa), 4 GHz (Max Boost)
Pamięć systemowa	Do 4TB
Networking	4x Porty OSFP obsługujące 8x jednoport NVIDIA Connectx-7 VPI Do 400 GB/s Infiniband/Ethernet 2x Dual-Port QSFP112 NVIDIA Bluefield-3 DPU Do 400 GB/s Infiniband/Ethernet
Zarządzanie siecią	10 GB/s na pokładzie NIC z RJ45 NIC Ethernet o podwójnym porcie 100 GB/s Host Host Basoard Management Controller (BMC) z RJ45
Storage	OS: 2x 1,9TB NVME M.2 Pamięć wewnętrzna: 8x 3,84TB NVME U.2
Oprogramowanie	NVIDIA AI Enterprise: Optopnizowane oprogramowanie AI NVIDIA Base Command ™: Orkiestracja, planowanie i zarządzanie klastrami DGX OS / Ubuntu: System operacyjny
Rack Units (RU)	10 RU
Wymiary systemu	Wysokość: 17,5 cala (444 mm) Szerokość: 19,0 cali (482,2 mm) Długość: 35,3 cala (897,1 mm
temperatura robocza	5–30°C (41–86°F)
Wsparcie dla przedsiębiorstw	Trzyletnie przedsiębiorcze wsparcie biznesowe dla sprzętu i oprogramowania Dostęp do portalu wsparcia dla przedsiębiorstw 24/7 Wsparcie agentów na żywo w lokalnych godzinach pracy

Zasoby

Dostarczanie superkomputerów do każdego przedsiębiorstwa

Nvidia DGX Superpod

NVIDIA DGX SuperPOD ™ z systemami DGX B200 umożliwia wiodącym przedsiębiorstwom wdrażanie infrastruktury pod kluczową, wspieraną przez wiedzę AI NVIDIA.

Infrastruktura AI dla wdrażania przedsiębiorstw

Zmaksymalizować wartość platformy DGX

Nvidia Enterprise Services zapewnia wsparcie, wykształcenie i profesjonalne usługi dla infrastruktury DGX. Dzięki ekspertom NVIDIA dostępnym na każdym etapie podróży AI, usługi korporacyjne mogą pomóc Ci szybko i skutecznie uruchomić swoje projekty.

Dowiedz się więcej o DGX Enterprise Services

Otrzymuj ekskluzywną ofertę szkoleniową jako klient DGX

Dowiedz się, jak osiągnąć najnowocześniejsze przełom z AI szybszymi i specjalnymi szkoleniami technicznymi, zaoferowanymi wyraźnie klientom DGX od ekspertów AI z NVIDIA Deep Learning Institute (DLI).

Dowiedz się więcej o DLI dla DGX