Szkolenie AI—Do 3 razy wyższa przepustowość niż V100 i 6 razy wyższa niż T4

Pre-trening BERT Large (normalizowany)

Szkolenie modeli AI dla wyzwań nowej generacji, takich jak AI konwersacyjna, wymaga ogromnej mocy obliczeniowej i skalowalności.

Rdzenie Tensor NVIDIA A30 z precyzją Tensor Float (TF32) zapewniają do 10 razy wyższą wydajność w porównaniu do NVIDIA T4 bez żadnych zmian w kodzie oraz dodatkowy wzrost o 2 razy dzięki automatycznej mieszanej precyzji i FP16, co daje łączny wzrost przepustowości o 20 razy. W połączeniu z NVIDIA® NVLink®, PCIe Gen4, siecią NVIDIA oraz NVIDIA Magnum IO™ SDK, możliwe jest skalowanie do tysięcy GPU.

Rdzenie Tensor i MIG umożliwiają dynamiczne wykorzystanie A30 w obciążeniach przez cały dzień. Może być wykorzystywany do wnioskowania produkcyjnego w szczytowym zapotrzebowaniu, a część GPU może być ponownie użyta do szybkiego ponownego trenowania tych samych modeli w godzinach poza szczytem.

NVIDIA ustanowiła wiele rekordów wydajności w MLPerf, ogólnoprzemysłowym benchmarku dla treningu AI.

Wnioskowanie AI—Do 3 razy wyższa przepustowość niż V100 w czasie rzeczywistym dla AI konwersacyjnej

Wnioskowanie BERT Large (normalizowane)
Przepustowość dla opóźnienia <10 ms.

Wnioskowanie AI—Ponad 3 razy wyższa przepustowość niż T4 w czasie rzeczywistym dla klasyfikacji obrazów

Wnioskowanie RN50 v1.5 (normalizowane)
Przepustowość dla opóźnienia <7 ms.

HPC—Do 1,1 razy wyższa przepustowość niż V100 i 8 razy wyższa niż T4

LAMMPS (normalizowane)

Aby odkryć nową generację odkryć, naukowcy wykorzystują symulacje, aby lepiej zrozumieć otaczający nas świat.

NVIDIA A30 wyposażona jest w rdzenie Tensor FP64 architektury NVIDIA Ampere, które oferują największy skok w wydajności HPC od momentu wprowadzenia GPU. W połączeniu z 24 gigabajtami (GB) pamięci GPU o przepustowości 933 gigabajtów na sekundę (GB/s), badacze mogą szybko rozwiązywać obliczenia o podwójnej precyzji. Aplikacje HPC mogą również wykorzystywać TF32, aby osiągać wyższą przepustowość dla operacji mnożenia macierzy o pojedynczej precyzji.

Kombinacja rdzeni Tensor FP64 i MIG umożliwia instytucjom badawczym bezpieczne podział GPU, pozwalając wielu badaczom na dostęp do zasobów obliczeniowych z gwarantowaną jakością usług (QoS) i maksymalnym wykorzystaniem GPU. Przedsiębiorstwa wdrażające AI mogą korzystać z możliwości wnioskowania A30 podczas szczytowych okresów zapotrzebowania, a następnie ponownie wykorzystać te same serwery obliczeniowe do obciążeń HPC i treningu AI w godzinach poza szczytem.

Deep Learning Inference

Procesor graficzny NVIDIA A30 jest specjalnie zoptymalizowany pod kątem głębokiego uczenia się, zaspokajając wymagające potrzeby obliczeniowe wdrożeń sztucznej inteligencji w centrach danych. Zbudowany w oparciu o wydajną architekturę Ampere, A30 jest wyposażony w dużą liczbę rdzeni CUDA i rdzeni Tensor, umożliwiając przetwarzanie sieci neuronowych z wyjątkową szybkością i dokładnością. Ten procesor graficzny doskonale radzi sobie z obciążeniami wnioskowania na dużą skalę w różnych branżach, od przetwarzania języka naturalnego i rozpoznawania obrazów po systemy rekomendacji i pojazdy autonomiczne. Obsługa obliczeń o mieszanej precyzji przez A30 zwiększa wydajność, równoważąc dokładność obliczeń z wydajnością, zapewniając szybkie wyniki wnioskowania bez uszczerbku dla precyzji modelu. Integracja z zestawem narzędzi do optymalizacji wnioskowania TensorRT firmy NVIDIA jeszcze bardziej usprawnia wdrażanie i maksymalizuje przepustowość, ułatwiając przedsiębiorstwom efektywne skalowanie aplikacji AI. Ogólnie rzecz biorąc, procesor graficzny NVIDIA A30 to solidne rozwiązanie dla przedsiębiorstw, które chcą przyspieszyć swoje możliwości wnioskowania w zakresie głębokiego uczenia się, zapewniając doskonałą wydajność i skalowalność w środowiskach opartych na sztucznej inteligencji.

Analiza danych

Procesor graficzny NVIDIA A30 ma zrewolucjonizować wysokowydajną analizę danych dzięki swoim solidnym możliwościom i wydajnej architekturze Ampere. Dostosowany do wymagających aplikacji wymagających dużej ilości danych, A30 jest wyposażony w bogactwo rdzeni CUDA i rdzeni Tensor, które wyróżniają się przyspieszaniem złożonych zadań analitycznych, takich jak przetwarzanie danych na dużą skalę, uczenie maszynowe i analityka predykcyjna. Duża przepustowość pamięci i obsługa technologii NVIDIA NVLink zapewniają szybki dostęp do ogromnych zbiorów danych i ich przetwarzanie, umożliwiając organizacjom szybkie uzyskiwanie informacji i podejmowanie świadomych decyzji. Wszechstronność A30 obejmuje obsługę obliczeń o mieszanej precyzji, optymalizując wydajność obliczeniową bez utraty dokładności, która jest kluczowa dla wydajnej obsługi różnorodnych obciążeń. Zintegrowany z pakietem narzędzi programowych NVIDIA, takimi jak RAPIDS do przyspieszanych przez procesor graficzny procesów analizy danych i bibliotekami CUDA-X, A30 upraszcza wdrażanie i skalowanie rozwiązań do analizy danych w chmurze hybrydowej i środowiskach lokalnych. Ostatecznie procesor graficzny NVIDIA A30 ustanawia nowy standard w zakresie wysokowydajnej analizy danych, umożliwiając przedsiębiorstwom wydobywanie przydatnych wniosków szybciej i skuteczniej niż kiedykolwiek wcześniej.

High-Performance Computing (HPC)

Procesor graficzny NVIDIA A30 stanowi znaczący postęp w dziedzinie obliczeń o dużej wydajności (HPC), zaprojektowanych w celu zapewnienia niezrównanej mocy obliczeniowej i wydajności w szerokim zakresie zadań obliczeniowych. Zbudowany w oparciu o wydajną architekturę Ampere, A30 zawiera znaczną liczbę rdzeni CUDA i rdzeni Tensor, zoptymalizowanych do obsługi złożonych symulacji naukowych, analiz numerycznych i obliczeń wymagających dużej ilości danych z niezwykłą szybkością i dokładnością. Wysoka przepustowość pamięci i obsługa technologii NVIDIA NVLink umożliwiają bezproblemową komunikację pomiędzy procesorami graficznymi i innymi komponentami systemu, zwiększając ogólną wydajność i skalowalność systemu. Solidne możliwości obliczeniowe A30 sprawiają, że idealnie nadaje się do przyspieszania aplikacji w takich dziedzinach, jak fizyka, chemia, prognozowanie pogody i dynamika molekularna, gdzie krytyczne znaczenie ma szybkie przetwarzanie danych i symulacja. Integracja z platformą obliczeń równoległych i bibliotekami CUDA firmy NVIDIA zapewnia kompatybilność i ułatwia opracowywanie zoptymalizowanych rozwiązań programowych, umożliwiając badaczom i inżynierom skuteczne radzenie sobie z większymi i bardziej złożonymi problemami. Podsumowując, procesor graficzny NVIDIA A30 to potężne rozwiązanie dla środowisk HPC, oferujące niezrównaną wydajność i niezawodność w celu napędzania innowacji i odkryć naukowych.

Szkolenie AI (AI Training)

Procesor graficzny NVIDIA A10 to wszechstronna jednostka mocy zaprojektowana z myślą o podniesieniu poziomu głównego nurtu obliczeń korporacyjnych, zapewniając niezrównaną wydajność przy różnorodnych obciążeniach. Wykorzystując zaawansowaną architekturę Ampere, A10 zapewnia znaczną poprawę wydajności obliczeniowej, dzięki czemu idealnie nadaje się do analizy danych, infrastruktury wirtualnych pulpitów (VDI) i środowisk przetwarzania w chmurze. Bogate rdzenie CUDA i rdzenie Tensor umożliwiają przyspieszone przetwarzanie złożonych obliczeń, ułatwiając szybsze wyciąganie wniosków z dużych zbiorów danych i zwiększając wydajność modelu uczenia maszynowego. Szeroka przepustowość pamięci A10 zapewnia płynne zarządzanie zadaniami wymagającymi dużej ilości danych, podczas gdy technologia wirtualizacji NVIDIA umożliwia wielu użytkownikom jednoczesny dostęp do możliwości procesora graficznego, optymalizując wykorzystanie zasobów i redukując koszty operacyjne. Co więcej, płynna integracja A10 z kompleksowym ekosystemem oprogramowania NVIDIA, w tym CUDA, cuDNN i TensorRT, zapewnia kompatybilność i łatwość wdrożenia w istniejącej infrastrukturze IT. Cechy te wspólnie pozycjonują NVIDIA A10 jako kluczowy atut dla przedsiębiorstw, których celem jest zwiększenie mocy obliczeniowej, usprawnienie operacji i stymulowanie innowacji.