NVIDIA L40S, oparty na architekturze Ada Lovelace, to najpotężniejszy uniwersalny procesor graficzny dla centrów danych, zapewniający przełomową akcelerację wielu obciążeń dla wnioskowania i szkolenia dużych modeli językowych (LLM), grafiki i aplikacji wideo.
Generatywna sztuczna inteligencja
Możliwości układu GPU L40S w zakresie akceleracji sztucznej inteligencji, grafiki i multimediów sprawiają, że jest to najlepsza platforma dla multimodalnych potoków generatywnej sztucznej inteligencji.
Wnioskowanie i szkolenie LLM
Przyspiesz szkolenie, dostrajanie i wnioskowanie dzięki dużej przepustowości i wydajności zmiennoprzecinkowej, aby budować i wdrażać najnowocześniejsze modele sztucznej inteligencji.
Rendering i grafika 3D
Uruchamianie profesjonalnych aplikacji do wizualizacji 3D za pomocą NVIDIA L40S pozwala kreatywnym profesjonalistom na większą liczbę iteracji, szybsze renderowanie i odblokowanie ogromnych korzyści wydajnościowych, które zwiększają produktywność i przyspieszają ukończenie projektu.
Strumieniowanie i treści wideo
NVIDIA L40S przenosi obciążenia związane ze strumieniowaniem i treściami wideo na wyższy poziom, oferując przełomowe możliwości akceleracji multimediów dzięki trzem silnikom kodowania i trzem silnikom dekodowania wideo.
Silnik transformatorowy (transformer engine) radykalnie przyspiesza działanie sztucznej inteligencji i poprawia wykorzystanie pamięci zarówno podczas szkolenia, jak i wnioskowania. Wykorzystując moc rdzeni tensorowych Ada Lovelace czwartej generacji, silnik transformatorowy inteligentnie skanuje warstwy sieci neuronowych o architekturze transformatorowej i automatycznie przekształca między precyzją FP8 i FP16, aby zapewnić szybszą wydajność sztucznej inteligencji oraz przyspieszyć szkolenie i wnioskowanie.
Wydajność i bezpieczeństwo
L40S została zoptymalizowana pod kątem całodobowej pracy w korporacyjnych centrach danych i zaprojektowana, zbudowana, przetestowana i wspierana przez firmę NVIDIA w celu zapewnienia maksymalnej wydajności, trwałości i czasu pracy bez przestojów. L40S spełnia najnowsze standardy centrów danych, jest zgodna z Network Equipment-Building System (NEBS) Level 3 i oferuje bezpieczny rozruch z technologią root of trust, zapewniając dodatkową warstwę zabezpieczeń.
DLSS 3
L40S umożliwia ultraszybkie renderowanie i płynniejsze wyświetlanie klatek dzięki NVIDIA DLSS 3. Ta przełomowa technologia generowania klatek wykorzystuje głębokie uczenie i najnowsze innowacje sprzętowe w architekturze Ada Lovelace i GPU L40S, w tym rdzenie tensorowe czwartej generacji i akcelerator Optical Flow, aby zwiększyć wydajność renderowania, zapewnić wyższą liczbę klatek na sekundę (FPS) i znacznie zmniejszyć opóźnienia.
Cechy GPU | NVIDIA L40S | |
---|---|---|
Liczba rdzeni CUDA | 18176 | |
Liczba rdzeni tensorowych | 568 | |
Liczba rdzeni RT | 142 | |
Pamięć GPU | Szyna pamięci | 48 GB GDDR6 z ECC | 384-bit | |
Szczytowa wydajność FP32 | 91,6 TFLOPS | |
Szczytowa wydajność RT | 212 TFLOPS | |
Szczytowa wydajność TF32 | 362 | 733 (sparsity) TFLOPS | |
Wyjścia na wyświetlacze | 4x DP 1.4a | |
Maks. pobór mocy | 350 W | |
Szyna grafiki | PCIe Gen 4.0 | |
Form Factor | FHFL, zajmuje 2 sloty PCIe | |
Chłodzenie | Pasywne | |
NVENC | NVDEC | 3x | 3x (zawiera kodowanie i dekodowanie AVI) |
|
Wsparcie dla virtual GPU (vWS) | Tak |
SKU: TCSL40SPCIE-PB
EAN: 3536403397104
Zawartość: