Nvidia zapowiada potężny układ H100, procesory Grace oraz nowe superkomputery DGX

Podczas imprezy GTC 2022 Nvidia zaprezentowała wiele interesujących rozwiązań technologicznych. Największą uwagę zwraca pokazany sprzęt, w tym długo wyczekiwany akcelerator H100, bazujący na architekturze Hopper. To prawdziwa wydajnościowa bestia, która może w pewnym stopniu pokazać, jak mogą wyglądać przyszłe karty graficzne dla graczy.

Prezentacja Nvidii na GTC 2022 obfitowała w masę interesujących zapowiedzi i ogłoszeń. Przedstawiono nowe techniki AI, rozszerzone możliwości Omniverse, technologie dla motoryzacji czy inteligentnych fabryk. Było też sporo no nowościach sprzętowych. Zdecydowanie najistotniejszą zapowiedzią był jednak nowy akcelerator H100. To potężna konstrukcja przeznaczona do platform obliczeniowych, mająca napędzać obliczenia SI.

Zieloni wprowadzili znaczące usprawnienia w nowej architekturze Hopper, dotyczące głównie przepustowości pamięci i ilości operacji wejścia wyjścia dla uczenia maszynowego. Flagowy chip GH100 składa się z 80 mld tranzystorów i jest wykonany w technologii TSMC 4N, będącej ulepszoną odmianą litografii 5 nm. W porównaniu do A100 znacząco zwiększyła się liczba rdzeni, taktowanie zegara i niestety też pobór energii (ten jest na poziomie aż 700 W). Ma to jednak przełożenie na wydajność – w niektórych zadaniach wzrosła ona ponad trzykrotnie. Szczegóły na temat jednostki znajdziecie w załączonej tabeli.

Nvidia wskazuje, że w przypadku architektury Hopper zastosowano sporo ciekawych usprawnień, włącznie z poufnym przetwarzaniem danych, ulepszeniem wieloinstancyjnego środowiska, czy zastosowania nowej wersji NVLink. Hopper jest też pierwszym GPU, obsługującym interfejs PCIe 5.0. Tak rozbudowany układ może być łączony z innymi, osadzonymi na tej samej płycie bazowej HGX.

Razem z akceleratorem Nvidia H100 zapowiedziano też systemy DGX H100, mające na pokładzie osiem takich układów i łącznie 640 GB pamięci HBM3. Taki zestaw zapewnia wydajność na poziomie 5 PFLOPS dla obliczeń FP16 i do 10 PFLOPS dla INT8. To jednak nie koniec, bo klienci mogą taki zestaw połączyć z innymi, tworząc w ten sposób platformę DGX POD wyposażoną w nawet 256 akceleratorów. Niezbędne do tego było wykorzystanie nowego przełącznika, oferującego aż 128 linii NVLink.

Na tym jednak jeszcze nie koniec, bo Nvidia zbuduje też superkomputer EOS, wykorzystujący platformę DGX SuperPOD. Konstrukcja będzie wyposażona w aż 576 systemów DGX H100, czyli będzie oferować aż 4608 akceleratorów H100. Jej wydajność w obliczeniach AI ma wynieść aż 18,4 EFPOPS. System ma zostać uruchomiony pod koniec tego roku.

Poza układami GPU Nvidia przestawiła również swój procesor Grace. To 144-rdzeniowy chip bazujący na architekturze ARM Neoverse, składający się z dwóch współpracujących ze sobą układów połączonych przy pomocy technologii NVLink C2C. Nvidia wykorzystała w jego przypadku interfejs o przepustowości 900 GB/s, zapewniła wsparcie dla pamięci LPDDR5x z korekcją ECC i przyłożyła się do optymalizacji wydajności. Ta bowiem ma być całkiem niezła – w SPECrate®2017_int_base Grace osiąga około 740 pkt.

Do obliczeń AI i HPC zieloni przygotowali natomiast konstrukcję Grace Hopper Superchip. Łączy ona w sobie jeden układ CPU i jeden GPU, które wymieniają dane przy pomocy 900-gigabajtowego interfejsu. Tutaj również stosowane jest połączenie NVLink C2C, a jednostka jest w pełni kompatybilna z pełnym zestawem oprogramowania Nvidii, włącznie z Nvidia HPC, Nvidia AI oraz Nvidia Omniverse.