GTC 2022 행사에서 NVIDIA는 새로운 Hopper 그래픽 아키텍처와 이를 기반으로 하는 첫 번째 제품인 H100 컴퓨팅 가속기를 발표했습니다. 그들의 칩은 약 800억 개의 트랜지스터이며 TSMC N4 공정 기술(향상된 5nm)을 사용하여 제조됩니다.
이 회사는 NVIDIA A100에 비해 H100의 FP64, TF32, FP16 작업에서 성능이 3배, FP8 작업에서 6배 향상된 성능을 제공한다고 주장합니다.
H100에는 또한 현재 NVIDIA A100 AI 가속기보다 1.5배 더 많은 3TB/s의 대역폭을 가진 80GB의 HBM3 메모리가 포함되어 있습니다.
NVIDIA H100 가속기의 주요 기능은 새로운 Transformer Engine, 동적 프로그래밍을 위한 특수 DPX 명령 지원, 2세대 Multi-Instance GPU 가상화 기술, 900 데이터 전송 속도의 4세대 NVLink 버스 지원입니다. GB/s, 최대 256개의 액셀러레이터를 직접 연결할 수 있는 새로운 NVSwitch.
NVIDIA H100 가속기는 TDP가 350W인 PCI Express 5.0 확장 카드 형식과 선언된 TDP가 A100보다 300W 높은 700W인 SXM5 폼 팩터 모두에서 사용할 수 있습니다. 동시에 PCIe 버전에는 14,592개의 CUDA 코어가 있는 덜 강력한 칩이 제공됩니다. SXM5 형식의 모델은 16,896개의 코어가 있는 칩에 구축됩니다.
회사는 H100 가속기를 기반으로 한 첫 번째 제품이 FP8 작업에서 최대 32PFlops의 AI 컴퓨팅 성능을 제공할 수 있는 4세대 DGX 시스템인 DGX H100이 될 것이라고 말합니다. 파트너는 4개 또는 8개의 가속기를 위한 HGX 플랫폼을 제공합니다. 4세대 NVLink 스위치 버스가 있으면 최대 32개의 DGX H100 시스템을 네트워킹할 수 있으며 이를 기반으로 차세대 NVIDIA DGX SuperPOD 슈퍼컴퓨터를 구성할 수 있습니다. NVIDIA 자체는 현재 576 DGX H100 시스템으로 구성되고 275 Pflops 및 FP16 - 9 Eflops 수준에서 FP64 성능을 수신할 EOS 슈퍼컴퓨터를 만드는 작업을 진행하고 있습니다.
Alibaba Cloud, Amazon Web Services, Baidu AI Cloud, Google Cloud, Microsoft Azure, Oracle Cloud, Tencent Cloud와 같은 선도적인 클라우드 서비스 제공업체는 이미 Hopper의 새로운 아키텍처에 관심을 표시했으며 해당 생태계에서 NVIDIA H100 가속기 기반 솔루션을 사용할 계획입니다. .
2022-03-22 18:15:04
작가: Vitalii Babkin