NVIDIA A2 가속기는 2018년에 도입된 NVIDIA T4를 대체합니다. 둘 다 초급 모델이며 추론 작업에 매우 적합하지만 소규모 모델, 비디오 트랜스코딩, 분석, VDI, 가상 워크스테이션 등의 교육에도 사용할 수 있습니다.
NVIDIA A2는 패시브 쿨링 및 PCIe 4.0 x8 인터페이스와 크기 조정 가능한 막대가 있는 단일 슬롯 HHHL 카드입니다. T4와의 중요한 차이점은 40와트에서 60와트까지 조정 가능한 TDP 레벨의 범위가 더 넓다는 것입니다. 가속기는 0 ~ +50 ° C의 온도에서 작동 할 수 있습니다 (-5 ~ +55 ° C의 짧은 시간 동안). 이를 통해 가장 유리한 조건이 아닌 경우를 포함하여 주변에서 사용할 수 있습니다(NEBS-3).
GPU의 기본 주파수는 1140MHz이고 부스트는 1771MHz입니다. 온보드 GDDR6 메모리(128비트, 6251MHz)의 볼륨은 16GB이고 대역폭은 200GB/s(T4의 경우 300GB/s)입니다. 미디어 디코딩(AV1 포함)을 위한 두 가지 엔진과 인코딩을 위한 엔진도 있습니다. 신제품은 CUDA 11.1, vGPU 14.0, SR-IOV(16 VF), NVIDIA AI Enterprise Secure Boot를 지원합니다.
NVIDIA A2는 텐서(숫자는 지정되지 않음) 및 RT 코어(10개) 암페어를 사용합니다. FP32 컴퓨팅 성능은 4.5테라플롭(T4는 8.1테라플롭)에 불과합니다. TF32의 경우 이미 9테라플롭이고 FP16/BF16의 경우 18테라플롭입니다. INT8 및 INT4의 경우 이러한 표시기는 각각 36 및 72 상단이고 T4 - 130 및 260 상단입니다.
그러나 NVIDIA는 A2 성능을 CPU와 비교하는 것을 선호합니다. 먼저 추론 작업에서 이점이 최대 20배까지 가능합니다. 그럼에도 불구하고 스마트 비디오 분석 작업에서 A2와 T4의 비교도 제공되며, 여기서 참신함의 이점은 20-30%입니다. 동시에 가격 대비 성능 측면에서 T4보다 1.6배, 에너지 효율은 10% 더 높습니다.
2021-11-09 16:39:41
작가: Vitalii Babkin