NVIDIA A2アクセラレータは、2018年に導入されたNVIDIAT4に代わるものです。どちらもエントリーレベルのモデルであり、推論タスクに適していますが、小さなモデル、ビデオトランスコーディング、分析、VDI、仮想ワークステーションなどのトレーニングにも使用できます。
NVIDIA A2は、パッシブ冷却とサイズ変更可能なバーを備えたPCIe 4.0x8インターフェイスを備えたシングルスロットHHHLカードです。 T4との重要な違いは、調整可能なTDPレベルの範囲が広いことでした（40〜60ワット）。加速器は、0〜 + 50°Cの温度で動作できます（-5〜 + 55°Cの短時間）。これにより、最も好ましくない状態（NEBS-3）を含め、周辺で使用できます。
GPUの基本周波数は1140MHzで、ブーストは1771MHzです。オンボードGDDR6メモリ（128ビット、6251 MHz）のボリュームは16 GBで、帯域幅は200 GB / s（T4の場合は300 GB / s）です。メディア（AV1を含む）をデコードするための2つのエンジンと、エンコードするための1つのエンジンもあります。新製品は、CUDA 11.1、vGPU 14.0、SR-IOV（16 VF）、NVIDIAAIエンタープライズセキュアブートをサポートします。
NVIDIA A2は、テンソル（数は指定されていません）とRTコア（10個）アンペアを使用します。 FP32コンピューティングのパフォーマンスはわずか4.5テラフロップスです（T4は8.1テラフロップスでした）。 TF32の場合はすでに9テラフロップス、FP16 / BF16の場合は18テラフロップスです。 INT8とINT4の場合、これらのインジケーターはそれぞれ36と72のトップであり、T4の場合は130と260のトップです。
ただし、NVIDIAはA2のパフォーマンスをCPUと比較することを好みます。まず第一に、推論タスクでは、利点は最大20倍になる可能性があります。それにもかかわらず、スマートビデオ分析のタスクにおけるA2とT4の比較も示され、新規性の利点は20〜30％です。同時に、価格性能比では、T4の1.6倍、エネルギー効率は10％向上しています。
2021-11-09 16:39:41
著者: Vitalii Babkin