機械学習タスクとアルゴリズムに特化したアクセラレータの開発は、過去数年にわたって非常に人気がありました。 2020年に、英国の会社Graphcoreは、新しいクラスの加速器の作成を発表しました。これは、IPU：Intelligence ProcessingUnitと呼ばれます。彼らの建築はとても興味深いものです。
IPUのメインユニットはコアではなく、「タイル」です。これは、計算ロジックと、帯域幅が約45 TB / s（7.8 TB / s）の高速メモリの両方を含む水晶の領域です。タイル間）。最初の反復で、Graphcoreチップは300 MBのメモリを備えた1216個のそのようなタイルを受け取り、現在、同社は次世代のIPUを発表しました。
BOWと呼ばれる新しいチップは、条件付きで「第2.5世代」と呼ぶことができます。これは、第2世代のColossus Mk2チップを使用します。つまり、8832スレッドを同時に実行できる1472タイルの892 MBSRAMです。このダイはまだTSMCの7nmプロセスを使用して製造されていますが、Graphcoreはより高度な3D Wafer-on-Wafer（3D WoW）パッケージに移行しました。
新しいIPUは、新しいタイプのパッケージを使用した業界初の高複雑度チップであり、3D WoWテクノロジーは、電源サブシステムを最適化するためにGraphcoreとTSMCによって共同開発されました。この複雑さのプロセッサーは非常に貪欲であり、それらを「供給する」ことは容易ではありません。その結果、通常のパッケージでは、ColossusMk2チップから最大のパフォーマンスを達成することはできません。損失と寄生加熱が高すぎます。
3D WoWは、AMDがMilan-Xサーバーチップで使用しているテクノロジーと同様に、さまざまな方法で実装されています。簡単に言えば、銅の棒状構造が結晶を貫通し、それを別の結晶に直接接続することを可能にし、それらは互いにおかげで「くっつく」。 BOWの場合、下部の水晶の役割は、巨像Mk2の上部の水晶に給電する安定化コンデンサのシステムを備えた配電器に割り当てられます。フラット構造からボリューム構造への移行により、入力電流を増やすことと、その流路を短くすることの両方が可能です。
その結果、同社は、メインプロセッサを作り直したり、より薄く、より高価なプロセステクノロジに移行したりすることなく、BOWの頻度とパフォーマンスをさらに向上させることができました。第2世代の元のIPUの最大パフォーマンスが250Tflopsだった場合、今は350 Tflopsについて話しています。4チップのBOW-2000システムの場合、合計パフォーマンスは1.4Pflopsと宣言されています。そして、これは重大なコストなしで得られる良い利益です。
IPUは、引き続き10個のIPU-Linkチャネル（320 GB / s）を介して外部と通信します。このようなシステムの内部メモリはすでにほぼ4GBであり、260 TB / sの速度で実行されます。これは、これまで以上に大きなデータセットを必要とする一部の機械学習タスクにとって重要なパラメータです。オンボードメモリの容量は、NVIDIAやAMDが提供する容量とはかけ離れていますが、速度の向上により、Graphcoreの発案者は深刻な利点を得ることができます。
BOW-2000ノードは以前のバージョンのノードと互換性があります。管理サーバーを備えたこのような4つのノード（BOW POD16）（すべて5Uシャーシ内）のパフォーマンスは、最大5.6PFlopsです。また、16個のBOW-2000ノード（BOW POD64）を備えたフルラックは、すでに22.4Pflopsを提供します。同社によれば、新バージョンの性能は30〜40％向上し、エネルギー効率は10％から16％向上しているという。
Graphcoreは、BOWPOD16が総所有コスト（TCO）でNVIDIADGX-A100を10倍上回っていると主張しています。 BOWPOD16はDGX-A100の半分の価格です。残念ながら、Graphcore機械学習市場の征服について話すのは時期尚早です。同社にはすでにかなりの数のクライアントがいますが、その中にはGoogleやBaiduのような巨人は存在しません。長期的には、Graphcoreの状況はクラウドレスにはほど遠いですが、同社はすでに3nmプロセステクノロジーに基づく第3世代のIPUを準備しています。
2022-03-05 03:38:48
著者: Vitalii Babkin