72基のBlackwell GPUがまるで1つの巨大なプロセッサのように動作する秘密を考えたことはありますか？その秘訣はNVLinkの帯域幅にあります——なんと毎秒130テラバイトです。

これは一般的なGPUクラスタ構成ではありません。GB200 NVL72アーキテクチャは、あたかも1つの統合されたコンピューティングモンスターを作り出し、すべてのチップが完璧に同期しています。なぜこれが重要なのでしょうか？特にMixture-of-Expertsモデル（DeepSeek-R1のような）などの複雑なAIフレームワークは、このような処理ユニット間のシームレスな通信を必要とします。

これは、72人が部屋の中で叫び合うのと、72個の脳が1つのニューラルネットワークを共有する違いのようなものです。このインターコネクト速度こそが、異なるエキスパートモジュール間でパラメータをリアルタイムでやり取りしなければならないモデルをトレーニングする際に、大きな違いを生み出します。