Global Load Balancing:ファブリック全体のアダプティブルーティング

DLB は 1 ホップ単位で正しい判断を下し、GLB はファブリック全体にわたって正しい判断を下します。OcNOS 7.1 で登場する Global Load Balancing は、適応型ルーティングをポート単位の視点からエンドツーエンドのパス品質へと拡張し、最大 16k-GPU の上限まで対応する 3 段 Clos AI ファブリックにおけるマルチホップのホットスポットの隙間を解消します。

エンドツーエンドのパステレメトリ

GPU AllReduce を運ぶ3段 Clos スライス(リーフ、スパイン、スーパースパイン)。各ティアがキュー占有率とリンク利用率のテレメトリをイングレスリーフへストリーミング。GLB は最良のパスを選択: end-to-end スコア。最適なローカルエグレススコアではありません。

マルチホップのホットスポット問題

DLBは各ECMPネクストホップを次の指標でスコアリング: local イグレスキュー深度:このスイッチのアウトバウンドポートで何が起きているか。2 ティアのリーフスパインでは最適です。しかし3ティアの Clos にスケールすると、クリーンなアップリンクを持つスパインを選んでも、その先のスーパースパインに行き着いてしまう可能性があり、そこでは downlink 出口リーフへ戻る経路が輻輳。ローカルから見た状態は正しいが、エンドツーエンドで見た状態は誤り。

1,024 GPU以上のファブリック、すなわちスーパースパインを用いた3段Closが標準トポロジーとなる規模において、これがテールレイテンシーの外れ値として残る支配的な要因です。 OcNOS 7.1 では Global Load Balancing を新たに搭載 解決策:各ティアがパス品質テレメトリをイングレスリーフへ向けて配信するため、イングレスの判断はエンドツーエンドのスコア全体に基づいて行われます。

DLB対GLB:パス選択の適用範囲

OcNOS 7.1のGLB実装

ロードマップと提供状況

• OcNOS 7.1、初回リリース。 GLBは、現在DLBを稼働している同一のTH4/TH5ハードウェア上で、7.1 OcNOS-DCトレインの一部として提供されます。スケジュールおよび機能範囲については以下を OcNOS リリースページ.
• 同一SKU。 OcNOS-DC PLUSに同梱:機能ごとのペイウォールなし、アップグレード時の新規ライセンスキーなし。
• 無停止アップグレード。 7.0から7.1へのブラウンフィールドアップグレードに対応。バージョン混在ファブリックは、アップグレード期間中はDLBのみの挙動で動作を継続。
• UEC-aligned. パス品質プレーンは、UEC NIC エコシステムが成熟した際に Ultra Ethernet Consortium のシグナリングと相互運用できるよう設計中であり、7.1 GLB は業界の進む方向と前方互換。参照: Ultra Ethernet (UEC).
• アーキテクチャレビューをご利用いただけます。 1k以上のGPUファブリックのサイジングをご検討の場合、GLBテレメトリプレーンを含むサイジング作業を実施します。

数千GPU規模のファブリックのサイジングをご検討ですか。数値の試算を一緒に進めましょう。