Global Load Balancing：ファブリック全体の経路選択
DLB は 1 ホップで正しい判断を下し、GLB はファブリック全体にわたって正しい判断を下します。 OcNOS 7.1 で提供予定の Global Load Balancing は、ロードバランシングをポート単位の視点からエンドツーエンドのパス品質へと拡張し、16,384 GPU の上限に至る 3 階層 AI ファブリック上でのマルチホップホットスポットのギャップを埋めます。
ローカルホップだけでなくパス全体をスコアリング
GPU の AllReduce を運ぶ 3 階層スライス（リーフ、スパイン、スーパースパイン）。GLB はローカルの出力スコアが最良のパスではなく、エンドツーエンドのスコアが最良のパスを選択するため、輻輳したダウンリンクにつながるクリーンなアップリンクがやみくもに選ばれることはなくなります。
DLB と GLB、パス判断の範囲による比較
DLB は、ローカルの出力キュー深度を用いて各 ECMP ネクストホップをスコアリングします。これは 2 階層のリーフスパインでは最適です。3 階層の Clos に拡張すると、クリーンなアップリンクを持つスパインを選んでも、出力側リーフへ戻るダウンリンクが輻輳しているスーパースパインに行き着くことがあります。ローカルの視点は正しくても、エンドツーエンドの視点は誤っています。
| 観点 | DLBローカル、本日出荷済み | GLBグローバル、OcNOS 7.1 |
|---|---|---|
| 判断の範囲 | ホップ単位：各スイッチが自身の ECMP ネクストホップをランク付け。 | エンドツーエンド：ingress leaf が leaf 間のパス全体をランク付け。 |
| 使用するシグナル | 当該スイッチ上のローカルイグレスのキュー深度とリンク利用率。 | 全階層から集約され ingress へと戻される輻輳テレメトリ。 |
| 最適な選択 | 2 階層のリーフスパインファブリック、および 3 階層ファブリックにおけるリーフからスパインへのホップ。 | スーパースパインを備えた 3 階層ファブリック、16,384-GPU の上限まで。 |
| 捕捉されるホットスポット | ローカルイグレスの輻輳のみ。 | ローカルホップからは見えない下流のホットスポット。 |
| 再割り当て | フローレット整合、RoCEv2 および TCP で順序どおり。 | フローレット整合、同一の順序保証、ファブリック全体の入力。 |
GLB 実装がどのように組み合わさるか
GLB は、オープンな Broadcom ベースのハードウェア上でネットワークオペレーティングシステムとして動作する OcNOS によって実現されます。
最大16k-GPUの上限まで
16,384-GPU の上限では、64x800G Tomahawk 5 スイッチによる 3 階層ファブリックでポッド間を約 2:1 とした場合、およそリーフ 512 台、spine 384 台、super-spine 128 台を使用します。これは Clos のポート計算による推定値で、正確な台数は設計ごとに IP Infusion のエンジニアと決定します。
GLB 導入時に期待できること
GLB は OcNOS 7.1 で提供予定です。対応プラットフォームとライセンスについては IP Infusion にお問い合わせください。
- OcNOS 7.1 で提供予定。 リリースライフサイクルとサポート期間は次をご覧ください OcNOS リリースページ.
- アーキテクチャレビューをご利用いただけます。 1,000 を超える GPU ファブリックのサイジングをご検討の場合、GLB テレメトリプレーンを含むサイジング作業を実施します。次で一次案の leaf-spine レイアウトをご入手ください AI ファブリックデザインスイート.
DLB が土台を築き、GLB が上限を引き上げる
動的ロードバランシングは、2 階層規模ですでにテールレイテンシを削減しています。OcNOS 7.1 で提供予定の GLB は、その同じ規律を、最大規模のクラスターが存在する 3 階層ファブリックへと引き上げます。
DLB が一般的なケースを解決
2-tier leaf-spine および leaf から spine へのホップでは、ローカルな動的ロードバランシングがすでに大半の ECMP 衝突を解消します。これは本日 TH4 および TH5 上で出荷されています。
GLB が規模のケースを解決
OcNOS 7.1 で提供予定の GLB はパス全体をスコアリングするため、ingress leaf はクリーンなアップリンクを追って輻輳したダウンリンクへ行き着くことがなくなります。
グローバルロードバランシングにお答えします
GLB は DLB とどう違いますか。
GLBはいつ利用可能になりますか。
GLB はどの程度の規模のファブリックをサポートしますか。
さらに詳しく。資料をお持ち帰りください。
製品データシートと、このページよりもさらに踏み込んだ簡潔で技術的なダウンロード資料です。
OcNOS-DC データシート
OcNOS-DC の完全な仕様。EVPN-VXLAN と Ethernet for AI の機能セット、ソフトウェア SKU、サポート対象ハードウェアプラットフォーム、ソリューション発注ガイドを収録しています。
データシートを入手
OcNOS 800G ロスレス AI Fabric
Tomahawk 5 スパイン上のロスレス RoCEv2 ファブリック：SKU 階層、認定済みプラットフォーム、導入アーキテクチャ。
概要資料を入手
EVPN-VXLAN データセンターファブリック
EVPN-VXLAN によるリーフスパイン型データセンターファブリック：テナントごとの VRF と VNI、EVPN マルチホーミング、BGP unnumbered、ルートターゲットフィルタリング。
概要資料を入手OcNOS-DC データシート
簡単なフォームです。送信後すぐに PDF が新しいタブで開きます。
✓ PDF を新しいタブで開いています…
開かない場合は、下記のリンクをご利用ください。
OcNOS 800G ロスレス AI Fabric
簡単なフォームです。送信後すぐに PDF が新しいタブで開きます。
✓ PDF を新しいタブで開いています…
開かない場合は、下記のリンクをご利用ください。
EVPN-VXLAN データセンターファブリック
簡単なフォームです。送信後すぐに PDF が新しいタブで開きます。
✓ PDF を新しいタブで開いています…
開かない場合は、下記のリンクをご利用ください。
OcNOS で AI ファブリック全体を設計
ビジネスケースからポート数の計算まで、構築のどの段階からでも着手できます。
数千 GPU 規模のファブリックをサイジング中ですか。共に試算しましょう
ワークロードと GPU 規模をお知らせいただければ、IP Infusion のエンジニアが GLB テレメトリプレーンを共にサイジングします。あるいは AI ファブリックデザインスイートで一次案の leaf-spine レイアウトから始めることもできます。