Kommt in OcNOS 7.1 · Ende-zu-Ende

Global Load Balancing: Fabric-weite Pfadwahl

DLB trifft die richtige Entscheidung an einem Hop; GLB trifft die richtige Entscheidung über die gesamte Fabric hinweg. Global Load Balancing kommt mit OcNOS 7.1 und erweitert Load Balancing von einer Sicht pro Port auf die durchgängige Pfadqualität. Damit schließt es die Multi-Hop-Hotspot-Lücke in dreistufigen AI-Fabrics bis zur Obergrenze von 16.384 GPUs.

OcNOS 7.1GLB Release
End-to-EndPath-Scoring, nicht lokaler Hop
16.384GPU-Obergrenze, Referenzdesign

Bewertung des gesamten Pfads, nicht nur des lokalen Hops

Ein dreistufiger Ausschnitt (Leaf, Spine, Super-Spine), der GPU-AllReduce trägt. GLB wählt den Pfad mit der besten durchgängigen Bewertung, nicht mit der besten lokalen Egress-Bewertung, sodass ein freier Uplink, der auf einem überlasteten Downlink landet, nicht mehr blind gewählt wird.

Global Load Balancing über eine dreistufige AI-Fabric Dreistufige AI-Fabric. Zwei Super-Spines oben, vier Spines in der Mitte, zwei Leaves unten. Telemetriepfeile verlaufen nach oben und wieder nach unten, sodass das Ingress-Leaf die durchgängige Pfadqualität sieht. Ein Spine-zu-Super-Spine-Link ist überlastet und wird zugunsten eines alternativen durchgängigen Pfads umgangen. durchgängige Telemetrie Super-Spine-1TH5 · 51.2T Super-Spine-2TH5 · 51.2T Spine-1e2e ok Spine-2e2e ok Spine-3Uplink ausgelastet Spine-4e2e ok Ingress-LeafGLB · bewertet Pfade Egress-LeafZiel-Rack GLB · END-TO-END-PFADBEWERTUNG · MULTI-HOP-ÜBERLASTERKENNUNG · OcNOS 7.1

DLB und GLB, nach Reichweite der Pfadentscheidung

DLB bewertet jeden ECMP-Next-Hop anhand der lokalen Egress-Queue-Tiefe, was auf einem zweistufigen Leaf-Spine optimal ist. Skalieren Sie auf ein dreistufiges Clos, können Sie einen Spine mit freiem Uplink wählen und dann auf einem Super-Spine landen, dessen Downlink zurück zum Egress-Leaf überlastet ist. Die lokale Sicht ist korrekt; die durchgängige Sicht ist falsch.

Kriterium DLBlokal, heute verfügbar GLBglobal, OcNOS 7.1
Reichweite der EntscheidungPer-Hop: Jeder Switch bewertet seine eigenen ECMP-Next-Hops.Durchgängig: Ingress-Leaves bewerten vollständige Leaf-zu-Leaf-Pfade.
Verwendetes SignalLokale Egress-Queue-Tiefe und Link-Auslastung auf diesem Switch.Überlastungs-Telemetrie, aggregiert aus jeder Ebene, zurück zum Ingress.
Beste PassungZweistufige Leaf-Spine-Fabrics und der Leaf-zu-Spine-Hop in einer dreistufigen Fabric.Dreistufige Fabrics mit Super-Spines, bis zur Obergrenze von 16.384 GPUs.
Erkannter HotspotNur lokale Egress-Überlastung.Downstream-Hotspots, die der lokale Hop nicht sehen kann.
NeuzuordnungFlowlet-ausgerichtet, In-Order für RoCEv2 und TCP.Flowlet-ausgerichtet, dieselbe In-Order-Garantie, Eingabe über die gesamte Fabric.

Wie die GLB-Implementierung zusammenpasst

GLB wird durch OcNOS als Netzwerkbetriebssystem auf offener Broadcom-basierter Hardware ermöglicht.

Skalieren

Bis zur Obergrenze von 16k GPU

An der Obergrenze von 16.384 GPUs nutzt eine dreistufige Fabric aus 64x800G Tomahawk 5 Switches mit einer Cross-Pod-Ebene von ~2:1 etwa 512 Leaves, 384 Spines und 128 Super-Spines, eine Schätzung aus der Clos-Port-Rechnung; die genauen Anzahlen je Design, mit einem Ingenieur von IP Infusion.

Was Sie erwartet, wenn Sie GLB einführen

GLB kommt mit OcNOS 7.1. Kontaktieren Sie IP Infusion zu unterstützten Plattformen und Lizenzierung.

  • Kommt mit OcNOS 7.1. Release-Lebenszyklus und Support-Zeiträume unter OcNOS-Releases-Seite.
  • Architektur-Review verfügbar. Wenn Sie eine Fabric mit mehr als 1.000 GPUs dimensionieren, führen wir eine Sizing-Analyse durch, die die GLB-Telemetrie-Ebene einbezieht. Erhalten Sie einen ersten Leaf-Spine-Entwurf mit der AI Fabric Design Suite.

DLB legt die Basis, GLB hebt die Obergrenze

Dynamisches Load Balancing reduziert bereits die Tail-Latency im zweistufigen Maßstab. GLB, das mit OcNOS 7.1 kommt, überträgt dieselbe Disziplin auf die dreistufigen Fabrics, in denen die größten Cluster laufen.

DLB löst den Regelfall

Auf zweistufiger Leaf-Spine und beim Leaf-zu-Spine-Hop beseitigt lokales dynamisches Load Balancing bereits die meisten ECMP-Kollisionen. Das ist heute auf TH4 und TH5 verfügbar.

GLB löst den Skalierungsfall

GLB, das mit OcNOS 7.1 kommt, bewertet vollständige Pfade, sodass das Ingress-Leaf nicht länger einem sauberen Uplink in einen überlasteten Downlink folgt.

Global Load Balancing, erklärt

Worin unterscheidet sich GLB von DLB?
DLB bewertet jeden Next-Hop anhand der lokalen Egress-Queue-Tiefe auf einem Switch, was auf einem zweistufigen Leaf-Spine optimal ist. GLB aggregiert Congestion-Telemetrie aus jeder Ebene, sodass Ingress-Leaves vollständige Leaf-zu-Leaf-Pfade bewerten und Hotspots weiter unten erkennen, die die lokale Sicht in dreistufigen Fabrics übersieht.
Wann ist GLB verfügbar?
GLB kommt mit OcNOS 7.1. Kontaktieren Sie IP Infusion zu unterstützten Plattformen und Lizenzierung.
Wie große Fabrics unterstützt GLB?
An der Obergrenze von 16.384 GPUs nutzt eine dreistufige Fabric aus 64x800G Tomahawk 5 Switches mit einer Cross-Pod-Ebene von ~2:1 etwa 512 Leaves, 384 Spines und 128 Super-Spines, eine Schätzung aus der Clos-Port-Rechnung; die genauen Anzahlen je Design, mit einem Ingenieur von IP Infusion.

Tiefer einsteigen. Zum Mitnehmen.

Das Produktdatenblatt und kurze, technische Downloads, die über diese Seite hinausgehen.

Datenblatt

OcNOS-DC-Datenblatt

Vollständige OcNOS-DC-Spezifikation: Funktionsumfang für EVPN-VXLAN und Ethernet for AI, Software-SKUs, unterstützte Hardware-Plattformen und der Solution Ordering Guide.

Datenblatt abrufen
Solution Brief

OcNOS: verlustfreie 800G-AI-Fabric

Verlustfreie RoCEv2-Fabric auf Tomahawk-5-Spines: SKU-Stufen, qualifizierte Plattformen und Deployment-Architektur.

Brief anfordern
Solution Brief

EVPN-VXLAN-Data-Center-Fabric

Leaf-Spine-Rechenzentrums-Fabric auf EVPN-VXLAN: eine VRF und VNIs pro Mandant, EVPN-Multihoming, BGP unnumbered und Route-Target-Filterung.

Brief anfordern

Sie dimensionieren eine Fabric mit mehreren Tausend GPUs? Lassen Sie uns die Zahlen gemeinsam durchrechnen

Nennen Sie uns den Workload und die GPU-Größenordnung, und ein IP Infusion Engineer dimensioniert gemeinsam mit Ihnen die GLB-Telemetrie-Ebene, oder beginnen Sie mit einem ersten Leaf-Spine-Entwurf in der AI Fabric Design Suite.