Global Load Balancing: selezione del percorso estesa a tutto il fabric
DLB prende la decisione giusta a un singolo hop; GLB prende la decisione giusta su tutta la fabric. In arrivo in OcNOS 7.1, il Global Load Balancing estende il bilanciamento del carico da una vista per porta alla qualità del percorso end-to-end, colmando il divario degli hot-spot multi-hop sugli AI fabric a tre livelli fino al limite di 16.384 GPU.
Valutare l'intero percorso, non solo l'hop locale
Una sezione a tre livelli (leaf, spine, super-spine) che trasporta AllReduce GPU. GLB sceglie il percorso con il miglior punteggio end-to-end, non con il miglior punteggio di egress locale, così un uplink libero che finisce su un downlink congestionato non viene più scelto alla cieca.
DLB e GLB, per ambito della decisione di percorso
DLB valuta ogni next-hop ECMP in base alla profondità della coda di egress locale, il che è ottimale su un leaf-spine a 2 livelli. Scalate a un Clos a 3 livelli e potreste scegliere uno spine con un uplink libero, solo per arrivare a un super-spine il cui downlink verso il leaf di egress è congestionato. La vista locale è corretta; la vista end-to-end è sbagliata.
| Aspetto | DLBlocale, disponibile oggi | GLBglobale, OcNOS 7.1 |
|---|---|---|
| Ambito della decisione | Per hop: ogni switch classifica i propri next-hop ECMP. | End-to-end: i leaf di ingresso classificano percorsi completi da leaf a leaf. |
| Segnale utilizzato | Profondità della coda di egress locale e utilizzo del link su questo switch. | Telemetria di congestione aggregata da ogni tier, fino all'ingresso. |
| Scelta ottimale | Fabric leaf-spine a 2 livelli, e l'hop da leaf a spine in un fabric a tre livelli. | Fabric a tre livelli con super-spine, fino al limite di 16.384 GPU. |
| Hot-spot rilevato | Solo congestione di egress locale. | Hot-spot a valle che l'hop locale non può vedere. |
| Riassegnazione | Allineato ai flowlet, in ordine per RoCEv2 e TCP. | Allineato ai flowlet, stessa garanzia di ordine, con input dell'intera fabric. |
Come si integra l'implementazione GLB
GLB è abilitato da OcNOS in qualità di sistema operativo di rete su hardware aperto basato su Broadcom.
Fino al limite massimo di 16k GPU
I design di riferimento usano 256 switch spine e 128 switch super-spine, ciascuno un Tomahawk 5 da 64x800G, dimensionati al limite architetturale di 16.384 GPU.
Cosa aspettarsi quando adottate GLB
GLB arriva con OcNOS 7.1. Contattate IP Infusion per le piattaforme supportate e il licensing.
- Arriva con OcNOS 7.1. Ciclo di vita delle release e finestre di supporto al Pagina delle release OcNOS.
- Revisione dell'architettura disponibile. Se state dimensionando una fabric con oltre 1.000 GPU, eseguiremo un esercizio di dimensionamento che include il piano di telemetria GLB. Ottenete un layout leaf-spine di primo passaggio con la suite di progettazione per fabric AI.
DLB fissa la base, GLB alza il limite
Il bilanciamento dinamico del carico sta già riducendo la tail-latency su scala a 2 livelli. GLB, in arrivo in OcNOS 7.1, porta la stessa disciplina nei fabric a tre livelli dove operano i cluster più grandi.
DLB risolve il caso comune
Su leaf-spine a 2 tier e sull'hop leaf-spine, il bilanciamento dinamico del carico locale elimina già la maggior parte delle collisioni ECMP. È disponibile su TH4 e TH5 già oggi.
GLB risolve il caso su larga scala
GLB, in arrivo in OcNOS 7.1, assegna un punteggio ai percorsi completi così che il leaf di ingresso smetta di rincorrere un uplink pulito che sfocia in un downlink congestionato.
Global Load Balancing, le risposte
In che cosa GLB si differenzia da DLB?
Quando sarà disponibile GLB?
Quanto grande può essere una fabric supportata da GLB?
Approfondite. Portatelo con voi.
Il datasheet di prodotto e download tecnici e sintetici che vanno oltre questa pagina.
Datasheet OcNOS-DC
Specifica completa di OcNOS-DC: il set di funzionalità EVPN-VXLAN e Ethernet for AI, gli SKU software, le piattaforme hardware supportate e la guida all'ordine della soluzione.
Ottieni il datasheetFabric AI senza perdite OcNOS 800G
Fabric RoCEv2 non bloccante su spine Broadcom Tomahawk 4/5: tier di SKU, piattaforme validate e architettura di deployment.
Scarica il briefFabric data center EVPN-VXLAN
Fabric leaf-spine carrier-grade per data center: IRB simmetrico, route Type-2/Type-5 e gateway anycast distribuito.
Scarica il briefDatasheet OcNOS-DC
Modulo rapido. Il vostro PDF si apre in una nuova scheda subito dopo l'invio.
✓ Apertura del vostro PDF in una nuova scheda…
Se non si è aperto, usate il link qui sotto.
Fabric AI senza perdite OcNOS 800G
Modulo rapido. Il vostro PDF si apre in una nuova scheda subito dopo l'invio.
✓ Apertura del vostro PDF in una nuova scheda…
Se non si è aperto, usate il link qui sotto.
Fabric data center EVPN-VXLAN
Modulo rapido. Il vostro PDF si apre in una nuova scheda subito dopo l'invio.
✓ Apertura del vostro PDF in una nuova scheda…
Se non si è aperto, usate il link qui sotto.
Dimensionare una fabric da diverse migliaia di GPU? Facciamo i conti insieme
Indicateci il carico di lavoro e la scala GPU, e un ingegnere di IP Infusion dimensionerà con voi il piano di telemetria GLB, oppure iniziate con un layout leaf-spine di primo passaggio nell'AI fabric design suite.
Progettate l'intera fabric AI con OcNOS
Dal business case al calcolo del numero di porte, riprendete da qualunque punto della realizzazione.