PFC: rilevamento e ripristino deadlock
Un deadlock PFC è l'unico guasto che può bloccare indefinitamente una fabric lossless: una dipendenza ciclica dei buffer in cui code prioritarie in pausa si attendono a vicenda. Il rilevamento e ripristino dei deadlock di OcNOS-DC funziona per porta e per priorità. Rileva il ciclo di code in pausa e drena automaticamente la coda prima che i job si blocchino, su Broadcom Tomahawk 3, 4 e 5, Trident 3 (X4, X5, X7) e Trident 4.
Un ciclo di pausa a 3 switch
Tre switch in una dipendenza circolare. Ciascuno è in pausa sulla propria coda prioritaria lossless, in attesa che lo switch successivo si svuoti. Senza intervento, il ciclo è stabile per sempre. Il rilevamento dei deadlock di OcNOS scatta dopo il timeout configurato, drena la coda 3 sullo Switch-A e il ciclo collassa.
Come PFC genera un deadlock
PFC è ciò che rende RoCEv2 lossless e, su una topologia ben progettata, non causa mai problemi. La modalità di guasto si presenta solo quando un ciclo di code in pausa si chiude su una fabric multi-percorso.
PFC è una pausa hop-by-hop: uno switch invia una pausa al proprio upstream quando la sua coda di ingresso lossless supera la soglia, e l'upstream smette di trasmettere. Su una topologia ad albero con un'unica direzione di flusso, è sicuro. Su una fabric leaf-spine con percorsi multipli, il reinstradamento ECMP attorno a un guasto di link può, in condizioni specifiche, creare un percorso circolare in cui ogni switch è in pausa in attesa del successivo. Questa dipendenza ciclica dei buffer, code prioritarie in pausa che si attendono a vicenda, è un deadlock PFC.
Una volta formato, il ciclo è stabile: c'è buffer sufficiente per trattenere i frame in pausa, il protocollo di routing crede che tutto sia convergente e PFC continua a riattivarsi su ogni switch. Senza intervento, la priorità lossless interessata si blocca indefinitamente. Il traffico RoCEv2 si ferma, i collettivi xCCL (RCCL, oneCCL) vanno in timeout e il job di training si blocca.
Il rilevamento e ripristino dei deadlock OcNOS-DC
Un timer per porta e per priorità che rileva il ciclo di code in pausa e drena la coda interessata prima che i job si blocchino, per poi ripristinare autonomamente il normale PFC. Rilevamento, recupero e ripristino sono la triade centrale; ottimizzazione e licensing la completano.
Timer per porta e per priorità
Un timer viene eseguito per porta di ingresso e per priorità lossless. Se la priorità resta in pausa in modo continuo per il periodo di rilevamento configurato, il rilevamento del deadlock scatta e il ripristino ha inizio.
Drain automatico delle code
Quando scatta il rilevamento, il ripristino viene eseguito per il tempo di ripristino configurato. Per impostazione predefinita il traffico in pausa viene inoltrato, interrompendo il ciclo. Se l'azione di ripristino è impostata su scarto, quei frame vengono scartati e la NIC RDMA li ritrasmette.
Ripristino automatico dopo il recovery
Trascorso l'intervallo di restore configurato, il normale funzionamento PFC riprende sulla priorità interessata. Nessun intervento dell'operatore richiesto.
Timer configurabili dall'operatore
Il moltiplicatore di rilevamento, la granularità temporale e il tempo di ripristino sono configurabili via CLI per interfaccia. L'operatore può ridurre i timer sui cluster ad alto rischio.
Tier di licenza DC-PLUS
Parte degli SKU OcNOS-DC PLUS. Supportato sulle piattaforme Broadcom Tomahawk 3, Tomahawk 4, Tomahawk 5, Trident 3 (X4, X5, X7) e Trident 4.
Il ripristino dei deadlock è una rete di sicurezza sotto il resto dello stack lossless
Il miglior deadlock è quello che non si forma mai. Il controllo della congestione, il trasporto lossless che protegge e il bilanciamento dinamico del carico mantengono innanzitutto le code lontane dalla soglia di pausa; il ripristino dei deadlock è l'ultima linea quando non ci riescono.
Controllo della congestione
DCQCN marca e regola il ritmo dei flussi con ECN prima che le code di ingresso raggiungano la soglia PFC, così la pausa viene attivata molto meno spesso e i cicli raramente hanno la possibilità di chiudersi.
Trasporto lossless
RoCEv2 è il trasporto RDMA che PFC esiste per proteggere. Il ripristino dei deadlock è ciò che rende sicuro, anziché teoricamente rischioso, eseguire RoCEv2 in modalità lossless su larga scala.
Load balancing dinamico
DLB effettua il rebind dei flowlet lontano dagli uplink congestionati, distribuendo il carico così che le code di ingresso abbiano meno probabilità di raggiungere la soglia che attiva la pausa.
Raro non significa mai, ed è proprio questo il punto
In un fabric ben progettato con topologia e routing adeguati, i deadlock PFC sono rari. Il ripristino dei deadlock conta perché le condizioni possono comunque verificarsi.
Cosa lo attiva
Un guasto di link durante una finestra di convergenza del routing, una configurazione errata delle priorità PFC su una singola porta o un evento di congestione transitorio su un pattern di traffico insolito possono tutti creare le condizioni.
Senza il ripristino dei deadlock
Quando un deadlock si forma, il cluster AI si ferma e al team operativo resta da inseguire un blocco che il protocollo di routing segnala come integro.
Con il ripristino dei deadlock
Ottenete un breve burst di ritrasmissione e un evento registrato anziché un job bloccato. Progettate la topologia e i tier di switch che mantengono rari i deadlock con l'AI Fabric Sizing Tool.
Perché il ripristino dei deadlock rende PFC sicuro da implementare su larga scala
Trasforma l'unica obiezione teorica all'Ethernet lossless in un evento registrato e auto-risolvente.
- Rete di sicurezza lossless. Il ripristino dei deadlock è la differenza tra "il PFC è teoricamente rischioso sulle fabric AI di produzione" e "il PFC è sicuro da implementare su larga scala."
- Ripristino automatico. Il ripristino viene eseguito per il tempo di ripristino configurato, poi riprende il normale PFC. Per impostazione predefinita il traffico in pausa viene inoltrato anziché scartato.
- Configurazione per interfaccia. Il rilevamento e ripristino dei deadlock si abilita su ogni interfaccia che trasporta traffico lossless, insieme ai suoi timer di rilevamento e ripristino.
- Regolabile in base alla posta in gioco. Abbassate i timer sui cluster di training critici. Vedi PFC nella feature matrix e l'elenco hardware validato.
Deadlock PFC, le risposte
Che cosa provoca un deadlock PFC?
Come funziona il ripristino dei deadlock PFC di OcNOS?
Il ripristino dei deadlock scarta traffico?
Il rilevamento dei deadlock PFC è abilitato per impostazione predefinita?
Approfondite. Portatelo con voi.
Il datasheet di prodotto e download tecnici e sintetici che vanno oltre questa pagina.
Datasheet OcNOS-DC
Specifica completa di OcNOS-DC: il set di funzionalità EVPN-VXLAN e Ethernet for AI, gli SKU software, le piattaforme hardware supportate e la guida all'ordine della soluzione.
Ottieni il datasheetFabric AI senza perdite OcNOS 800G
Fabric RoCEv2 non bloccante su spine Broadcom Tomahawk 4/5: tier di SKU, piattaforme validate e architettura di deployment.
Scarica il briefFabric data center EVPN-VXLAN
Fabric leaf-spine carrier-grade per data center: IRB simmetrico, route Type-2/Type-5 e gateway anycast distribuito.
Scarica il briefDatasheet OcNOS-DC
Modulo rapido. Il vostro PDF si apre in una nuova scheda subito dopo l'invio.
✓ Apertura del vostro PDF in una nuova scheda…
Se non si è aperto, usate il link qui sotto.
Fabric AI senza perdite OcNOS 800G
Modulo rapido. Il vostro PDF si apre in una nuova scheda subito dopo l'invio.
✓ Apertura del vostro PDF in una nuova scheda…
Se non si è aperto, usate il link qui sotto.
Fabric data center EVPN-VXLAN
Modulo rapido. Il vostro PDF si apre in una nuova scheda subito dopo l'invio.
✓ Apertura del vostro PDF in una nuova scheda…
Se non si è aperto, usate il link qui sotto.
Validare il comportamento lossless su una nuova fabric? Iniziate dal ripristino dei deadlock
Indicateci il carico di lavoro e la scala GPU, e un ingegnere di IP Infusion esaminerà con voi il vostro design lossless, oppure iniziate con un layout leaf-spine di primo passaggio nell'AI Fabric Design Suite.
Progettate l'intera fabric AI con OcNOS
Dal business case al calcolo del numero di porte, riprendete da qualunque punto della realizzazione.