ECN · CNP · RoCEv2

DCQCN: Quantized Congestion Control per RDMA

DCQCN (Data Center Quantized Congestion Notification) è il controllo della congestione end-to-end che consente a una fabric RoCEv2 lossless di funzionare senza restare in pausa PFC. Lo switch marca l'ECN in anticipo, il ricevitore restituisce un CNP e il mittente quantizza la propria velocità, così i mittenti rallentano prima che le code trabocchino.

Anello chiusoMarcatura ECN, CNP, riduzione della velocità
Prima di PFCL'ECN marca prima della pausa

Il loop chiuso DCQCN

NIC mittente, switch congestionato, NIC ricevitore. Il marker ECN WRED dello switch scatta prima che la coda raggiunga la soglia di pausa PFC. Il ricevitore genera un Congestion Notification Packet (CNP); il punto di reazione del mittente riduce la velocità, poi la ripristina gradualmente. Lossless, nessuna pressione PFC, convergenza rapida.

Controllo della congestione closed-loop DCQCN Tre box da sinistra a destra: NIC del mittente (punto di reazione), switch congestionato con marcatore WRED ECN, NIC del ricevitore (punto di notifica). La freccia in avanti mostra un pacchetto che scorre da sinistra a destra e viene marcato dallo switch. La freccia inversa mostra il CNP che viaggia da destra a sinistra di ritorno verso il mittente. Le etichette indicano le soglie ECN K-min, K-max e il percorso di feedback CNP. dati + ECN-capable ECN = CE (marcato) CNP: Congestion Notification Packet NIC mittentePunto di reazioneAggiornamento di α · riduzione · risalita Switch OcNOS-DCMarker WRED ECNK-min · K-max · P-max NIC riceventePunto di notificaCNP ogni 50 µs DCQCN · MARCATURA WRED · FEEDBACK CNP · LIMITAZIONE DI VELOCITÀ QUANTIZZATA · RoCEv2 LOSSLESS

Il compito che DCQCN svolge in un fabric AI

RoCEv2 ha due modi per gestire la congestione: la pausa PFC, che è una back-pressure che si propaga hop per hop, e DCQCN, un loop di controllo della velocità end-to-end. La sola PFC funziona, ma spinge la congestione a monte e rischia pause storm e head-of-line blocking. DCQCN agisce prima della PFC, marcando i pacchetti con ECN prima che la coda raggiunga la soglia di pausa, così il mittente rallenta prima che lo switch debba mai imporre la pausa.

Fatto bene, trascorrerete la maggior parte della vita del vostro fabric basandosi solo sul feedback DCQCN, con il PFC come rete di sicurezza. Fatto male, le soglie ECN sono disallineate rispetto all'headroom PFC e si ottengono pause storm anche con il DCQCN configurato.

Punto di reazione

La NIC mittente quantizza la propria velocità

Riceve i CNP ed esegue il DCQCN α-update, decremento moltiplicativo, incremento additivo per quantizzare la propria velocità di invio.

Punto di congestione

Lo switch marca l'ECN in anticipo

Contrassegna i pacchetti ECN-capable per CE utilizzando una curva WRED quando la profondità della coda supera K-min, con la probabilità di marcatura che sale linearmente fino a P-max a K-max.

Punto di notifica

Il ricevitore restituisce un CNP

Genera un CNP verso il mittente su ogni flusso marcato, con rate limit di circa uno ogni 50 µs per flusso.

Pausa PFC e DCQCN, a confronto

Entrambi mantengono RoCEv2 lossless, ma agiscono in punti diversi. L'obiettivo del tuning è far vivere il fabric sul feedback DCQCN e tenere la PFC di riserva come backstop.

Aspetto Pausa PFCultima difesa DCQCNcontrollo primario
MeccanismoBack-pressure hop-by-hop che si propaga a monte.Loop di controllo della velocità end-to-end dal mittente al ricevitore.
Punto di attivazioneScatta quando la coda raggiunge la soglia di pausa.Marca l'ECN prima che la coda raggiunga la soglia di pausa.
Modalità di guastoRischia pause storm e head-of-line blocking.Il mittente rallenta prima che lo switch debba mai imporre la pausa.
Ruolo nel fabricSolo backstop di sicurezza, per quando i buffer si riempiono comunque.Controllo primario per la maggior parte della vita del fabric.
AmbitoA livello di link, un hop alla volta.End-to-end, dal mittente fino al ricevitore.

Marcatura ECN in OcNOS-DC

Curva WRED

K-min, K-max, P-max

Marking WRED ECN per coda di priorità con soglie K-min e K-max configurabili e probabilità di marking P-max.

Per priorità

Indipendente da PFC

La marcatura ECN si configura indipendentemente dalle soglie di pausa PFC.

Compatibile VXLAN

ECN su VXLAN

Sulle piattaforme Trident 3 (X4, X5, X7) e Trident 4, i bit ECN vengono preservati attraverso encap e decap VXLAN, così DCQCN funziona end-to-end su un overlay EVPN-VXLAN, non solo sull'underlay.

Ambito

Livelli di licenza

PFC ed ECN sono inclusi negli SKU OcNOS-DC IPBASE e PLUS. Dynamic ECN, il rilevamento e il ripristino dei deadlock PFC, e PFC ed ECN su VXLAN sono inclusi negli SKU PLUS.

Perché questo conta più di quanto sembri

Il disallineamento delle soglie ECN ha due estremi che sembrano opposti, ma entrambi lasciano il fabric mal calibrato.

  • ECN configurato ma che non marca mai (K-min troppo alto): la PFC si fa carico dell'intero controllo della congestione.
  • ECN che marca in modo troppo aggressivo (K-min troppo basso): i mittenti riducono la velocità prima che ci sia una vera congestione.

DCQCN, le risposte

Che cos'è DCQCN?
Il DCQCN (Data Center Quantized Congestion Notification) è l'algoritmo di controllo della congestione per il traffico RoCEv2 RDMA sulle fabric AI e di storage su Ethernet. Frena i mittenti prima che le code vadano in overflow, così i flussi GPU e di storage trascorrono meno tempo in pausa PFC ed evitano stalli.
Come funziona DCQCN?
DCQCN opera in un anello chiuso: uno switch marca i pacchetti con ECN quando una coda supera la propria soglia, il ricevitore restituisce al mittente un Congestion Notification Packet (CNP) e il mittente riduce la propria velocità di invio, per poi ripristinarla gradualmente man mano che la congestione si dissolve.
Come funzionano insieme DCQCN e PFC?
DCQCN è il controllo primario e PFC funge da ultima difesa. La marcatura ECN e il feedback CNP rallentano tempestivamente i mittenti, così che i flussi raramente raggiungano la pausa. PFC interviene solo se i buffer si riempiono comunque, prevenendo le perdite. L'ottimizzazione mira a mantenere la fabric sotto controllo ECN e lontana da una pausa PFC prolungata.
Quali sono le soglie ECN K-min e K-max in DCQCN?
K-min e K-max sono le soglie di profondità della coda che governano la marcatura ECN. Al di sotto di K-min nessun pacchetto viene marcato; al di sopra di K-max vengono marcati tutti. Tra i due, la probabilità di marcatura sale verso un massimo prestabilito, così la segnalazione di congestione scala con l'accumulo della coda anziché attivarsi bruscamente.
DCQCN richiede RoCEv2?
Sì, DCQCN è progettato per il traffico RDMA RoCEv2 e si basa su endpoint RoCEv2 che generano il feedback CNP e agiscono di conseguenza. Abbina l'ECN nella rete al controllo di velocità presso i trasmettitori RoCEv2, per cui rappresenta la scelta standard di controllo della congestione per le fabric RoCEv2.

Approfondite. Portatelo con voi.

Il datasheet di prodotto e download tecnici e sintetici che vanno oltre questa pagina.

Datasheet

Datasheet OcNOS-DC

Specifica completa di OcNOS-DC: il set di funzionalità EVPN-VXLAN e Ethernet for AI, gli SKU software, le piattaforme hardware supportate e la guida all'ordine della soluzione.

Ottieni il datasheet
Solution brief

Fabric AI senza perdite OcNOS 800G

Fabric RoCEv2 lossless su spine Tomahawk 5: livelli di SKU, piattaforme qualificate e architettura di deployment.

Scarica il brief
Solution brief

Fabric data center EVPN-VXLAN

Fabric data center leaf-spine su EVPN-VXLAN: una VRF e VNI per tenant, multihoming EVPN, BGP unnumbered e filtraggio per route target.

Scarica il brief

State ottimizzando DCQCN per un carico di lavoro reale? Portateci le vostre tracce

Inviateci i vostri contatori ECN e le tracce delle code e un ingegnere IP Infusion allineerà i vostri K-min, K-max e headroom PFC, oppure iniziate con un primo layout leaf-spine nell'AI Fabric Design Suite.