PFC · ECN · DCQCN

Cos'è l'Ethernet lossless?

L'Ethernet lossless è l'Ethernet standard configurato così che una classe di traffico scelta, tipicamente RDMA, non venga scartata in caso di congestione. Il Priority Flow Control (PFC) mette in pausa una specifica coda prioritaria prima che vada in overflow, l'Explicit Congestion Notification (ECN) marca i pacchetti in anticipo così i mittenti rallentano, e DCQCN lega la marcatura ECN dello switch al controllo di velocità della NIC. RoCEv2 ha bisogno di questo percorso no-drop, e OcNOS-DC fornisce questi controlli su Broadcom Tomahawk 5.

No-dropclasse di traffico RDMA
3 controlsPFC · ECN · DCQCN
Tomahawk 5Stack lossless di OcNOS-DC
gNMItelemetria a ciclo chiuso
I tre controlli

PFC, ECN e DCQCN, e come si stratificano

L'intento progettuale è una scala. ECN e DCQCN svolgono il lavoro quotidiano di mantenere le code poco profonde così il traffico continua a scorrere; il PFC interviene solo quando un burst li supera, mettendo in pausa una priorità per un istante anziché scartare. Un fabric che attiva costantemente il PFC ha bisogno di una taratura delle soglie ECN, non di più PFC.

La rete di sicurezza

Priority Flow Control (PFC)

Il PFC mette in pausa una coda prioritaria hop per hop quando il suo buffer sta per andare in overflow, così nulla viene scartato. È grossolano e veloce, usato come ultima linea di difesa anziché come controllo quotidiano.

Il controllo primario

Explicit Congestion Notification (ECN)

L'ECN marca i pacchetti quando una coda inizia a formarsi. La NIC ricevente segnala al mittente, che riduce la propria velocità prima ancora che la coda si riempia. Granulare e continuo, svolge il lavoro quotidiano.

The loop

DCQCN

DCQCN lega la marcatura ECN sullo switch al controllo di velocità sulla NIC. Il ruolo dello switch è la marcatura ECN; la NIC esegue la regolazione della velocità. Insieme mantengono le code basse senza attivare il PFC.

Perché RDMA ne ha bisogno

Perché RoCEv2 richiede un percorso lossless

RDMA è stato costruito per un trasporto no-drop. RoCEv2 trasporta RDMA su UDP e IP così da poter essere instradato attraverso un data center, ma eredita quella scarsa tolleranza alla perdita: un singolo pacchetto scartato forza un recupero che fa impennare la tail latency e può bloccare un collettivo GPU, il che blocca l'intero passaggio di addestramento.

Rendere lossless il percorso Ethernet con PFC ed ECN dà a RoCEv2 il comportamento per cui è stato progettato. Questo è l'intero motivo per cui l'Ethernet lossless esiste nei fabric IA, ed è il motivo per cui un fabric GPU RoCEv2 in produzione gira sempre su una rete configurata lossless.

Su hardware aperto

Cosa fornisce OcNOS-DC

Sulle piattaforme Broadcom Tomahawk 5, OcNOS-DC è l'abilitatore dell'intero stack lossless, tarato in un ciclo chiuso durante l'avvio del cluster anziché stimato.

  • PFC, incluso PFC su L3 con DCBX e LLDP, più PFC Deadlock Detection and Recovery.
  • ECN ed ECN Dinamico, con Enhanced Transmission Selection (ETS) e WRED.
  • Taratura dei buffer e hashing RTAG7 per distribuire i flussi attraverso il fabric.
  • Contatori di congestione e di coda trasmessi in streaming tramite telemetria gNMI e OpenConfig per la taratura a ciclo chiuso delle soglie.
FAQ

FAQ: Cos'è l'Ethernet lossless

Cos'è l'Ethernet senza perdite?
L'Ethernet lossless è l'Ethernet standard configurato così che una classe di traffico scelta, tipicamente RDMA, non venga scartata quando la rete si congestiona. Si ottiene con il Priority Flow Control (PFC), che mette in pausa una specifica coda prioritaria prima che il suo buffer vada in overflow, e con l'Explicit Congestion Notification (ECN), che marca i pacchetti in anticipo così il mittente rallenta prima che una coda si riempia. L'obiettivo è un percorso no-drop per il traffico che reagisce male alla perdita, senza rendere no-drop l'intera rete.
Come lavorano insieme PFC, ECN e DCQCN?
Operano a velocità diverse. L'ECN è il controllo primario e granulare: uno switch marca i pacchetti quando una coda inizia a formarsi, e la NIC ricevente segnala al mittente di ridurre la propria velocità. DCQCN è l'algoritmo end-to-end che lega la marcatura ECN sullo switch al controllo di velocità sulla NIC in un ciclo continuo; il ruolo dello switch in DCQCN è la marcatura ECN. Il PFC è la rete di sicurezza veloce: quando una coda sta comunque per andare in overflow, il PFC mette in pausa quella priorità hop per hop così nulla viene scartato mentre ECN e DCQCN fanno effetto. I fabric ben tarati si appoggiano su ECN e DCQCN e mantengono il PFC come ultima risorsa.
Perché RoCEv2 ha bisogno dell'Ethernet lossless?
RoCEv2 è RDMA trasportato su UDP e IP. RDMA è stato progettato per un trasporto no-drop, quindi un pacchetto scartato forza un recupero che è costoso in termini di tail latency e può bloccare un collettivo GPU. Rendere lossless il percorso Ethernet con PFC ed ECN dà a RoCEv2 il comportamento no-drop che si aspetta, ed è per questo che un fabric GPU RoCEv2 in produzione gira sempre su una rete configurata lossless.
Quali funzionalità lossless supporta OcNOS-DC?
Su hardware Broadcom Tomahawk 5, OcNOS-DC supporta PFC (incluso PFC su L3, con DCBX e LLDP), ECN, ECN Dinamico, Enhanced Transmission Selection (ETS), WRED e PFC Deadlock Detection and Recovery, insieme alla taratura dei buffer e all'hashing RTAG7. Lo stato di congestione e i contatori di coda vengono trasmessi in streaming tramite telemetria gNMI e OpenConfig per la taratura a ciclo chiuso. Consulta le pagine su PFC deadlock e DCQCN per i dettagli su ciascuno.

Stai tarando un fabric lossless? Impostiamo le soglie insieme

Indicaci la scala GPU e le classi di traffico, e un ingegnere IP Infusion imposterà PFC, ECN e DCQCN con te anziché lasciare le soglie all'intuizione.