ECN · CNP · RoCEv2

DCQCN : Quantized Congestion Control for RDMA

DCQCN (Data Center Quantized Congestion Notification) est le contrôle de congestion de bout en bout qui permet à une fabric RoCEv2 sans perte de fonctionner sans pause PFC prolongée. Le commutateur marque ECN de façon anticipée, le récepteur renvoie un CNP et l'émetteur quantifie son débit, de sorte que les émetteurs ralentissent avant que les files ne débordent.

Boucle ferméeMarquage ECN, CNP, réduction de débit
Avant le PFCECN marque avant la pause

La boucle fermée DCQCN

NIC émettrice, commutateur congestionné, NIC réceptrice. Le marqueur ECN WRED du commutateur se déclenche avant que la file n'atteigne le seuil de pause PFC. Le récepteur génère un Congestion Notification Packet (CNP) ; le point de réaction de l'émetteur réduit le débit, puis remonte. Sans perte, sans pression PFC, convergence rapide.

Contrôle de congestion en boucle fermée DCQCN Trois boîtes de gauche à droite : NIC émetteur (point de réaction), switch congestionné avec marqueur WRED ECN, NIC récepteur (point de notification). La flèche aller montre un paquet circulant de gauche à droite et marqué par le switch. La flèche retour montre le CNP voyageant de droite à gauche jusqu'à l'émetteur. Les libellés indiquent les seuils ECN K-min, K-max et le chemin de retour du CNP. données + compatible ECN ECN = CE (marqué) CNP : Congestion Notification Packet NIC émetteurPoint de réactionMise à jour de α · réduction · remontée Switch OcNOS-DCMarqueur WRED ECNK-min · K-max · P-max NIC réceptricePoint de notificationCNP toutes les 50 µs DCQCN · MARQUAGE WRED · RETOUR CNP · LIMITATION DE DÉBIT QUANTIFIÉE · RoCEv2 SANS PERTE

Le rôle de DCQCN dans une fabric IA

RoCEv2 dispose de deux façons de gérer la congestion : la pause PFC, une contre-pression qui se propage saut par saut, et DCQCN, une boucle de contrôle de débit de bout en bout. La PFC seule fonctionne, mais elle repousse la congestion en amont et risque des tempêtes de pause et du blocage en tête de file. DCQCN agit avant la PFC, en marquant les paquets avec ECN avant que la file n'atteigne le seuil de pause, de sorte que l'émetteur ralentit avant même que le commutateur n'ait à imposer une pause.

Bien fait, vous passez l'essentiel de la vie de votre fabric sur le seul feedback DCQCN, le PFC servant de filet de sécurité. Mal fait, les seuils ECN sont désalignés avec le headroom PFC et vous obtenez des tempêtes de pause même avec DCQCN configuré.

Point de réaction

La NIC émettrice quantifie son débit

Reçoit les CNP et exécute la boucle DCQCN de mise à jour α, décroissance multiplicative, croissance additive pour quantifier son débit d'émission.

Point de congestion

Le commutateur marque ECN tôt

Marque les paquets compatibles ECN pour CE à l'aide d'une courbe WRED lorsque la profondeur de file franchit K-min, la probabilité de marquage croissant linéairement jusqu'à P-max à K-max.

Point de notification

Le récepteur renvoie un CNP

Génère un CNP vers l'émetteur pour chaque flux marqué, avec un débit limité à environ un par 50 µs par flux.

Pause PFC et DCQCN, côte à côte

Les deux maintiennent RoCEv2 sans perte, mais ils agissent à des points différents. L'objectif du réglage est de faire passer la vie du fabric sur le feedback DCQCN et de garder la PFC en réserve comme filet de sécurité.

Critère pause PFCfilet de sécurité DCQCNcontrôle principal
MécanismeContre-pression saut par saut qui se propage en amont.Boucle de contrôle de débit de bout en bout, de l'émetteur au récepteur.
Point de déclenchementSe déclenche lorsque la file atteint le seuil de pause.Marque ECN avant que la file n'atteigne le seuil de pause.
Mode de défaillanceRisque des tempêtes de pause et du blocage en tête de file.L'émetteur ralentit avant même que le commutateur n'ait à imposer une pause.
Rôle dans le fabricFilet de sécurité uniquement, pour quand les buffers se remplissent malgré tout.Contrôle principal pendant la majeure partie de la vie du fabric.
PérimètreAu niveau du lien, un saut à la fois.De bout en bout, de l'émetteur jusqu'au récepteur.

Marquage ECN dans OcNOS-DC

Courbe WRED

K-min, K-max, P-max

Marquage ECN WRED par file de priorité avec seuils K-min et K-max configurables et une probabilité de marquage P-max.

Par priorité

Indépendant de PFC

Le marquage ECN se configure indépendamment des seuils de pause PFC.

Compatible VXLAN

ECN sur VXLAN

Sur les plateformes Trident 3 (X4, X5, X7) et Trident 4, les bits ECN sont préservés à travers l'encapsulation et la décapsulation VXLAN, de sorte que DCQCN fonctionne de bout en bout sur un overlay EVPN-VXLAN, et pas seulement sur l'underlay.

Périmètre

Niveaux de licence

PFC et ECN sont inclus dans les SKU OcNOS-DC IPBASE et PLUS. Dynamic ECN, la détection et la reprise des interblocages PFC, ainsi que PFC et ECN sur VXLAN, sont inclus dans les SKU PLUS.

Pourquoi cela compte plus qu'il n'y paraît

Un mauvais alignement des seuils ECN a deux extrémités qui semblent opposées, mais toutes deux laissent la fabric mal réglée.

  • ECN configuré mais ne marque jamais (K-min trop élevé) : la PFC porte toute la charge du contrôle de congestion.
  • ECN marque trop agressivement (K-min trop bas) : les émetteurs réduisent leur débit avant toute congestion réelle.

DCQCN, les réponses

Qu'est-ce que DCQCN ?
Le DCQCN (Data Center Quantized Congestion Notification) est l'algorithme de contrôle de congestion du trafic RoCEv2 RDMA sur les fabrics AI et de stockage Ethernet. Il freine les émetteurs avant le débordement des files d'attente, de sorte que les flux GPU et de stockage passent moins de temps en pause PFC et évitent les blocages.
Comment fonctionne DCQCN ?
DCQCN fonctionne en boucle fermée : un commutateur marque les paquets avec ECN lorsqu'une file d'attente franchit son seuil, le récepteur renvoie un Congestion Notification Packet (CNP) à l'émetteur, et l'émetteur réduit son débit d'envoi, puis le rétablit progressivement à mesure que la congestion se résorbe.
Comment DCQCN et PFC fonctionnent-ils ensemble ?
DCQCN constitue le contrôle principal et PFC sert de dernier recours. Le marquage ECN et le retour CNP ralentissent les émetteurs suffisamment tôt pour que les flux atteignent rarement la mise en pause. PFC ne se déclenche que si les tampons se remplissent malgré tout, évitant ainsi les pertes. L'optimisation vise à maintenir la fabric sous contrôle ECN et à l'écart d'une mise en pause PFC prolongée.
Quels sont les seuils ECN K-min et K-max dans DCQCN ?
K-min et K-max sont les seuils de profondeur de file qui pilotent le marquage ECN. En dessous de K-min, aucun paquet n'est marqué ; au-dessus de K-max, tous le sont. Entre les deux, la probabilité de marquage augmente vers un maximum défini, de sorte que la signalisation de congestion évolue avec l'accumulation de la file au lieu de s'activer brutalement.
DCQCN nécessite-t-il RoCEv2 ?
Oui, DCQCN est conçu pour le trafic RDMA RoCEv2 et repose sur des points d'extrémité RoCEv2 qui génèrent le retour CNP et agissent en conséquence. Il associe l'ECN dans le réseau au contrôle de débit au niveau des émetteurs RoCEv2, ce qui en fait le choix standard de contrôle de congestion pour les fabrics RoCEv2.

Vous réglez DCQCN pour une charge de travail réelle ? Apportez-nous vos traces

Envoyez-nous vos compteurs ECN et vos traces de file, et un ingénieur IP Infusion alignera vos K-min, K-max et marge PFC, ou commencez par un premier jet de topologie leaf-spine dans l'AI Fabric Design Suite.