ECN · CNP · RoCEv2

DCQCN: control de congestión cuantizado para RDMA

DCQCN es cómo una fabric RoCEv2 se mantiene sin pérdidas sin vivir en pausa PFC. El switch marca ECN de forma temprana, el receptor devuelve un CNP y el emisor cuantiza su tasa, de modo que los emisores reducen la velocidad antes de que las colas se desborden. OcNOS-DC incluye valores por defecto preajustados para cargas de trabajo colectivas xCCL (NCCL, RCCL, oneCCL) y expone cada umbral para las fabrics que necesiten desviarse.

Closed loopMarca ECN, CNP, recorte de tasa
Before PFCECN marca antes de la pausa
xCCLvalores por defecto preajustados de OcNOS-DC
DC-PLUSNivel de licencia OcNOS-DC
El mecanismo

El bucle cerrado de DCQCN

NIC emisora, switch congestionado, NIC receptora. El marcador ECN WRED del switch se dispara antes de que la cola alcance el umbral de pausa de PFC. El receptor genera un Congestion Notification Packet (CNP); el punto de reacción del emisor reduce la tasa y luego la vuelve a subir. Sin pérdidas, sin presión de PFC, convergencia rápida.

Control de congestión en lazo cerrado DCQCN Tres cajas de izquierda a derecha: NIC emisora (punto de reacción), switch congestionado con marcador WRED ECN, NIC receptora (punto de notificación). La flecha hacia adelante muestra un paquete que fluye de izquierda a derecha y que es marcado por el switch. La flecha inversa muestra el CNP viajando de derecha a izquierda de vuelta al emisor. Las etiquetas indican los umbrales ECN K-min, K-max y la ruta de retroalimentación del CNP. datos + con capacidad ECN ECN = CE (marcado) CNP: Paquete de notificación de congestión NIC emisoraPunto de reacciónα-update · cut · ramp Switch OcNOS-DCMarcador WRED ECNK-min · K-max · P-max NIC del receptorPunto de notificaciónCNP every 50 µs DCQCN · WRED MARKING · CNP FEEDBACK · QUANTIZED RATE LIMIT · LOSSLESS RoCEv2
Qué hace

La función que cumple DCQCN en un tejido de IA

RoCEv2 tiene dos formas de manejar la congestión: la pausa PFC, que es una contrapresión que se propaga salto a salto, y DCQCN, un bucle de control de tasa extremo a extremo. PFC por sí sola funciona, pero empuja la congestión aguas arriba y arriesga tormentas de pausa y bloqueo de cabeza de línea. DCQCN actúa por delante de PFC, marcando paquetes con ECN antes de que la cola alcance el umbral de pausa, de modo que el emisor reduce la velocidad antes de que el switch tenga que asertar la pausa.

Bien hecho, pasará la mayor parte de la vida de su fabric solo con la retroalimentación de DCQCN, con PFC como red de seguridad de respaldo. Mal hecho, los umbrales de ECN están desalineados con el headroom de PFC y obtiene tormentas de pausa incluso con DCQCN configurado. El ajuste de umbrales lo es todo, y OcNOS-DC publica valores por defecto ajustados para tráfico colectivo xCCL, exponiendo cada parámetro para fabrics con patrones de tráfico específicos.

Punto de reacción

La NIC emisora cuantiza su tasa

Recibe CNP y ejecuta el bucle DCQCN α-update, disminución multiplicativa, incremento aditivo para cuantizar su tasa de envío.

Punto de congestión

El switch marca ECN de forma temprana

Marca los paquetes con capacidad ECN para CE usando una curva WRED cuando la profundidad de cola cruza K-min, con la probabilidad de marcado subiendo linealmente hasta P-max en K-max.

Punto de notificación

El receptor devuelve un CNP

Genera un CNP de vuelta al emisor en cada flujo marcado, con tasa limitada a aproximadamente uno por cada 50 µs por flujo.

Dos formas de manejar la congestión

Pausa PFC y DCQCN, lado a lado

Ambas mantienen RoCEv2 sin pérdidas, pero actúan en puntos distintos. El objetivo de ajuste es pasar la vida de la fabric sobre la retroalimentación de DCQCN y mantener PFC en reserva como respaldo.

Axis pausa PFCbackstop DCQCNcontrol primario
MechanismContrapresión salto a salto que se propaga aguas arriba.Bucle de control de tasa extremo a extremo del emisor al receptor.
Punto de disparoSe dispara cuando la cola alcanza el umbral de pausa.Marca ECN antes de que la cola alcance el umbral de pausa.
Modo de falloArriesga tormentas de pausa y bloqueo de cabeza de línea.El emisor reduce la velocidad antes de que el switch tenga que asertar la pausa.
Rol en la fabricSolo respaldo de seguridad, para cuando los búferes aún se llenan.Control primario durante la mayor parte de la vida de la fabric.
AlcanceA nivel de enlace, un salto cada vez.Extremo a extremo, del emisor hasta el receptor.
In OcNOS-DC

La implementación de DCQCN de OcNOS

Valores por defecto de clase xCCL listos para usar, con cada umbral expuesto como una ruta modelada en YANG, validado frente a la holgura de PFC antes de aplicarse y devuelto como telemetría durante la puesta en marcha.

Curva WRED

K-min, K-max, P-max

Marcado WRED ECN por cola de prioridad con umbrales K-min y K-max configurables y probabilidad de marcado P-max. Valores por defecto de clase xCCL listos para usar; expuestos como rutas YANG para ajuste.

Per-Priority

Independiente de PFC

El marcado de ECN se configura de forma independiente de los umbrales de pausa de PFC. La desalineación es el error de configuración de DCQCN más común. OcNOS valida la relación entre K-max, el headroom y las aserciones de pausa antes de aplicarla.

Compatible con VXLAN

ECN sobre VXLAN

Los bits ECN se preservan a través de la encapsulación y desencapsulación VXLAN, de modo que DCQCN funciona extremo a extremo sobre un overlay EVPN-VXLAN, no solo en el underlay.

Telemetría

Contadores ECN por cola

Contadores transmitidos por gNMI de paquetes marcados con ECN por cola de salida, distribución de profundidad de cola y tasas de activación de CNP. Ajuste de lazo cerrado durante la puesta en marcha del clúster.

Diagnostics

Verifique antes de comprometerse

Comprobación de coherencia por CLI de que K-min, K-max y la holgura de PFC son matemáticamente consistentes con el espacio de búfer asignado a la prioridad sin pérdidas. Falla rápido ante una mala configuración.

Alcance

Nivel de licencia DC-PLUS

Parte del SKU OcNOS-DC PLUS. La misma imagen, el mismo soporte; sin complementos por función para activar el stack RDMA sin pérdidas.

El modo de fallo

Por qué esto importa más de lo que parece

La mayoría de los casos de soporte de tipo «RoCEv2 no se comporta» acaban en una desalineación de umbrales de DCQCN. Los dos extremos del error parecen opuestos, pero ambos dejan la fabric mal ajustada.

  • ECN configurado pero nunca marca (K-min demasiado alto): PFC carga con todo el peso del control de congestión.
  • ECN marca de forma demasiado agresiva (K-min demasiado bajo): los emisores recortan la tasa antes de que exista congestión real.
  • OcNOS-DC incluye valores por defecto que funcionan en la mayoría de las fabrics TH4 y TH5; donde una fabric necesita desviarse, cada parámetro está modelado en YANG y es verificable.

Para dimensionar los niveles leaf-spine sobre los que corren esos valores por defecto, pruebe el Herramienta de dimensionamiento de AI Fabric, o revise los Topologías de AI fabric para los que están ajustados los valores por defecto.

La perspectiva de IP Infusion

DCQCN lleva la carga, PFC queda como respaldo

Una fabric RoCEv2 sana funciona sobre la retroalimentación de ECN y apenas toca PFC. OcNOS-DC incluye ese equilibrio como valor por defecto y mantiene cada umbral al alcance cuando una carga de trabajo necesita otro distinto.

DCQCN lleva la carga

El marcado ECN y la retroalimentación CNP ralentizan a los emisores de forma temprana, de modo que una fabric sana pasa la mayor parte de su vida sobre DCQCN y rara vez llega a la pausa PFC.

Ajustado para xCCL listo para usar

OcNOS-DC incluye valores por defecto preajustados para el tráfico colectivo xCCL, de modo que la mayoría de las fabrics funcionan bien en TH4 y TH5 sin tocar un umbral.

Cada perilla está modelada

K-min, K-max y P-max están modelados en YANG y son verificables, de modo que las fabrics con patrones de tráfico específicos pueden desviarse de forma segura.

Preguntas frecuentes

DCQCN, respondido

¿Qué es DCQCN?
El DCQCN (Data Center Quantized Congestion Notification) es el algoritmo de control de congestión que mantiene el tráfico RoCEv2 RDMA lossless en las fabrics de AI y almacenamiento sobre Ethernet. Limita a los emisores antes de que las colas se desborden, de modo que los flujos de GPU y almacenamiento evitan las pérdidas de paquetes y los bloqueos.
¿Cómo funciona DCQCN?
DCQCN funciona en un bucle cerrado: un conmutador marca los paquetes con ECN cuando una cola supera su umbral, el receptor devuelve un Congestion Notification Packet (CNP) al emisor, y el emisor reduce su tasa de envío para recuperarla luego de forma gradual a medida que se disipa la congestión.
¿Cómo funcionan juntos DCQCN y PFC?
DCQCN es el control principal y PFC actúa como último recurso. El marcado ECN y la realimentación CNP ralentizan a los emisores de forma temprana, de modo que los flujos rara vez llegan a la pausa. PFC solo se activa si aun así se llenan los búferes, evitando las pérdidas. La optimización busca mantener la fabric bajo control ECN y fuera de una pausa PFC sostenida.
¿Cuáles son los umbrales ECN K-min y K-max en DCQCN?
K-min y K-max son los umbrales de profundidad de cola que controlan el marcado ECN. Por debajo de K-min no se marca ningún paquete; por encima de K-max se marcan todos. Entre ambos, la probabilidad de marcado aumenta hacia un máximo establecido, de modo que la señalización de congestión escala con la acumulación de la cola en lugar de activarse de forma abrupta.
¿Requiere DCQCN el uso de RoCEv2?
Sí, DCQCN está diseñado para el tráfico RDMA RoCEv2 y se apoya en puntos finales RoCEv2 que generan la retroalimentación CNP y actúan en consecuencia. Combina el ECN en la red con el control de tasa en los emisores RoCEv2, por lo que constituye la opción estándar de control de congestión para las fabrics RoCEv2.

¿Ajustando DCQCN para una carga de trabajo real? Tráiganos sus trazas

Envíenos sus contadores ECN y trazas de cola, y un ingeniero de IP Infusion alineará su K-min, K-max y holgura de PFC, o empiece con un primer trazado leaf-spine en el AI Fabric Design Suite.