Recuperación de deadlocks · RoCEv2 · Sin pérdidas

Detección y recuperación de bloqueos de PFC

Un deadlock de PFC es el único fallo que puede colgar una fabric sin pérdidas indefinidamente: una dependencia cíclica de búfer donde las colas de prioridad pausadas se esperan entre sí. La detección y recuperación de deadlocks de OcNOS-DC funciona por puerto y por prioridad. Detecta el ciclo de colas pausadas y autodrena la cola antes de que los trabajos se cuelguen, sobre Broadcom Tomahawk 3, 4 y 5, Trident 3 (X4, X5, X7) y Trident 4.

Por puertoy detección de deadlocks por prioridad
Configurabletemporizadores de detección y recuperación
TH3 a TH5más Trident 3 (X4, X5, X7) y Trident 4
OcNOS-DC PLUSnivel de licencia

Un ciclo de pausa de 3 switches

Tres switches en una dependencia circular. Cada uno está pausado en su cola de prioridad sin pérdidas, esperando a que el siguiente switch drene. Sin intervención, el ciclo es estable para siempre. La detección de deadlocks de OcNOS se dispara tras el timeout configurado, drena la cola 3 en Switch-A, y el ciclo colapsa.

Ciclo de bloqueo de PFC y su recuperación Tres switches dispuestos en triángulo. Las flechas de pausa apuntan en sentido horario de cada switch al siguiente, lo que indica que cada switch está en pausa esperando al switch siguiente. Un icono de temporizador en Switch-A muestra cómo expira el temporizador de detección de deadlock de OcNOS para vaciar la cola y romper el ciclo. Pausa PFC (CoS 3) pausa PFC pausa PFC WD el temporizador expira drenar la cola 3 Switch-Aen pausa hasta el Q3a la espera de B Switch-Ben pausa hasta el Q3a la espera de C Switch-Cen pausa hasta el Q3a la espera de A DEADLOCK DE PFC · TIMEOUT DE DETECCIÓN · VACIADO DE LA COLA · RECUPERACIÓN AUTOMÁTICA

Cómo PFC crea un interbloqueo

PFC es lo que hace a RoCEv2 sin pérdidas, y en una topología bien comportada nunca causa problemas. El modo de fallo aparece solo cuando un ciclo de colas pausadas se cierra sobre una fabric multi-ruta.

PFC es una pausa salto a salto: un switch aserta pausa a su vecino aguas arriba cuando su cola de ingreso sin pérdidas se llena más allá del umbral, y el vecino deja de enviar. En una topología en árbol con una única dirección de flujo, eso es seguro. En una fabric leaf-spine con múltiples rutas, el rerruteo ECMP alrededor de un fallo de enlace puede, bajo condiciones específicas, crear una ruta circular donde cada switch está pausado esperando al siguiente. Esa dependencia cíclica de búfer, colas de prioridad pausadas esperándose entre sí, es un deadlock de PFC.

Una vez que el ciclo se forma, es estable: hay suficiente búfer para retener las tramas pausadas, el protocolo de enrutamiento cree que todo está convergido, y PFC sigue reasertándose en cada switch. Sin intervención, la prioridad sin pérdidas afectada se cuelga indefinidamente. El tráfico RoCEv2 se detiene, los colectivos xCCL (RCCL, oneCCL) agotan el tiempo, y el trabajo de entrenamiento se estanca.

La detección y recuperación de deadlocks de OcNOS-DC

Un temporizador por puerto y por prioridad que detecta el ciclo de colas pausadas y drena la cola afectada antes de que los trabajos se cuelguen, y luego restaura el PFC normal por sí solo. Detección, recuperación y restauración son el trío central; el ajuste y el licenciamiento lo completan.

Detección

Temporizador por puerto y por prioridad

Un temporizador corre por puerto de ingreso y por prioridad sin pérdidas. Si la prioridad está pausada de forma continua durante el periodo de detección configurado, se dispara la detección de deadlock y comienza la recuperación.

Recuperación

Drenaje automático de colas

Cuando se dispara la detección, la recuperación se ejecuta durante el tiempo de recuperación configurado. Por defecto, el tráfico en pausa se reenvía para colapsar el ciclo. Si la acción de recuperación se configura para descartar, esas tramas se descartan y la NIC RDMA las retransmite.

Restablecimiento

Restauración automática tras la recuperación

Tras el intervalo de restauración configurado, la operación normal de PFC se reanuda en la prioridad afectada. No se requiere intervención del operador.

Ajustable

Temporizadores configurables por el operador

El multiplicador de detección, la granularidad de tiempo y el tiempo de recuperación son configurables por CLI por interfaz. El operador puede acortar los temporizadores en clústeres de alto riesgo.

Alcance

Nivel de licencia DC-PLUS

Forma parte de los SKU OcNOS-DC PLUS. Compatible con plataformas Broadcom Tomahawk 3, Tomahawk 4, Tomahawk 5, Trident 3 (X4, X5, X7) y Trident 4.

La recuperación de deadlocks es una red de seguridad bajo el resto de la pila sin pérdidas

El mejor deadlock es el que nunca se forma. El control de congestión, el transporte sin pérdidas que protege y el balanceo de carga dinámico mantienen las colas fuera del umbral de pausa en primer lugar; la recuperación de deadlocks es la última línea cuando no lo logran.

Control de congestión

DCQCN marca y regula los flujos con ECN antes de que las colas de ingreso se llenen hasta el umbral de PFC, de modo que la pausa se aserta mucho menos y los ciclos rara vez tienen la oportunidad de cerrarse.

Transporte sin pérdidas

RoCEv2 es el transporte RDMA que PFC existe para proteger. La recuperación de deadlocks es lo que hace que ejecutar RoCEv2 sin pérdidas a escala sea seguro en lugar de teóricamente arriesgado.

El balanceo dinámico de carga

DLB reasigna flowlets fuera de los enlaces ascendentes congestionados, repartiendo la carga de modo que las colas de ingreso tienen menos probabilidad de alcanzar el umbral que dispara la pausa.

Raro no significa nunca, y ese es justamente el punto

En un fabric bien diseñado con topología y enrutamiento adecuados, los deadlocks de PFC son poco frecuentes. La recuperación de deadlocks importa porque esas condiciones aún pueden darse.

Qué lo dispara

Un fallo de enlace durante una ventana de convergencia de enrutamiento, una mala configuración de las prioridades PFC en un solo puerto, o un evento transitorio de congestión sobre un patrón de tráfico inusual pueden todos crear las condiciones.

Sin recuperación de deadlocks

Cuando un deadlock sí se forma, el clúster de IA se detiene y el equipo de operaciones queda persiguiendo un cuelgue que el protocolo de enrutamiento reporta como sano.

Con recuperación de deadlocks

Obtiene una breve ráfaga de retransmisión y un evento registrado en lugar de un trabajo estancado. Trace la topología y los niveles de switch que mantienen raros los deadlocks con la AI Fabric Sizing Tool.

Por qué la recuperación de deadlocks hace seguro desplegar PFC a escala

Convierte la única objeción teórica al Ethernet sin pérdidas en un evento registrado que se resuelve por sí solo.

  • Red de seguridad sin pérdidas. La recuperación de deadlocks es la diferencia entre "PFC es teóricamente riesgoso en fabrics de IA en producción" y "PFC es seguro de desplegar a escala."
  • Recuperación automática. La recuperación se ejecuta durante el tiempo de recuperación configurado y después se reanuda el PFC normal. Por defecto, el tráfico en pausa se reenvía en lugar de descartarse.
  • Configuración por interfaz. La detección y recuperación de deadlocks se activa en cada interfaz que transporta tráfico sin pérdidas, junto con sus temporizadores de detección y recuperación.
  • Ajustable según lo que esté en juego. Baje los temporizadores en clústeres de entrenamiento críticos. Vea PFC en la matriz de funcionalidades y la lista de hardware validado.

Deadlock de PFC, respondido

¿Qué causa un bloqueo PFC?
PFC es una pausa salto a salto. En una fabric multi-ruta, el rerruteo ECMP alrededor de un fallo de enlace puede, bajo condiciones específicas, crear una ruta circular donde cada switch está pausado esperando al siguiente. La dependencia cíclica de búfer es estable y la prioridad sin pérdidas se cuelga hasta que algo la rompe.
¿Cómo funciona la recuperación de deadlocks PFC de OcNOS?
Un temporizador por puerto y por prioridad se activa si una prioridad lossless permanece en pausa durante el periodo de detección configurado. A continuación, la recuperación se ejecuta durante el tiempo de recuperación configurado y termina por sí sola, sin intervención del operador. Por defecto, el tráfico en pausa se reenvía durante la recuperación; OcNOS puede configurarse para descartarlo en su lugar.
¿La recuperación de deadlocks descarta tráfico?
No por defecto. Durante la recuperación, OcNOS reenvía el tráfico en pausa. Si la acción de recuperación se configura para descartar, las tramas de la ventana de recuperación se descartan y el transporte RDMA de la NIC las retransmite.
¿Está habilitada por defecto la detección de deadlocks de PFC?
La detección y recuperación de deadlocks se activa por interfaz, donde los temporizadores de detección y recuperación se configuran por CLI. Es parte de los SKU OcNOS-DC PLUS sobre plataformas Broadcom Tomahawk 3, Tomahawk 4, Tomahawk 5, Trident 3 (X4, X5, X7) y Trident 4.

¿Validando el comportamiento sin pérdidas en una nueva fabric? Empiece con la recuperación de deadlocks

Díganos la carga de trabajo y la escala de GPU, y un ingeniero de IP Infusion revisará su diseño sin pérdidas con usted, o empiece con un primer trazado leaf-spine en el AI Fabric Design Suite.