Reprise après deadlock · RoCEv2 · Sans perte

PFC : détection et récupération de deadlock

Un blocage PFC est la seule défaillance capable de figer indéfiniment un fabric sans perte : une dépendance cyclique de tampons où des files d'attente prioritaires en pause s'attendent mutuellement. La détection et reprise des deadlocks d'OcNOS-DC fonctionne par port et par priorité. Elle détecte le cycle de files d'attente en pause et vide automatiquement la file avant que les tâches ne se figent, sur Broadcom Tomahawk 3, 4 et 5, Trident 3 (X4, X5, X7) et Trident 4.

Par portet détection des deadlocks par priorité
Configurabletemporisateurs de détection et de reprise
TH3 à TH5plus Trident 3 (X4, X5, X7) et Trident 4
OcNOS-DC PLUSniveau de licence

Un cycle de pause à 3 commutateurs

Trois commutateurs en dépendance circulaire. Chacun est en pause sur sa file d'attente prioritaire sans perte, attendant que le commutateur suivant se vide. Sans intervention, le cycle est stable indéfiniment. La détection des deadlocks d'OcNOS se déclenche après le délai configuré, vide la file 3 sur le Switch-A, et le cycle s'effondre.

Cycle de blocage PFC et sa récupération Trois commutateurs disposés en triangle. Des flèches de pause pointent dans le sens horaire de chaque commutateur vers le suivant, indiquant que chacun est en pause dans l'attente du commutateur en aval. Une icône de minuteur sur Switch-A montre l'expiration du temporisateur de détection de deadlock OcNOS qui vide la file et rompt le cycle. Pause PFC (CoS 3) pause PFC pause PFC WD expiration du temporisateur vider la file 3 Switch-Aen pause sur Q3en attente de B Switch-Ben pause sur Q3en attente de C Switch-Cen pause sur Q3en attente de A DEADLOCK PFC · DÉLAI DE DÉTECTION · VIDAGE DE LA FILE · RÉCUPÉRATION AUTOMATIQUE

Comment PFC crée un blocage

PFC est ce qui rend RoCEv2 sans perte, et sur une topologie bien conçue il ne pose jamais de problème. Le mode de défaillance n'apparaît que lorsqu'un cycle de files d'attente en pause se referme sur un fabric multi-chemins.

PFC est une pause saut par saut : un commutateur signale une pause à son voisin amont lorsque sa file d'attente d'entrée sans perte se remplit au-delà du seuil, et l'amont cesse d'émettre. Sur une topologie en arbre avec un seul sens de flux, c'est sûr. Sur un fabric leaf-spine à chemins multiples, le reroutage ECMP contournant une défaillance de lien peut, dans des conditions spécifiques, créer un chemin circulaire où chaque commutateur est en pause à attendre le suivant. Cette dépendance cyclique de tampons, des files d'attente prioritaires en pause s'attendant mutuellement, est un blocage PFC.

Une fois le cycle formé, il est stable : il y a suffisamment de tampon pour retenir les trames en pause, le protocole de routage croit que tout a convergé, et PFC continue de se réaffirmer sur chaque commutateur. Sans intervention, la priorité sans perte affectée reste figée indéfiniment. Le trafic RoCEv2 s'arrête, les collectifs xCCL (RCCL, oneCCL) expirent, et la tâche d'entraînement se bloque.

La détection et reprise des deadlocks OcNOS-DC

Un temporisateur par port et par priorité qui détecte le cycle de files d'attente en pause et vide la file affectée avant que les tâches ne se figent, puis rétablit un PFC normal de lui-même. Détection, reprise et rétablissement forment le triptyque central ; réglage et licences le complètent.

Détection

Temporisateur par port et par priorité

Un temporisateur s'exécute par port d'entrée et par priorité sans perte. Si la priorité reste en pause en continu pendant la durée de détection configurée, la détection de deadlock se déclenche et la reprise commence.

Récupération

Vidage automatique des files d'attente

Lorsque la détection se déclenche, la reprise s'exécute pendant la durée de reprise configurée. Par défaut, le trafic en pause est transmis pour rompre le cycle. Si l'action de reprise est réglée sur l'abandon, ces trames sont abandonnées et la NIC RDMA les retransmet.

Rétablissement

Restauration automatique après rétablissement

Après l'intervalle de restauration configuré, le fonctionnement PFC normal reprend sur la priorité concernée. Aucune intervention d'opérateur requise.

Réglable

Temporisateurs configurables par l'opérateur

Le multiplicateur de détection, la granularité temporelle et la durée de reprise sont configurables en CLI par interface. L'opérateur peut raccourcir les minuteries sur les clusters à fort enjeu.

Périmètre

Niveau de licence DC-PLUS

Fait partie des SKU OcNOS-DC PLUS. Pris en charge sur les plateformes Broadcom Tomahawk 3, Tomahawk 4, Tomahawk 5, Trident 3 (X4, X5, X7) et Trident 4.

La reprise après deadlock est un filet de sécurité sous le reste de la pile sans perte

Le meilleur blocage est celui qui ne se forme jamais. Le contrôle de congestion, le transport sans perte qu'il protège et l'équilibrage de charge dynamique tiennent d'abord les files d'attente à l'écart du seuil de pause ; la reprise après deadlock est la dernière ligne quand ils échouent.

Contrôle de congestion

DCQCN marque et cadence les flux avec ECN avant que les files d'attente d'entrée n'atteignent le seuil PFC, si bien que la pause est signalée bien moins souvent et que les cycles ont rarement l'occasion de se refermer.

Transport sans perte

RoCEv2 est le transport RDMA que PFC existe pour protéger. La reprise après deadlock est ce qui rend l'exécution de RoCEv2 sans perte à grande échelle sûre plutôt que théoriquement risquée.

L'équilibrage de charge dynamique

DLB réaffecte les flowlets loin des liaisons montantes congestionnées, répartissant la charge afin que les files d'attente d'entrée soient moins susceptibles d'atteindre le seuil qui déclenche la pause.

Rare ne veut pas dire jamais, et c'est tout l'enjeu

Dans une fabric bien conçue avec une topologie et un routage appropriés, les deadlocks PFC sont rares. La reprise après deadlock importe parce que ces conditions peuvent malgré tout se produire.

Ce qui le déclenche

Une défaillance de lien pendant une fenêtre de convergence de routage, une mauvaise configuration des priorités PFC sur un seul port, ou un événement de congestion transitoire sur un motif de trafic inhabituel peuvent tous créer les conditions.

Sans reprise après deadlock

Lorsqu'un deadlock se forme malgré tout, le cluster IA s'arrête et l'équipe d'exploitation doit traquer un blocage que le protocole de routage signale comme sain.

Avec reprise après deadlock

Vous obtenez une brève rafale de retransmission et un événement journalisé au lieu d'une tâche bloquée. Concevez la topologie et les niveaux de commutateurs qui maintiennent les blocages rares avec l'AI Fabric Sizing Tool.

Pourquoi la reprise après deadlock rend le déploiement de PFC sûr à grande échelle

Il transforme la seule objection théorique à l'Ethernet sans perte en un événement journalisé qui se résout de lui-même.

  • Filet de sécurité sans perte. La reprise après deadlock fait toute la différence entre « PFC est théoriquement risqué sur les fabrics IA de production » et « PFC peut être déployé en toute sécurité à grande échelle ».
  • Reprise automatique. La reprise s'exécute pendant la durée de reprise configurée, puis le PFC normal reprend. Par défaut, le trafic en pause est transmis plutôt qu'abandonné.
  • Configuration par interface. La détection et reprise des deadlocks s'active sur chaque interface qui transporte du trafic sans perte, avec ses temporisateurs de détection et de reprise.
  • Ajustable selon les enjeux. Abaissez les temporisateurs sur les clusters d'entraînement critiques. Voir PFC dans la matrice de fonctionnalités et la liste du matériel validé.

Le blocage PFC, en clair

Quelles sont les causes d'un blocage PFC ?
PFC est une pause saut par saut. Sur un fabric multi-chemins, le reroutage ECMP contournant une défaillance de lien peut, dans des conditions spécifiques, créer un chemin circulaire où chaque commutateur est en pause à attendre le suivant. La dépendance cyclique de tampons est stable et la priorité sans perte reste figée jusqu'à ce que quelque chose la rompe.
Comment fonctionne la reprise après deadlock PFC d'OcNOS ?
Un temporisateur par port et par priorité se déclenche si une priorité lossless reste en pause pendant la durée de détection configurée. La reprise s'exécute ensuite pendant la durée de reprise configurée et se termine d'elle-même, sans intervention de l'opérateur. Par défaut, le trafic en pause est transmis pendant la reprise ; OcNOS peut être configuré pour l'abandonner à la place.
La reprise après deadlock abandonne-t-elle du trafic ?
Pas par défaut. Pendant la reprise, OcNOS transmet le trafic en pause. Si l'action de reprise est réglée sur l'abandon, les trames de la fenêtre de reprise sont abandonnées et le transport RDMA de la NIC les retransmet.
La détection des deadlocks PFC est-elle activée par défaut ?
La détection et reprise des deadlocks s'active par interface, où les temporisateurs de détection et de reprise se règlent en CLI. Elle fait partie des références OcNOS-DC PLUS sur les plateformes Broadcom Tomahawk 3, Tomahawk 4, Tomahawk 5, Trident 3 (X4, X5, X7) et Trident 4.

Vous validez le comportement sans perte sur un nouveau fabric ? Commencez par la reprise après deadlock

Indiquez-nous la charge de travail et l'échelle GPU, et un ingénieur IP Infusion examinera avec vous votre conception sans perte, ou commencez par un premier schéma leaf-spine dans l'AI Fabric Design Suite.