UEC 1.0 · Packet spray · UET

Ultra Ethernet : UEC 1.0 pour les fabrics IA

Ultra Ethernet est la voie ouverte et multi-fournisseur vers une mise en réseau IA de classe InfiniBand sur Ethernet standard. La spécification UEC 1.0, publiée en juin 2025, définit l'Ultra Ethernet Transport (UET) avec packet spraying, RDMA multichemin, livraison hors ordre, retransmission sélective et contrôle de congestion côté émetteur comme côté récepteur. Elle n'exige pas de fabric PFC sans perte. IP Infusion est membre de l'Ultra Ethernet Consortium, et OcNOS-DC exploite déjà en production des fabrics IA RoCEv2 sans perte avec DLB.

Juin 2025spécification UEC 1.0
RoCEv2Fabric sans perte OcNOS-DC aujourd'hui
jusqu'à 800GOcNOS-DC sur Tomahawk 5
600+réseaux opérateurs sur OcNOS

Packet spray sur chaque chemin

Un seul message RDMA entre deux GPU est pulvérisé paquet par paquet sur les quatre chemins de spine à la fois. La fabric tolère l'arrivée dans le désordre et la NIC UEC de destination réassemble dans l'ordre. Pas d'épinglage de flux, pas de collisions de hash, pas de liens montants inactifs.

Packet spray Ultra Ethernet sur une fabric à 4 spines Deux GPU reliés via deux leaves et quatre spines. Un seul message RDMA est découpé en quatre paquets envoyés simultanément sur les quatre chemins spine. Sur la NIC réceptrice, les paquets arrivent dans le désordre et sont remis dans l'ordre avant d'être livrés au GPU. Le bandeau inférieur liste les propriétés UEC : pulvérisation de paquets, RDMA multichemin, livraison dans le désordre, réassemblage par la NIC. P1 P2 P3 P4 Spine-1fabric UEC Spine-2fabric UEC Spine-3fabric UEC Spine-4fabric UEC Leaf-1Ethernet Leaf-2Ethernet GPU-AUEC NIC GPU-Bréassemblage UEC 1.0 · PULVÉRISATION DE PAQUETS · RDMA MULTICHEMIN · LIVRAISON DANS LE DÉSORDRE · RÉASSEMBLAGE PAR LA NIC

Ce qu'apporte l'Ultra Ethernet Transport

RoCEv2 fonctionne, mais il hérite de contraintes de conception plus anciennes : un seul chemin haché par flux, une pause PFC à l'échelle du réseau, et une reprise sur perte par redémarrage de fenêtre. La spécification UEC 1.0 conserve l'Ethernet physique standard que vous pouvez acheter chez n'importe qui et remplace les couches supérieures par un transport (UET) conçu pour les grands jobs IA et HPC.

Utilisation des chemins

Packet spraying

Un seul message est pulvérisé sur chaque chemin disponible à la fois. Pas d'épinglage de flux, pas de collisions ECMP, de sorte que l'utilisation du fabric approche le maximum théorique pendant une collective.

RDMA

RDMA multi-chemins

Le RDMA est acheminé sur de nombreux chemins parallèles plutôt qu'un seul, de sorte qu'un transfert important n'est plus plafonné par la bande passante d'un unique lien haché.

Livraison

Livraison hors séquence

La fabric est autorisée à réordonner. La NIC UEC réassemble dans l'ordre avant la livraison, de sorte que les applications et le GPU ne voient jamais de désordre.

Récupération

Retransmission sélective

Les paquets perdus sont récupérés de façon sélective plutôt que de redémarrer la fenêtre RDMA, réduisant fortement la pénalité de latence de queue de toute perte au sein du fabric.

Contrôle

Contrôle de congestion moderne

Les deux côté émetteur et côté récepteur les mécanismes remplacent la pause PFC grossière comme outil principal. UET n'exige pas de fabric PFC sans perte ; la pause devient un filet de sécurité, et non la première ligne.

Écosystème

Ouvert et multi-fournisseur

UET fonctionne sur Ethernet standard de n'importe quel fournisseur. Le consortium, dont les membres couvrent le silicium, les NIC, les switchs et le cloud, publie la spécification ouvertement.

UEC, RoCEv2 et InfiniBand, axe par axe

RoCEv2 fait tourner la plupart des fabrics IA en production aujourd'hui. Ultra Ethernet est la voie d'avenir fondée sur les standards à mesure que les NIC compatibles UEC arrivent, et InfiniBand reste le spécialiste mono-fournisseur. L'axe qui compte dépend de la charge de travail et du calendrier.

Critère RoCEv2Ethernet, aujourd'hui Ultra EthernetUET, ouvert et multi-fournisseur InfiniBandmono-fournisseur
Utilisation des cheminsUn seul chemin ECMP haché par flux ; les chemins parallèles peuvent rester inactifs.Packet spray sur chaque chemin disponible en parallèle.Routage adaptatif intégré à la spécification.
Gestion des pertesSans perte via PFC + ECN + DCQCN ; repose sur une pause à l'échelle du réseau.Tolère la perte et le réordonnancement ; n'exige pas de fabric PFC sans perte.Sans perte par contrôle de flux basé sur les crédits.
RéordonnancementLivraison dans l'ordre uniquement.Livraison dans le désordre, réassemblée dans l'ordre au niveau de la NIC.Livraison dans l'ordre.
RetransmissionLa reprise basée sur la fenêtre pénalise la latence de queue.Retransmission sélective des seuls paquets perdus.Reprise au niveau du lien.
Contrôle de congestionDCQCN avec marquage ECN.Contrôle à la fois côté émetteur et côté récepteur aux extrémités.Basé sur les crédits au niveau du lien.
ÉcosystèmeEthernet multi-fournisseur à chaque couche.Ouvert, multi-fournisseur ; tout fournisseur peut implémenter la spec UEC 1.0.De fait mono-fournisseur pour le silicon des NIC et des commutateurs.
Statut OcNOS-DCEn production aujourd'hui sur Tomahawk 4 / Tomahawk 5.IP Infusion est membre de l'UEC ; OcNOS-DC exécute déjà RoCEv2 en production.Non applicable ; fabric et outillage distincts.

Ce qu'OcNOS-DC exploite aujourd'hui dans les fabrics IA

OcNOS-DC exploite déjà en production une fabric RoCEv2 sans perte avec PFC, ECN et DLB sur des commutateurs Broadcom Tomahawk 4 et Tomahawk 5. IP Infusion est membre de l'Ultra Ethernet Consortium.

Transport

RoCEv2 sans perte

PFC met en pause le trafic par priorité avant que les buffers ne débordent, et ECN marque les paquets de façon anticipée.

Utilisation des chemins

L'équilibrage de charge dynamique

DLB lit en temps réel la profondeur de file de l'ASIC et réaffecte les flowlets vers des chemins moins chargés, de sorte que les gros flux ne se percutent plus sur une seule liaison montante.

Matériel

Silicon Tomahawk 4 / 5

Fonctionne sur des switchs ouverts Broadcom Tomahawk 4 (25.6T) et Tomahawk 5 (51.2T) d'Edgecore et d'UfiSpace.

Protection

Reprise sur interblocage PFC

La détection des deadlocks par port et par priorité repère les cycles de files en pause et vide la file avant que les tâches ne se bloquent.

Télémétrie

Télémétrie en streaming

La télémétrie en streaming via gNMI avec des modèles OpenConfig permet le réglage pendant la mise en service du cluster.

Materiel ouvert

Voie indépendante du fournisseur

Associer OcNOS-DC à du matériel ouvert laisse au propriétaire du cluster le choix de la NIC, du GPU et du switch : aucun fournisseur ne possède le fabric IA.

Construire dès maintenant sur RoCEv2, planifier UEC à l'arrivée des NIC

Les vrais fabrics ne basculent pas du jour au lendemain. RoCEv2 porte aujourd'hui l'entraînement IA en production, et les NIC compatibles UEC apportent un transport multichemin à l'Ethernet standard à mesure qu'elles arrivent.

  • RoCEv2 aujourd'hui. De niveau production pour les clusters construits dès maintenant. OcNOS-DC livre RoCEv2 sur Tomahawk 4 / Tomahawk 5. La plupart des fabrics en production en 2026 sont en RoCEv2.
  • UEC à mesure que les NIC arrivent. Les NIC compatibles UEC apportent le packet spray et la retransmission sélective aux clusters scale-out. Les propriétaires de cluster choisissent le fournisseur de NIC.
  • InfiniBand reste spécialisé. Des performances à fournisseur unique, avec câblage, gestion et écosystème séparés. UEC apporte des techniques de transport comparables à un Ethernet multi-fournisseurs fondé sur des standards.

Ethernet ouvert pour les fabrics IA, dès aujourd'hui avec OcNOS-DC

Ultra Ethernet apporte des techniques de transport multichemin à l'Ethernet standard multi-fournisseurs. IP Infusion est membre de l'Ultra Ethernet Consortium, et OcNOS-DC exécute déjà en production du RoCEv2 sans perte avec DLB.

Un membre du consortium

IP Infusion est membre de l'Ultra Ethernet Consortium, qui publie ouvertement la spécification Ultra Ethernet.

RoCEv2 en production dès maintenant

OcNOS-DC fournit un RoCEv2 sans perte avec PFC, ECN et DLB dès aujourd'hui sur du matériel ouvert validé de fournisseurs tels qu'Edgecore et UfiSpace.

Le choix de votre NIC

OcNOS-DC fonctionne sur du matériel ouvert Broadcom Tomahawk 4 et Tomahawk 5 et laisse le choix de la NIC et du GPU au propriétaire du cluster.

Ultra Ethernet, les réponses

Qu'est-ce qu'Ultra Ethernet (UEC) ?
Ultra Ethernet est un standard ouvert de l'Ultra Ethernet Consortium (UEC) qui adapte Ethernet aux charges de travail IA et HPC. La spécification UEC 1.0, publiée en juin 2025, définit l'Ultra Ethernet Transport (UET) : packet spray depuis les extrémités sur chaque chemin, RDMA multichemin, livraison dans le désordre avec réassemblage au niveau de la NIC, retransmission sélective, et un contrôle de congestion à la fois côté émetteur et côté récepteur, de sorte que les grands jobs d'entraînement et d'inférence cessent d'être limités par le hachage à chemin unique et la pause à l'échelle du réseau.
IP Infusion est-il membre de l'Ultra Ethernet Consortium ?
Oui. IP Infusion est membre de l'Ultra Ethernet Consortium (UEC), le groupement industriel qui élabore et publie la spécification ouverte Ultra Ethernet pour le réseau IA et HPC.
En quoi Ultra Ethernet diffère-t-il de RoCEv2 ?
RoCEv2 épingle chaque flux à un seul chemin ECMP et dépend d'une PFC à l'échelle du réseau pour rester sans perte. Ultra Ethernet pulvérise un seul message sur chaque chemin disponible en parallèle, le réassemble dans l'ordre au niveau de la NIC de destination, ne retransmet que les paquets perdus, et contrôle la congestion à la fois côté émetteur et côté récepteur. UET n'exige pas de fabric PFC sans perte, ce qui réduit la dépendance à la pause PFC et abaisse la latence de queue sur les grandes collectives.
OcNOS prend-il en charge Ultra Ethernet aujourd'hui ?
OcNOS-DC exploite déjà en production une fabric RoCEv2 sans perte avec PFC, ECN et DLB sur des commutateurs Broadcom Tomahawk 4 et Tomahawk 5. Le transport Ultra Ethernet s'exécute sur des NIC compatibles UEC, et IP Infusion est membre de l'Ultra Ethernet Consortium. Pour planifier la place d'UEC dans une architecture précise, contactez-nous.
Ai-je besoin de nouveau matériel pour Ultra Ethernet ?
Le comportement d'extrémité d'Ultra Ethernet (packet spray, réassemblage, retransmission sélective) s'exécute sur des NIC compatibles UEC. La spécification UEC 1.0 couvre aussi le comportement des liens et des switchs : les exigences de fabric d'un déploiement UEC dépendent donc de la NIC, du silicium du switch et de la version du NOS. Dimensionnez le fabric avec un ingénieur IP Infusion en fonction de votre choix de NIC.
Que sont le packet spray et la livraison dans le désordre ?
Le packet spray envoie les paquets d'un même message sur tous les chemins parallèles du fabric à la fois, au lieu d'un unique chemin haché, de sorte qu'aucun lien ne devient un point chaud pendant une collective. Comme les paquets peuvent alors arriver dans le désordre, la NIC de destination les réassemble dans la séquence d'origine. Ensemble, ils maintiennent chaque chemin occupé et raccourcissent le transfert le plus lent d'un job.

Vous planifiez un fabric IA ? Concevons-le ensemble

Indiquez-nous la charge de travail et l'échelle GPU, et un ingénieur IP Infusion dimensionnera le fabric leaf-spine avec vous, ou commencez un premier jet de topologie dans l'AI Fabric Design Suite.