UEC 1.0 · Packet spray · UET

Ultra Ethernet : UEC 1.0 pour les fabrics IA

Ultra Ethernet est la voie ouverte et multi-fournisseur vers une mise en réseau IA de classe InfiniBand sur Ethernet standard. La spécification UEC 1.0, publiée en juin 2025, définit l'Ultra Ethernet Transport (UET) avec le packet spraying, le RDMA multichemin, la livraison dans le désordre, la retransmission sélective, et un contrôle de congestion à la fois côté émetteur et côté récepteur. Elle n'exige pas de fabric PFC sans perte, et OcNOS-DC fournit la couche de fabric fondée sur les standards dont les NIC compatibles UEC ont besoin.

June 2025spécification UEC 1.0
1 fabricRoCEv2 et UEC, même matériel
jusqu'à 800GOcNOS-DC sur Tomahawk 5
600+réseaux opérateurs sur OcNOS
Comment UET achemine un message

Packet spray sur chaque chemin

Un seul message RDMA entre deux GPU est pulvérisé paquet par paquet sur les quatre chemins de spine à la fois. La fabric tolère l'arrivée dans le désordre et la NIC UEC de destination réassemble dans l'ordre. Pas d'épinglage de flux, pas de collisions de hash, pas de liens montants inactifs.

Packet spray Ultra Ethernet sur une fabric à 4 spines Two GPUs connected through two leaves and four spines. A single RDMA message is split into four packets and sent across all four spine paths simultaneously. At the receiving NIC, packets arrive out of order and are reassembled in order before delivery to the GPU. Bottom band lists UEC properties: packet spray, multi-path RDMA, out-of-order delivery, NIC reassembly. P1 P2 P3 P4 Spine-1fabric UEC Spine-2fabric UEC Spine-3fabric UEC Spine-4fabric UEC Leaf-1OcNOS-DC Leaf-2OcNOS-DC GPU-AUEC NIC GPU-Breassembly UEC 1.0 · PACKET SPRAY · MULTI-PATH RDMA · OUT-OF-ORDER DELIVERY · NIC REASSEMBLY
À l'intérieur du transport

Ce qu'apporte l'Ultra Ethernet Transport

RoCEv2 fonctionne, mais il hérite de contraintes de conception plus anciennes : un seul chemin haché par flux, une pause PFC à l'échelle du réseau, et une reprise sur perte par redémarrage de fenêtre. La spécification UEC 1.0 conserve l'Ethernet physique standard que vous pouvez acheter chez n'importe qui et remplace les couches supérieures par un transport (UET) conçu pour des jobs de 1k à 100k GPU.

Path use

Packet spraying

Un seul message est pulvérisé sur chaque chemin disponible à la fois. Pas d'épinglage de flux, pas de collisions ECMP, de sorte que l'utilisation du fabric approche le maximum théorique pendant une collective.

RDMA

RDMA multi-chemins

Le RDMA est acheminé sur de nombreux chemins parallèles plutôt qu'un seul, de sorte qu'un transfert important n'est plus plafonné par la bande passante d'un unique lien haché.

Livraison

Livraison hors séquence

La fabric est autorisée à réordonner. La NIC UEC réassemble dans l'ordre avant la livraison, de sorte que les applications et le GPU ne voient jamais de désordre.

Recovery

Retransmission sélective

Les paquets perdus sont récupérés selectively plutôt que de redémarrer la fenêtre RDMA, réduisant fortement la pénalité de latence de queue de toute perte au sein du fabric.

Control

Contrôle de congestion moderne

Both côté émetteur et côté récepteur les mécanismes remplacent la pause PFC grossière comme outil principal. UET n'exige pas de fabric PFC sans perte ; la pause devient un filet de sécurité, et non la première ligne.

Écosystème

Ouvert et multi-fournisseur

UET runs on Ethernet standard de n'importe quel fournisseur. The consortium (AMD, Arista, Broadcom, Cisco, HPE, Intel, Meta, Microsoft, Oracle and others) publishes the spec openly.

Où chacun s'inscrit

UEC, RoCEv2 et InfiniBand, axe par axe

RoCEv2 fait tourner la plupart des fabrics IA en production aujourd'hui. Ultra Ethernet est la voie d'avenir fondée sur les standards à mesure que les NIC compatibles UEC arrivent, et InfiniBand reste le spécialiste mono-fournisseur. L'axe qui compte dépend de la charge de travail et du calendrier.

Axis RoCEv2Ethernet, aujourd'hui Ultra EthernetUET, ouvert et multi-fournisseur InfiniBandsingle-vendor
Path useUn seul chemin ECMP haché par flux ; les chemins parallèles peuvent rester inactifs.Packet spray sur chaque chemin disponible en parallèle.Routage adaptatif intégré à la spécification.
Gestion des pertesSans perte via PFC + ECN + DCQCN ; repose sur une pause à l'échelle du réseau.Tolère la perte et le réordonnancement ; n'exige pas de fabric PFC sans perte.Sans perte par contrôle de flux basé sur les crédits.
ReorderingLivraison dans l'ordre uniquement.Livraison dans le désordre, réassemblée dans l'ordre au niveau de la NIC.Livraison dans l'ordre.
RetransmissionLa reprise basée sur la fenêtre pénalise la latence de queue.Retransmission sélective des seuls paquets perdus.Reprise au niveau du lien.
Contrôle de congestionDCQCN avec marquage ECN.Contrôle à la fois côté émetteur et côté récepteur aux extrémités.Basé sur les crédits au niveau du lien.
ÉcosystèmeEthernet multi-fournisseur à chaque couche.Ouvert, multi-fournisseur ; tout fournisseur peut implémenter la spec UEC 1.0.De fait mono-fournisseur pour le silicon des NIC et des commutateurs.
Statut OcNOS-DCEn production aujourd'hui sur Tomahawk 4 / Tomahawk 5.Couche de fabric alignée sur le profil UEC 1.0 ; le transport s'active à mesure que les NIC arrivent.Non applicable ; fabric et outillage distincts.
OcNOS et UEC

La couche de fabric dont les NIC UEC ont besoin

OcNOS-DC fait tourner un fabric RoCEv2 de production dès aujourd'hui et suit le profil côté fabric UEC 1.0 : la configuration et les comportements du commutateur nécessaires pour interopérer avec les NIC compatibles UEC. Le transport complet est un élément de la feuille de route qui s'active à mesure que ces NIC arrivent. L'alignement sur le profil n'est pas une déclaration de certification.

Spec

Profil de fabric UEC 1.0

OcNOS-DC suit le profil côté fabric UEC 1.0, la configuration et les comportements que les commutateurs doivent prendre en charge pour interopérer avec les NIC compatibles UEC à mesure qu'elles arrivent.

Spray-friendly

Transfert tolérant au désordre

ECMP par paquet, QoS compatible avec le packet spray, et politiques de buffer partagé qui ne pénalisent pas la livraison dans le désordre : les conditions dont les NIC UEC ont besoin pour fonctionner efficacement.

Matériel

Silicon Tomahawk 4 / 5

Fonctionne sur les mêmes plateformes Broadcom Tomahawk 4 (25,6T) et Tomahawk 5 (51,2T) utilisées pour les fabrics RoCEv2 actuelles. Aucun remplacement complet requis.

Brownfield

RoCEv2 et UEC coexistent

Le trafic UEC et RoCEv2 partage une même fabric sur des priorités différentes. Migrez les clusters de manière incrémentale à mesure que les NIC compatibles UEC se déploient.

Télémétrie

Observabilité compatible UEC

Utilisation par chemin, compteurs de buffer adaptés à la répartition, et métriques de tolérance au réordonnancement diffusées via gNMI pour un réglage en boucle fermée pendant la mise en service du cluster.

Materiel ouvert

Voie indépendante du fournisseur

UEC est l'alternative ouverte à InfiniBand. Associer OcNOS-DC à du matériel ouvert signifie qu'aucun fournisseur unique ne détient le fabric IA, ce qui est tout l'intérêt.

Le panorama de la migration

Bâtissez sur RoCEv2 maintenant, gardez une voie claire vers UEC

Les vrais fabrics ne basculent pas du jour au lendemain. Le plan pragmatique, c'est du RoCEv2 en production aujourd'hui sur du matériel qui suit déjà le profil UEC 1.0, de sorte que l'étape de transport ne nécessite aucun remplacement de NOS ni de commutateur.

  • RoCEv2 aujourd'hui. De niveau production pour les clusters construits dès maintenant. OcNOS-DC livre un RoCEv2 pré-réglé sur Tomahawk 4 / Tomahawk 5. La plupart des fabrics en production en 2026 sont en RoCEv2.
  • UEC à mesure que les NIC arrivent. La voie d'avenir pour les clusters scale-out à mesure que les NIC compatibles UEC arrivent. OcNOS-DC fournit la couche de fabric ; les propriétaires de clusters choisissent le fournisseur de NIC.
  • InfiniBand reste spécialisé. Performance mono-fournisseur avec câblage, gestion et écosystème distincts. UEC comble l'écart de performance sur un fabric Ethernet multi-fournisseur fondé sur les standards.
  • La coexistence est la valeur par défaut. Le trafic RoCEv2 des clusters existants et le trafic UEC de la prochaine construction cohabitent sur le même matériel OcNOS-DC.
  • GLB se prolonge. La version OcNOS 7.1 Équilibrage de charge global le plan de qualité de chemin est conçu pour interopérer avec la signalisation UEC à mesure que la spec mûrit, de sorte que les investissements OcNOS-DC d'aujourd'hui se prolongent.
Le point de vue d'IP Infusion

L'Ethernet ouvert est la destination, et OcNOS est la voie

Ultra Ethernet apporte à l'Ethernet standard et multi-fournisseur les techniques de transport qui ont défini InfiniBand. IP Infusion est membre contributeur du consortium et OcNOS-DC fournit la couche de fabric, de sorte qu'un cluster construit aujourd'hui se prolonge.

Un membre contributeur

IP Infusion participe à l'élaboration de la spécification de couche de fabric UEC, et OcNOS-DC suit le profil de fabric UEC 1.0 à mesure qu'il évolue.

RoCEv2 en production dès maintenant

OcNOS-DC fournit un RoCEv2 sans perte avec PFC, ECN et DLB inférieur à la milliseconde dès aujourd'hui sur du matériel ouvert validé de fournisseurs tels qu'Edgecore et UfiSpace.

Prêt pour UEC par conception

Parce que le commutateur suit déjà le profil de fabric, activer Ultra Ethernet à mesure que les NIC arrivent ne nécessite aucun remplacement de NOS ni de commutateur. L'alignement n'est pas une déclaration de certification.

FAQ

Ultra Ethernet, les réponses

Qu'est-ce qu'Ultra Ethernet (UEC) ?
Ultra Ethernet est un standard ouvert de l'Ultra Ethernet Consortium (UEC) qui adapte Ethernet aux charges de travail IA et HPC. La spécification UEC 1.0, publiée en juin 2025, définit l'Ultra Ethernet Transport (UET) : packet spray depuis les extrémités sur chaque chemin, RDMA multichemin, livraison dans le désordre avec réassemblage au niveau de la NIC, retransmission sélective, et un contrôle de congestion à la fois côté émetteur et côté récepteur, de sorte que les grands jobs d'entraînement et d'inférence cessent d'être limités par le hachage à chemin unique et la pause à l'échelle du réseau.
IP Infusion est-il membre de l'Ultra Ethernet Consortium ?
Oui. IP Infusion est membre contributeur de l'Ultra Ethernet Consortium et participe à l'élaboration de la spécification de couche de fabric. OcNOS-DC suit le profil de fabric UEC 1.0, de sorte que les commutateurs que vous déployez aujourd'hui se prolongent à mesure que les NIC compatibles UEC arrivent. L'alignement sur le profil n'est pas une déclaration de certification.
En quoi Ultra Ethernet diffère-t-il de RoCEv2 ?
RoCEv2 épingle chaque flux à un seul chemin ECMP et dépend d'une PFC à l'échelle du réseau pour rester sans perte. Ultra Ethernet pulvérise un seul message sur chaque chemin disponible en parallèle, le réassemble dans l'ordre au niveau de la NIC de destination, ne retransmet que les paquets perdus, et contrôle la congestion à la fois côté émetteur et côté récepteur. UET n'exige pas de fabric PFC sans perte, ce qui réduit la dépendance à la pause PFC et améliore la latence de queue sur les grandes collectives.
OcNOS prend-il en charge Ultra Ethernet aujourd'hui ?
OcNOS-DC fait tourner un fabric RoCEv2 de production dès aujourd'hui avec PFC, ECN et DLB inférieur à la milliseconde, et il est aligné sur le profil de fabric UEC 1.0. Le transport Ultra Ethernet complet est un élément de la feuille de route qui s'active à mesure que les NIC compatibles UEC arrivent ; parce qu'OcNOS-DC suit déjà le profil de fabric, la transition ne nécessite aucun remplacement de NOS ni de commutateur. L'alignement sur le profil n'est pas une déclaration de certification.
Ai-je besoin de nouveau matériel pour Ultra Ethernet ?
Le commutateur est la partie qui se prolonge. Le comportement d'extrémité Ultra Ethernet (packet spray, réassemblage, retransmission sélective) s'exécute sur les NIC compatibles UEC, tandis que le fabric qu'utilise aujourd'hui votre trafic RoCEv2 continue de servir à mesure que ces NIC se déploient. Exécuter OcNOS-DC sur du matériel Tomahawk 5 listé au HCL signifie que la couche de fabric est déjà alignée sur le profil UEC 1.0.
Que sont le packet spray et la livraison dans le désordre ?
Le packet spray envoie les paquets d'un même message sur tous les chemins parallèles du fabric à la fois, au lieu d'un unique chemin haché, de sorte qu'aucun lien ne devient un point chaud pendant une collective. Comme les paquets peuvent alors arriver dans le désordre, la NIC de destination les réassemble dans la séquence d'origine. Ensemble, ils maintiennent chaque chemin occupé et raccourcissent le transfert le plus lent d'un job.

Vous planifiez un fabric IA prêt pour UEC ? Concevons-le ensemble

Indiquez-nous la charge de travail et l'échelle GPU, et un ingénieur IP Infusion dimensionnera le fabric leaf-spine avec vous, ou commencez un premier jet de topologie dans l'AI Fabric Design Suite.