UEC 1.0 · Packet spray · UET

Ultra Ethernet: UEC 1.0 per AI Fabric

Ultra Ethernet è il percorso aperto e multi-vendor verso un networking AI di classe InfiniBand su Ethernet standard. La specifica UEC 1.0, rilasciata a giugno 2025, definisce l'Ultra Ethernet Transport (UET) con packet spraying, RDMA multi-path, consegna out-of-order, ritrasmissione selettiva e controllo della congestione sia lato mittente sia lato ricevitore. Non richiede un fabric PFC lossless, e OcNOS-DC fornisce il livello di fabric basato su standard richiesto dalle NIC compatibili con UEC.

June 2025specifica UEC 1.0
1 fabricRoCEv2 e UEC, stesso hardware
fino a 800GOcNOS-DC su Tomahawk 5
600+reti operatore su OcNOS
Come UET sposta un messaggio

Packet spray su ogni percorso

Un singolo messaggio RDMA tra due GPU viene distribuito pacchetto per pacchetto su tutti e quattro i percorsi spine contemporaneamente. Il fabric tollera l'arrivo out-of-order e la NIC UEC di destinazione riassembla in ordine. Nessun flow-pinning, nessuna collisione di hash, nessun uplink inattivo.

Packet spray Ultra Ethernet su un fabric a 4 spine Two GPUs connected through two leaves and four spines. A single RDMA message is split into four packets and sent across all four spine paths simultaneously. At the receiving NIC, packets arrive out of order and are reassembled in order before delivery to the GPU. Bottom band lists UEC properties: packet spray, multi-path RDMA, out-of-order delivery, NIC reassembly. P1 P2 P3 P4 Spine-1Fabric UEC Spine-2Fabric UEC Spine-3Fabric UEC Spine-4Fabric UEC Leaf-1OcNOS-DC Leaf-2OcNOS-DC GPU-AUEC NIC GPU-Breassembly UEC 1.0 · PACKET SPRAY · MULTI-PATH RDMA · OUT-OF-ORDER DELIVERY · NIC REASSEMBLY
All'interno del trasporto

Cosa aggiunge l'Ultra Ethernet Transport

RoCEv2 funziona, ma eredita vincoli di progettazione più datati: un solo percorso con hash per flusso, pausa PFC estesa a tutta la rete e ripristino delle perdite con riavvio della finestra. La specifica UEC 1.0 mantiene l'Ethernet fisico standard che si può acquistare da chiunque e sostituisce i livelli superiori con un trasporto (UET) progettato per job da 1k a 100k GPU.

Path use

Packet spraying

Un singolo messaggio viene distribuito su ogni percorso disponibile contemporaneamente. Nessun flow pinning, nessuna collisione ECMP, così l'utilizzo del fabric si avvicina al massimo teorico durante una collettiva.

RDMA

RDMA multi-path

RDMA viene trasportato su molti percorsi paralleli anziché uno solo, così un trasferimento di grandi dimensioni non è più limitato dalla banda di un singolo link con hash.

Consegna

Consegna fuori ordine

Al fabric è consentito riordinare. La NIC UEC riassembla in ordine prima della consegna, così le applicazioni e la GPU non vedono mai disordine.

Recovery

Ritrasmissione selettiva

I pacchetti persi vengono recuperati selectively anziché riavviare la finestra RDMA, azzerando la penalità di tail latency di qualsiasi perdita interna al fabric.

Control

Controllo della congestione moderno

Both basati su mittente e ricevitore sostituiscono la pausa PFC grossolana come strumento primario. UET non richiede un fabric PFC lossless; la pausa diventa un backstop, non la prima linea.

Ecosistema

Aperto e multi-vendor

UET runs on Ethernet standard da qualsiasi fornitore. The consortium (AMD, Arista, Broadcom, Cisco, HPE, Intel, Meta, Microsoft, Oracle and others) publishes the spec openly.

Dove ciascuno si colloca

UEC, RoCEv2 e InfiniBand, asse per asse

RoCEv2 gestisce oggi la maggior parte dei fabric AI in produzione. Ultra Ethernet è il percorso in avanti basato su standard man mano che arrivano le NIC compatibili con UEC, e InfiniBand rimane lo specialista single-vendor. Quale asse conti dipende dal carico di lavoro e dalla tempistica.

Axis RoCEv2Ethernet, oggi Ultra EthernetUET, aperto multi-vendor InfiniBandsingle-vendor
Path useUn solo percorso ECMP con hash per flusso; i percorsi paralleli possono restare inattivi.Packet spray su ogni percorso disponibile in parallelo.Routing adattivo integrato nella specifica.
Gestione delle perditeLossless tramite PFC + ECN + DCQCN; si basa sulla pausa estesa a tutta la rete.Tollera perdite e riordino; non richiede un fabric PFC lossless.Lossless tramite controllo di flusso basato su crediti.
ReorderingSolo consegna in ordine.Consegna out-of-order, riassemblata in ordine nella NIC.Consegna in ordine.
RetransmissionIl ripristino basato su finestra penalizza la tail latency.Ritrasmissione selettiva dei soli pacchetti persi.Ripristino a livello di link.
Controllo della congestioneDCQCN con marcatura ECN.Controllo sia lato mittente sia lato ricevitore agli endpoint.Basato su crediti a livello di link.
EcosistemaEthernet multi-vendor a ogni livello.Aperto, multi-vendor; qualsiasi fornitore può sviluppare secondo la specifica UEC 1.0.Di fatto single-vendor per il silicio di NIC e switch.
Stato di OcNOS-DCIn produzione oggi su Tomahawk 4 / Tomahawk 5.Livello di fabric allineato al profilo UEC 1.0; il trasporto entra in funzione man mano che arrivano le NIC.Non applicabile; fabric e strumenti separati.
OcNOS e UEC

Il livello di fabric richiesto dalle NIC UEC

OcNOS-DC gestisce oggi un fabric RoCEv2 di produzione e segue il profilo lato fabric UEC 1.0: la configurazione e i comportamenti dello switch necessari per interoperare con le NIC compatibili con UEC. Il trasporto completo è un elemento di roadmap che entra in funzione man mano che arrivano tali NIC. L'allineamento al profilo non costituisce una dichiarazione di certificazione.

Spec

Profilo fabric UEC 1.0

OcNOS-DC segue il profilo lato fabric UEC 1.0, la configurazione e i comportamenti che gli switch devono supportare per interoperare con le NIC compatibili con UEC man mano che arrivano.

Spray-friendly

Forwarding tollerante all'OOO

ECMP per-pacchetto, QoS adatto al packet spray e policy di buffer condiviso che non penalizzano la consegna out-of-order: le condizioni di cui le NIC UEC hanno bisogno per operare in modo efficiente.

Hardware

Silicio Tomahawk 4 / 5

Funziona sulle stesse piattaforme Broadcom Tomahawk 4 (25,6T) e Tomahawk 5 (51,2T) usate per gli attuali fabric RoCEv2. Nessun aggiornamento forklift richiesto.

Brownfield

RoCEv2 e UEC coesistono

Il traffico UEC e RoCEv2 condivide un unico fabric su priorità diverse. Migrate i cluster in modo incrementale man mano che vengono distribuite le NIC compatibili con UEC.

Telemetria

Osservabilità UEC-aware

Utilizzo per percorso, contatori di buffer ottimizzati per lo spray e metriche di tolleranza al reordering, in streaming su gNMI per il tuning closed-loop durante il bring-up del cluster.

Hardware aperto

Percorso vendor-neutral

UEC è l'alternativa aperta a InfiniBand. Abbinare OcNOS-DC a hardware aperto significa che nessun singolo fornitore possiede il fabric AI, che è esattamente il punto.

Il quadro della migrazione

Costruite su RoCEv2 ora, mantenete un percorso pulito verso UEC

I fabric reali non cambiano da un giorno all'altro. Il piano pratico è RoCEv2 in produzione oggi su hardware che segue già il profilo UEC 1.0, così il passaggio al trasporto non richiede la sostituzione del NOS o dello switch.

  • RoCEv2 oggi. Di livello produttivo per i cluster costruiti proprio ora. OcNOS-DC fornisce RoCEv2 pre-ottimizzato su Tomahawk 4 / Tomahawk 5. La maggior parte dei fabric in produzione nel 2026 è RoCEv2.
  • UEC man mano che arrivano le NIC. Il percorso in avanti per i cluster scale-out man mano che arrivano le NIC compatibili con UEC. OcNOS-DC fornisce il livello di fabric; i proprietari dei cluster scelgono il fornitore delle NIC.
  • InfiniBand resta specialistico. Prestazioni single-vendor con cablaggio, gestione ed ecosistema separati. UEC colma il divario prestazionale su un fabric Ethernet multi-vendor basato su standard.
  • La coesistenza è l'impostazione predefinita. Il traffico RoCEv2 dei cluster esistenti e il traffico UEC della build successiva convivono sullo stesso hardware OcNOS-DC.
  • GLB si porta avanti. OcNOS 7.1 Global Load Balancing il piano di qualità dei percorsi è progettato per interoperare con la segnalazione UEC man mano che la specifica matura, così gli investimenti odierni in OcNOS-DC si portano avanti.
La visione di IP Infusion

L'Ethernet aperto è la destinazione, e OcNOS è il percorso

Ultra Ethernet porta all'Ethernet standard e multi-vendor le tecniche di trasporto che hanno definito InfiniBand. IP Infusion è un membro contributore del consorzio e OcNOS-DC fornisce il livello di fabric, così un cluster costruito oggi si porta avanti.

Un membro contributore

IP Infusion partecipa alla definizione della specifica del livello di fabric UEC, e OcNOS-DC segue il profilo di fabric UEC 1.0 man mano che evolve.

RoCEv2 in produzione ora

OcNOS-DC offre RoCEv2 lossless con PFC, ECN e DLB sub-millisecondo oggi su hardware aperto validato di fornitori come Edgecore e UfiSpace.

Pronto per UEC by design

Poiché lo switch segue già il profilo di fabric, attivare Ultra Ethernet man mano che arrivano le NIC non richiede la sostituzione del NOS o dello switch. L'allineamento non costituisce una dichiarazione di certificazione.

FAQ

Ultra Ethernet, le risposte

Che cos'è Ultra Ethernet (UEC)?
Ultra Ethernet è uno standard aperto dell'Ultra Ethernet Consortium (UEC) che adatta Ethernet ai carichi di lavoro AI e HPC. La specifica UEC 1.0, rilasciata a giugno 2025, definisce l'Ultra Ethernet Transport (UET): packet spray dall'endpoint su ogni percorso, RDMA multi-path, consegna out-of-order con riassemblaggio nella NIC, ritrasmissione selettiva e controllo della congestione sia lato mittente sia lato ricevitore, così i grandi job di training e inferenza smettono di essere limitati dall'hashing a percorso singolo e dalla pausa estesa a tutta la rete.
IP Infusion è membro dell'Ultra Ethernet Consortium?
Sì. IP Infusion è un membro contributore dell'Ultra Ethernet Consortium e partecipa alla definizione della specifica del livello di fabric. OcNOS-DC segue il profilo di fabric UEC 1.0, così gli switch che distribuite oggi si portano avanti man mano che arrivano le NIC compatibili con UEC. L'allineamento al profilo non costituisce una dichiarazione di certificazione.
In cosa Ultra Ethernet è diverso da RoCEv2?
RoCEv2 fissa ogni flusso a un percorso ECMP e dipende dalla PFC estesa a tutta la rete per restare lossless. Ultra Ethernet distribuisce un singolo messaggio su ogni percorso disponibile in parallelo, lo riassembla in ordine nella NIC di destinazione, ritrasmette solo i pacchetti persi e controlla la congestione sia sul mittente sia sul ricevitore. UET non richiede un fabric PFC lossless, il che riduce la dipendenza dalla pausa PFC e migliora la tail latency sulle grandi collettive.
OcNOS supporta Ultra Ethernet oggi?
OcNOS-DC gestisce oggi un fabric RoCEv2 di produzione con PFC, ECN e DLB sub-millisecondo, ed è allineato al profilo di fabric UEC 1.0. Il trasporto Ultra Ethernet completo è un elemento di roadmap che entra in funzione man mano che arrivano le NIC compatibili con UEC; poiché OcNOS-DC segue già il profilo di fabric, il passaggio non richiede la sostituzione del NOS o dello switch. L'allineamento al profilo non costituisce una dichiarazione di certificazione.
Serve nuovo hardware per Ultra Ethernet?
Lo switch è la parte che si porta avanti. Il comportamento endpoint di Ultra Ethernet (packet spray, riassemblaggio, ritrasmissione selettiva) gira sulle NIC compatibili con UEC, mentre il fabric che il vostro traffico RoCEv2 utilizza oggi continua a servire man mano che tali NIC vengono distribuite. Eseguire OcNOS-DC su hardware Tomahawk 5 presente nell'HCL significa che il livello di fabric è già allineato al profilo UEC 1.0.
Cosa sono il packet spray e la consegna out-of-order?
Il packet spray invia i pacchetti di un messaggio su tutti i percorsi paralleli del fabric contemporaneamente anziché lungo un singolo percorso con hash, così nessun link diventa un punto caldo durante una collettiva. Poiché i pacchetti possono quindi arrivare fuori ordine, la NIC di destinazione li riassembla nella sequenza originale. Insieme mantengono ogni percorso occupato e accorciano il trasferimento più lento di un job.

State pianificando un fabric AI pronto per UEC? Progettiamolo insieme

Indicateci il carico di lavoro e la scala di GPU e un ingegnere IP Infusion dimensionerà con voi il fabric leaf-spine, oppure iniziate un primo layout nell'AI Fabric Design Suite.