UEC 1.0 · Packet spray · UET

Ultra Ethernet: UEC 1.0 per AI Fabric

Ultra Ethernet è il percorso aperto e multi-vendor verso un networking AI di classe InfiniBand su Ethernet standard. La specifica UEC 1.0, pubblicata a giugno 2025, definisce l'Ultra Ethernet Transport (UET) con packet spraying, RDMA multipath, consegna fuori ordine, ritrasmissione selettiva e controllo della congestione sia lato mittente sia lato destinatario. Non richiede un fabric PFC lossless. IP Infusion è membro dell'Ultra Ethernet Consortium, e OcNOS-DC esegue già in produzione fabric AI RoCEv2 lossless con DLB.

Giugno 2025specifica UEC 1.0
RoCEv2Fabric lossless OcNOS-DC oggi
fino a 800GOcNOS-DC su Tomahawk 5
600+reti operatore su OcNOS
Come UET sposta un messaggio

Packet spray su ogni percorso

Un singolo messaggio RDMA tra due GPU viene distribuito pacchetto per pacchetto su tutti e quattro i percorsi spine contemporaneamente. Il fabric tollera l'arrivo out-of-order e la NIC UEC di destinazione riassembla in ordine. Nessun flow-pinning, nessuna collisione di hash, nessun uplink inattivo.

Packet spray Ultra Ethernet su un fabric a 4 spine Due GPU collegate tramite due leaf e quattro spine. Un singolo messaggio RDMA viene suddiviso in quattro pacchetti inviati contemporaneamente su tutti e quattro i percorsi spine. Sulla NIC ricevente i pacchetti arrivano fuori ordine e vengono riordinati prima della consegna alla GPU. La banda inferiore elenca le proprietà di UEC: packet spraying, RDMA multipath, consegna fuori ordine, riassemblaggio nella NIC. P1 P2 P3 P4 Spine-1Fabric UEC Spine-2Fabric UEC Spine-3Fabric UEC Spine-4Fabric UEC Leaf-1Ethernet Leaf-2Ethernet GPU-AUEC NIC GPU-Briassemblaggio UEC 1.0 · PACKET SPRAYING · RDMA MULTIPATH · CONSEGNA FUORI ORDINE · RIASSEMBLAGGIO NELLA NIC
All'interno del trasporto

Cosa aggiunge l'Ultra Ethernet Transport

RoCEv2 funziona, ma eredita vincoli di progettazione più datati: un solo percorso con hash per flusso, pausa PFC estesa a tutta la rete e ripristino delle perdite con riavvio della finestra. La specifica UEC 1.0 mantiene l'Ethernet fisico standard che si può acquistare da chiunque e sostituisce i livelli superiori con un trasporto (UET) progettato per job da 1k a 100k GPU.

Uso dei percorsi

Packet spraying

Un singolo messaggio viene distribuito su ogni percorso disponibile contemporaneamente. Nessun flow pinning, nessuna collisione ECMP, così l'utilizzo del fabric si avvicina al massimo teorico durante una collettiva.

RDMA

RDMA multi-path

RDMA viene trasportato su molti percorsi paralleli anziché uno solo, così un trasferimento di grandi dimensioni non è più limitato dalla banda di un singolo link con hash.

Consegna

Consegna fuori ordine

Al fabric è consentito riordinare. La NIC UEC riassembla in ordine prima della consegna, così le applicazioni e la GPU non vedono mai disordine.

Ripristino

Ritrasmissione selettiva

I pacchetti persi vengono recuperati in modo selettivo anziché riavviare la finestra RDMA, azzerando la penalità di tail latency di qualsiasi perdita interna al fabric.

Controllo

Controllo della congestione moderno

Entrambi basati su mittente e ricevitore sostituiscono la pausa PFC grossolana come strumento primario. UET non richiede un fabric PFC lossless; la pausa diventa un backstop, non la prima linea.

Ecosistema

Aperto e multi-vendor

UET funziona su Ethernet standard da qualsiasi fornitore. Il consorzio, i cui membri spaziano tra aziende di silicio, NIC, switch e cloud, pubblica la specifica apertamente.

Dove ciascuno si colloca

UEC, RoCEv2 e InfiniBand, asse per asse

RoCEv2 gestisce oggi la maggior parte dei fabric AI in produzione. Ultra Ethernet è il percorso in avanti basato su standard man mano che arrivano le NIC compatibili con UEC, e InfiniBand rimane lo specialista single-vendor. Quale asse conti dipende dal carico di lavoro e dalla tempistica.

Aspetto RoCEv2Ethernet, oggi Ultra EthernetUET, aperto multi-vendor InfiniBandunico fornitore
Uso dei percorsiUn solo percorso ECMP con hash per flusso; i percorsi paralleli possono restare inattivi.Packet spray su ogni percorso disponibile in parallelo.Routing adattivo integrato nella specifica.
Gestione delle perditeLossless tramite PFC + ECN + DCQCN; si basa sulla pausa estesa a tutta la rete.Tollera perdite e riordino; non richiede un fabric PFC lossless.Lossless tramite controllo di flusso basato su crediti.
RiordinamentoSolo consegna in ordine.Consegna out-of-order, riassemblata in ordine nella NIC.Consegna in ordine.
RitrasmissioneIl ripristino basato su finestra penalizza la tail latency.Ritrasmissione selettiva dei soli pacchetti persi.Ripristino a livello di link.
Controllo della congestioneDCQCN con marcatura ECN.Controllo sia lato mittente sia lato ricevitore agli endpoint.Basato su crediti a livello di link.
EcosistemaEthernet multi-vendor a ogni livello.Aperto, multi-vendor; qualsiasi fornitore può sviluppare secondo la specifica UEC 1.0.Di fatto single-vendor per il silicio di NIC e switch.
Stato di OcNOS-DCIn produzione oggi su Tomahawk 4 / Tomahawk 5.IP Infusion è membro dell'UEC; OcNOS-DC esegue già RoCEv2 in produzione.Non applicabile; fabric e strumenti separati.
OcNOS-DC oggi

Cosa esegue oggi OcNOS-DC nei fabric AI

OcNOS-DC gestisce già in produzione un fabric RoCEv2 lossless con PFC, ECN, DCQCN e DLB sotto il millisecondo su switch Broadcom Tomahawk 4 e Tomahawk 5. IP Infusion è membro dell'Ultra Ethernet Consortium.

Trasporto

RoCEv2 lossless

PFC mette in pausa il traffico per priorità prima che i buffer trabocchino, ECN marca i pacchetti in anticipo e i profili di buffer DCQCN sono ottimizzati per il traffico collettivo RDMA.

Uso dei percorsi

Load balancing dinamico

DLB legge in tempo reale la profondità delle code dell'ASIC e riassegna i flowlet a percorsi meno carichi in meno di un millisecondo, così i flussi di grandi dimensioni smettono di collidere su un unico uplink.

Hardware

Silicio Tomahawk 4 / 5

Funziona su switch aperti Broadcom Tomahawk 4 (25.6T) e Tomahawk 5 (51.2T) di Edgecore e UfiSpace.

Protezione

Watchdog deadlock PFC

Un watchdog per porta e per priorità rileva i cicli di code in pausa e svuota la coda prima che i job si blocchino.

Telemetria

Telemetria in streaming

Pause PFC, marcatura ECN, soglie DCQCN e profondità dei buffer vengono trasmessi in streaming via gNMI con OpenConfig YANG per il tuning durante l'avvio del cluster.

Hardware aperto

Percorso vendor-neutral

Abbinare OcNOS-DC a hardware aperto lascia al proprietario del cluster la scelta di NIC, GPU e switch, così nessun singolo fornitore controlla il fabric AI.

Il quadro della migrazione

Costruite ora su RoCEv2, pianificate UEC con l'arrivo delle NIC

I fabric reali non cambiano dall'oggi al domani. RoCEv2 trasporta oggi il training AI in produzione, e le NIC compatibili UEC portano un trasporto multipath su Ethernet standard man mano che arrivano.

  • RoCEv2 oggi. Di livello produttivo per i cluster costruiti proprio ora. OcNOS-DC fornisce RoCEv2 pre-ottimizzato su Tomahawk 4 / Tomahawk 5. La maggior parte dei fabric in produzione nel 2026 è RoCEv2.
  • UEC man mano che arrivano le NIC. Le NIC compatibili UEC portano packet spray e ritrasmissione selettiva nei cluster scale-out. I proprietari dei cluster scelgono il fornitore di NIC.
  • InfiniBand resta specialistico. Prestazioni a fornitore unico con cablaggio, gestione ed ecosistema separati. UEC porta tecniche di trasporto paragonabili su Ethernet multi-vendor basato su standard.
La visione di IP Infusion

Ethernet aperto per i fabric AI, oggi con OcNOS-DC

Ultra Ethernet porta tecniche di trasporto multipath su Ethernet standard multi-vendor. IP Infusion è membro dell'Ultra Ethernet Consortium, e OcNOS-DC esegue già in produzione RoCEv2 lossless con DLB.

Un membro del consorzio

IP Infusion è membro dell'Ultra Ethernet Consortium, che pubblica apertamente la specifica Ultra Ethernet.

RoCEv2 in produzione ora

OcNOS-DC offre RoCEv2 lossless con PFC, ECN e DLB sub-millisecondo oggi su hardware aperto validato di fornitori come Edgecore e UfiSpace.

La NIC che preferite

OcNOS-DC funziona su hardware aperto Broadcom Tomahawk 4 e Tomahawk 5 e lascia la scelta di NIC e GPU al proprietario del cluster.

Ultra Ethernet, le risposte

Che cos'è Ultra Ethernet (UEC)?
Ultra Ethernet è uno standard aperto dell'Ultra Ethernet Consortium (UEC) che adatta Ethernet ai carichi di lavoro AI e HPC. La specifica UEC 1.0, rilasciata a giugno 2025, definisce l'Ultra Ethernet Transport (UET): packet spray dall'endpoint su ogni percorso, RDMA multi-path, consegna out-of-order con riassemblaggio nella NIC, ritrasmissione selettiva e controllo della congestione sia lato mittente sia lato ricevitore, così i grandi job di training e inferenza smettono di essere limitati dall'hashing a percorso singolo e dalla pausa estesa a tutta la rete.
IP Infusion è membro dell'Ultra Ethernet Consortium?
Sì. IP Infusion è membro dell'Ultra Ethernet Consortium (UEC), il gruppo di settore che sviluppa e pubblica la specifica aperta Ultra Ethernet per il networking AI e HPC.
In cosa Ultra Ethernet è diverso da RoCEv2?
RoCEv2 fissa ogni flusso a un percorso ECMP e dipende dalla PFC estesa a tutta la rete per restare lossless. Ultra Ethernet distribuisce un singolo messaggio su ogni percorso disponibile in parallelo, lo riassembla in ordine nella NIC di destinazione, ritrasmette solo i pacchetti persi e controlla la congestione sia sul mittente sia sul ricevitore. UET non richiede un fabric PFC lossless, il che riduce la dipendenza dalla pausa PFC e migliora la tail latency sulle grandi collettive.
OcNOS supporta Ultra Ethernet oggi?
OcNOS-DC gestisce già in produzione un fabric RoCEv2 lossless con PFC, ECN, DCQCN e DLB sotto il millisecondo su switch Broadcom Tomahawk 4 e Tomahawk 5. Il trasporto Ultra Ethernet funziona su NIC compatibili UEC, e IP Infusion è membro dell'Ultra Ethernet Consortium. Per pianificare come UEC si inserisce in un progetto specifico, parlate con un ingegnere IP Infusion.
Serve nuovo hardware per Ultra Ethernet?
Il comportamento endpoint di Ultra Ethernet (packet spray, riassemblaggio, ritrasmissione selettiva) viene eseguito su NIC compatibili UEC. La specifica UEC 1.0 copre anche il comportamento di link e switch, quindi i requisiti di fabric di un deployment UEC dipendono dalla NIC, dal silicio dello switch e dalla release del NOS. Dimensionate il fabric con un ingegnere IP Infusion in base alla NIC scelta.
Cosa sono il packet spray e la consegna out-of-order?
Il packet spray invia i pacchetti di un messaggio su tutti i percorsi paralleli del fabric contemporaneamente anziché lungo un singolo percorso con hash, così nessun link diventa un punto caldo durante una collettiva. Poiché i pacchetti possono quindi arrivare fuori ordine, la NIC di destinazione li riassembla nella sequenza originale. Insieme mantengono ogni percorso occupato e accorciano il trasferimento più lento di un job.

State pianificando un fabric AI? Progettiamolo insieme

Indicateci il carico di lavoro e la scala di GPU e un ingegnere IP Infusion dimensionerà con voi il fabric leaf-spine, oppure iniziate un primo layout nell'AI Fabric Design Suite.