RoCEv2 · DCQCN · DLB · UEC 1.0 ready

Un fabric AI aperto a 800G su Ethernet standard

Puoi costruire un fabric di cluster GPU di produzione su Ethernet standard e mantenere aperte le tue scelte di NIC, GPU e switch. IP Infusion fornisce quel fabric completo: switch aperti 800G convalidati Edgecore o UfiSpace che eseguono OcNOS-DC, supportati sotto un unico contratto. Trasporta RoCEv2 RDMA senza perdite con PFC, ECN, DCQCN e DLB sotto il millisecondo, e si allinea al profilo fabric Ultra Ethernet 1.0.

600+Reti OcNOS in esercizio
60+Paesi serviti
26 anniStack di routing in produzione
Multi-
thousand
Design di riferimento GPU
The stakes

Cosa incide sul tempo di completamento dei job

Ciò che conta su larga scala è quanto velocemente i job finiscono e quanto restano occupate le GPU, non il throughput dello switch. Ogni volta che il cluster si mette in pausa per sincronizzarsi, le GPU inattive sprecano capacità, così il fabric non deve perdere nulla e reagire alla congestione nel momento in cui inizia.

OcNOS-DC exposes every setting, so your team tunes the fabric against your real GPU collective traffic (xCCL: NCCL, RCCL, oneCCL) instead of accepting a vendor's fixed profile. Each pattern below is one way a cluster stalls, and how OcNOS-DC keeps it moving.

Sincronizzazione del training (AllReduce)
Ogni GPU comunica con tutte le altre GPU contemporaneamente
Il load balancing standard vincola questi grandi flow a un solo uplink, quindi alcuni link si congestionano mentre altri restano inattivi e la sincronizzazione attende quello piu lento.
DLB sposta i flow verso percorsi meno congestionati in meno di un millisecondo.
GLB is on the OcNOS roadmap to balance across the whole fabric, not just the local hop.
Risultato: nessun hot spot di traffico; la fase di sincronizzazione procede a velocita quasi piena.
Picchi di traffico (incast)
Molti sender colpiscono una sola porta in pochi microsecondi
Un pacchetto perso fa ripartire l'intera operazione collettiva, e una pausa troppo aggressiva blocca il collegamento, quindi il fabric deve anticipare la congestione.
DCQCN rallenta i sender in anticipo, prima che qualcosa vada in overflow.
PFC watchdog libera autonomamente una porta bloccata.
Risultato: i job assorbono i picchi e una porta bloccata si ripristina senza un reset manuale.
Scale-out (multi-rail)
Un singolo flow ha bisogno di tutti i percorsi paralleli contemporaneamente
Oggi un flow percorre un solo percorso, lasciando inutilizzati gli altri rail.
Ultra Ethernet (UEC 1.0) distribuisce un singolo flow su ogni percorso contemporaneamente.
→ Lo switch che acquisti oggi resta valido quando arriveranno le NIC UEC, senza sostituzioni.
Risultato: i trasferimenti piu lenti accelerano man mano che le NIC UEC vengono adottate.
~55% → 90%+

Benchmark di riferimento. DLB lifts fabric utilization from about 55% with standard load balancing to 90%+ on the same switches, with no extra uplinks. (Industry-published Broadcom figure for Tomahawk 4 and 5.)

Approfondimento DLB →
Reference topology

Spine-leaf a 800G, senza perdite da estremo a estremo

Questo è il design leaf-spine (Clos) che il tuo team già conosce, costruito per eseguire traffico GPU senza perdite: un underlay eBGP instradato distribuisce il traffico uniformemente su ogni percorso, code a priorità senza perdite proteggono i flussi RoCEv2, e una rete di gestione separata attiva gli switch e trasmette in streaming la telemetria per conto proprio. Lo storage NVMe-oF e NFS collegato ai leaf per checkpoint e dataset si trova adiacente ai rack GPU; consulti il fabric DC for storage-fabric detail. Hover any node for platform, port count, and chip.

Topologia AI fabric: spine-leaf 800G con leaf paralleli, eBGP full-mesh, un bus di gestione isolato e storage collegato ai leaf
AI Fabric: spine-leaf 800G, eBGP full-mesh, un bus di gestione isolato e storage collegato ai leaf.
L'hardware

Switch aperti validati

OcNOS-DC gira su switch Broadcom Tomahawk e Trident di Edgecore e UfiSpace, quindi ogni piattaforma e validata, ordinabile e reperibile da una seconda fonte.

Edgecore AIS800-64D 800G spine switch
Spine · Tomahawk 5

Edgecore AIS800-64D

64 x 800G · 51.2 Tbps

QSFP-DD800 · breakout a 2x400G / 4x200G / 8x100G

Datasheet →
UfiSpace S9321-64E 800G spine switch
Spine · Tomahawk 5

UfiSpace S9321-64E

64 x 800G · 51.2 Tbps

QSFP-DD800 · breakout a 2x400G / 4x200G / 8x100G

Datasheet →
Edgecore AS9736-64D 400G leaf switch
Leaf · Tomahawk 4

Edgecore AS9736-64D

64 x 400G · 25.6 Tbps

QSFP56-DD 400G · breakout a 4x100G / 4x25G · DAC / AOC

Datasheet →

Vedi tutte le oltre 40 piattaforme validate nell'HCL →

Un solo fornitore dietro software, hardware e supporto

SUPPORTO A FORNITORE UNICO

Un solo contratto, un solo team a cui rivolgersi

Un unico contratto IP Infusion copre insieme il software OcNOS-DC e l'hardware degli switch validati, quindi c'e un solo TAC e un solo SLA anziche un NOS e un fornitore hardware separati. Un portale di supporto 24/7 e disponibile nei livelli Premium ed Enterprise.

Vedi i dettagli del supporto
IP MAESTRO MANAGEMENT

Una sola console per il fabric

IP Maestro è un sistema di gestione degli elementi per OcNOS: topologia, guasti, configurazione e immagini software su ogni switch tramite NETCONF, collocato sotto il suo OSS esistente. Gestisce grandi flotte multi-sito da un'unica console.

Esplora IP Maestro
AUTOMATED DAY 2

Telemetria in streaming e zero-touch

La telemetria in streaming gNMI alimenta Prometheus e Grafana, DCBX applica automaticamente le corrette impostazioni lossless a ogni server e il provisioning zero-touch avvia gli switch gia configurati all'accensione.

Esplori l'automazione
Alternativa aperta a Spectrum-X

L'alternativa aperta e multi-vendor a NVIDIA Spectrum-X

OcNOS-DC esegue un fabric AI RoCEv2 senza perdite su switch Ethernet standard provenienti da più di un fornitore di hardware aperto, sotto un unico contratto di supporto. Corrisponde ai meccanismi di fabric da cui dipende un job di training AI, mantenendo aperte le scelte di NIC, GPU e hardware invece di vincolarle a un unico fornitore.

AI fabric aperto su OcNOS-DC rispetto a uno stack AI chiuso single-vendor. Ultima verifica: lug 2026.
Cosa decide l'accordo AI fabric aperto (OcNOS-DC su Edgecore / UfiSpace) Stack chiuso single-vendor (NVIDIA Spectrum-X)
Approvvigionamento hardware Silicio merchant aperto da più di un fornitore (Edgecore, UfiSpace) Switch, NIC e GPU single-vendor
Scelta di NIC e GPU Aperto; scambia NIC e GPU in modo indipendente Vincolato alla roadmap NIC e GPU NVIDIA
RoCEv2 senza perdite (PFC, ECN, DCQCN) details →
Bilanciamento del carico adattivo sub-millisecond DLB flowlet rebinding details → (proprietary)
Protezione deadlock PFC deadlock watchdog with auto-drain details →
Ultra Ethernet (UEC 1.0) tracks the UEC 1.0 fabric profile details → Allineato; anche membro UEC
Telemetria in streaming e automazione gNMI, OpenConfig, ZTP, DCBX, Ansible (vendor pipeline)
Contratto di supporto unico (switch e software) one TAC, one SLA (single vendor)
Integrazione back-end con silicio GPU Ethernet standard; nessun co-design con silicio GPU Advantage NVIDIA: NIC, switch, and GPU co-designed
Livello fabric-controller Gestito tramite telemetria gNMI e il suo OSS o IP Maestro Advantage NVIDIA: integrated fabric-controller layer
UEC certification Allineato al profilo fabric UEC 1.0 (non una dichiarazione di certificazione) NVIDIA è un membro dello steering committee UEC

NVIDIA, Spectrum-X, Quantum e ConnectX sono marchi di NVIDIA Corporation. IP Infusion non è affiliata e non approva NVIDIA; il confronto riflette le capacità di OcNOS-DC verificabili nella matrice delle funzionalità.

Il panorama delle AI fabric nel 2026

Dove si colloca OcNOS-DC

Entro il 2026 quasi ogni opzione supera la stessa soglia tecnica: RoCEv2 senza perdite, controllo della congestione, routing adattivo, allineamento Ultra Ethernet. Quindi la decisione si riduce a la forma dell'accordo: un sistema operativo aperto oppure uno stack proprietario, hardware aperto o proprietario, Ethernet standard o InfiniBand chiuso. Here is where each one leaves you.

Forma della soluzione Esempi Compromesso
Open NOS, AI-hardened, allineato UEC OcNOS-DC su Edgecore / UfiSpace Stesso silicio Broadcom, la stessa soglia tecnica. DCQCN sintonizzato per il traffico collettivo RDMA, DLB sotto il ms, GLB nella roadmap OcNOS, deadlock watchdog PFC, profilo fabric UEC 1.0. Supporto single-vendor. Nessun lock-in di NIC, GPU o hardware.
Stack AI verticale chiuso NVIDIA Spectrum-X + Quantum + ConnectX Prestazioni integrate eccellenti. NIC, switch e software di fabric vincolati a un unico vendor, e a una sola roadmap GPU.
NOS chiuso su merchant silicon Arista EOS · Cisco NX-OS · Juniper Junos Sotto, lo stesso silicio Broadcom. Premio di licenza per porta. Telemetria e tuning confinati alla pipeline del singolo vendor.
Fabric chassis proprietaria basata su celle DriveNets Network Cloud Architettura diversa: cell fabric a scheduling, non un NOS Ethernet. Solida in ambito hyperscale; non portabile su switch standard.
InfiniBand closed-loop NVIDIA Quantum InfiniBand La latenza piu bassa oggi per i collective serrati. Cablaggio separato, operativita separata, ecosistema a fornitore unico. UEC colma il divario su Ethernet.
Open NOS, senza AI hardening Community SONiC Hardware aperto, software gratuito, nessuno SLA. I default DCQCN sintonizzati per RDMA, il deadlock watchdog e la maturità della sintonizzazione sono lasciati interamente all'operatore.

Ogni opzione risponde a una priorita diversa. OcNOS-DC punta su hardware aperto, una soluzione completa e nessun lock-in.

Guida al dimensionamento dell'AI Fabric

Dimensiona il tuo fabric GPU in pochi minuti

Inserisci il numero di GPU e la velocita della NIC. L'AI Fabric Design Suite lo traduce in una topologia leaf-spine, nel numero di switch e porte e in una distinta base che puoi portare direttamente a un preventivo. Nessun foglio di calcolo richiesto.

Domande frequenti

Domande frequenti

OcNOS-DC è davvero "AI-native", o solo RoCEv2 con qualche estensione?
Nessun NOS Ethernet su silicio merchant è letteralmente AI-native: nessuno ragiona sulle collettive xCCL (NCCL / RCCL / oneCCL) né schedula i job allo switch; questo risiede nel NIC e nello scheduler. OcNOS-DC implementa ogni meccanismo di fabric di cui un workload AI del 2026 ha bisogno, RoCEv2 senza perdite, profili di buffer DCQCN sintonizzati per i pattern di traffico collettivo RDMA, riassegnazione flowlet DLB sotto il millisecondo, deadlock watchdog PFC, allineamento UEC 1.0, e resta fuori dai livelli superiori. «Fabric AI-aware» di solito significa solo che un fornitore vende NIC + switch + scheduler come un unico SKU bloccato.
Dove finisce OcNOS-DC e dove subentrano la NIC e lo scheduler del cluster?
OcNOS-DC presidia il layer 1: trasporto RDMA lossless, controllo della congestione, routing adattivo, recovery dei deadlock, telemetria. La NIC presidia il layer 2 (xCCL, RDMA verbs, packet spray, GPU-direct memory); lo scheduler presidia il layer 3 (collocazione dei job, finestre di gradient sync, isolamento dei tenant). OcNOS-DC trasmette telemetria gNMI verso il layer 3, ma non aspira mai a sostituire lo scheduler: questa separazione mantiene intercambiabili NIC, GPU e orchestrazione.
Come si confronta OcNOS AI Fabric con NVIDIA Spectrum-X, SONiC, Arista, Cisco o DriveNets?
Spectrum-X è uno stack chiuso NVIDIA di NIC + switch + software: prestazioni eccellenti, lock-in single-vendor. Arista, Cisco e Juniper eseguono funzionalità RoCEv2 simili su hardware bloccato con licenze proprietarie. Community SONiC è aperto ma non fornisce default AI-hardened, watchdog o SLA. DriveNets DDC è un fabric a celle proprietario, non un NOS Ethernet. OcNOS-DC: NOS aperto sullo stesso silicio Broadcom, allineato a UEC, DCQCN sintonizzato per il traffico collettivo RDMA, SLA 24/7, stessa soglia tecnica, nessun lock-in.
Cosa significa Ultra Ethernet (UEC) 1.0 per OcNOS AI Fabric?
Lo switch che acquisti oggi dovrebbe portarsi avanti quando arrivano i NIC Ultra Ethernet, e su OcNOS-DC lo fa. Il tuo fabric esegue RoCEv2 più DCQCN più DLB completamente supportati in produzione ora, e OcNOS-DC segue il profilo fabric UEC 1.0, che parallelizza ogni flusso su ogni percorso invece di fissarlo a un unico hash ECMP, così passi ai NIC UEC senza sostituzione di NOS o hardware. OcNOS-DC è allineato al profilo fabric UEC 1.0; l'allineamento non è una dichiarazione di certificazione. Consulti il Approfondimento Ultra Ethernet.
Cos'è RoCEv2 e perché richiede un fabric Ethernet lossless?
Le tue collettive di training, AllReduce e AllGather, spostano dati GPU-verso-GPU su RoCEv2 senza CPU nel percorso, e RDMA non ritrasmette mai, così un singolo pacchetto perso fa ripartire l'operazione su ogni GPU del job. Ecco perché il RoCEv2 di produzione ha bisogno di un fabric genuinamente senza perdite (PFC più ECN), e OcNOS-DC fornisce i profili di buffer RoCEv2 e i default DCQCN sintonizzati per il traffico collettivo RDMA così che il tuo team non debba costruire quel comportamento senza perdite da zero.
How does OcNOS-DC keep the fabric lossless, and what protects against PFC deadlock?
Tre meccanismi: PFC mette in pausa il traffico per priorità prima che i buffer trabocchino, ECN marca i pacchetti in anticipo per rallentare i mittenti, ed ETS mantiene i flussi RDMA davanti al traffico a priorità inferiore. Sopra di essi, un watchdog di deadlock per porta e per priorità rileva i cicli di code in pausa e svuota automaticamente la coda prima che i job si blocchino: la modalità di guasto che in passato costringeva al power-cycle dello switch nel mezzo di un job. PFC su L3 è supportato attraverso i confini routed.
Cos'è DLB, e cos'è GLB nella roadmap OcNOS?
Durante AllReduce i suoi flussi più grandi si scontrano quando l'ECMP standard fissa ciascuno a un singolo uplink per tutta la sua durata, e la sincronizzazione attende sul collegamento congestionato. DLB legge la telemetria in tempo reale della profondità di coda dell'ASIC e riassegna i flowlet a percorsi meno carichi in meno di un millisecondo, così recupera oggi quel throughput perso al hop locale. GLB è nella roadmap OcNOS 7.x per estendere la stessa idea a tutto il fabric: gli spine pubblicano la telemetria di qualità del percorso verso i leaf di ingresso così che il routing valuti l'intero percorso multi-hop su grandi cluster con molte migliaia di GPU.
Quale scala supporta OcNOS AI Fabric, e quali sono i reference design qualificati?
OcNOS-DC supporta fabric leaf-spine a 400G e 800G. Tomahawk 5 gli spine (Edgecore AIS800-64D, UfiSpace S9321-64E) erogano 51,2 Tbps / 64 × 800G; Tomahawk 4 leaves run 400G / 25.6 Tbps with on-chip buffering; Trident 4 covers smaller 100G/400G fabrics. Reference designs cover rail-only, rail-optimized, and 3-stage Clos topologies for large multi-thousand-GPU clusters: see the Approfondimento topologie AI fabric.
OcNOS-DC supporta automazione e telemetria per le operazioni di AI fabric?
Sì. DCBX automatizza la configurazione RoCEv2 server-verso-switch, ZTP (IPv4/IPv6) gestisce l'onboarding zero-touch, e gNMI trasmette in streaming la telemetria on-change su OpenConfig YANG. Le pause PFC, il marking ECN, le soglie DCQCN e le profondità di buffer sono percorsi di sensore gNMI consumabili da Prometheus, InfluxDB, Telegraf, Grafana o qualsiasi pipeline OpenTelemetry. I playbook Ansible coprono da Day-0 a Day-2, con un provider Terraform nella roadmap. IP Maestro, un sistema di gestione degli elementi per OcNOS, gestisce topologia, guasti, configurazione e immagini software su NETCONF, e gestisce grandi flotte multi-sito da un'unica console.
Quale hardware di switch e quali ottiche 800G supporta l'AI fabric OcNOS?
The fabric runs on validated Broadcom Tomahawk 4 and 5 switches from Edgecore and UfiSpace. The 800G spines (Edgecore AIS800-64D and UfiSpace S9321-64E, Tomahawk 5, 64 x 800G QSFP-DD800, 51.2 Tbps) break out to 400G, 200G, and 100G; the 400G leaf (Edgecore AS9736-64D, Tomahawk 4, 64 x 400G QSFP56-DD, 25.6 Tbps with on-chip buffering) breaks out to 100G and 25G. Optics have proven interoperability from multiple vendors, so contact us for the transceiver list for your build. The switch platforms are listed in the HCL.
Chi fornisce il supporto per l'AI fabric e l'hardware e coperto anche?
Un unico contratto IP Infusion copre insieme il software OcNOS-DC e l'hardware degli switch validati, quindi c'e un solo TAC e un solo SLA. Il supporto e articolato in livelli: Standard include TAC via email, telefono in orario lavorativo e coordinamento delle RMA hardware con risposta P1 entro 8 ore; Premium aggiunge un portale di supporto clienti 24/7 e una risposta P1 entro 2 ore; Enterprise aggiunge una risposta P1 entro 30 minuti e un Customer Success Manager. Il portale 24/7 e disponibile nei livelli Premium ed Enterprise.
AI fabric

Design the whole AI fabric with OcNOS

From the business case to the port-count maths, pick up wherever you are in the build.