UEC 1.0 · 封包散播 · UET

Ultra Ethernet:適用於 AI Fabric 的 UEC 1.0

Ultra Ethernet 是在標準乙太網路上實現 InfiniBand 等級 AI 網路的開放、多供應商之路。 2025 年 6 月發布的 UEC 1.0 規範定義了 Ultra Ethernet Transport(UET),具備封包噴灑、多路徑 RDMA、亂序交付、選擇性重傳,以及基於發送端和接收端的擁塞控制。它不需要無損 PFC fabric。IP Infusion 是 Ultra Ethernet Consortium 的成員,OcNOS-DC 如今已在生產環境中執行帶 DLB 的無損 RoCEv2 AI fabric。

2025 年 6 月UEC 1.0 規格
RoCEv2目前的 OcNOS-DC 無損 fabric
最高 800GTomahawk 5 上的 OcNOS-DC
600+OcNOS 上的電信業者網路

跨每一條路徑的封包散播

兩顆 GPU 之間的單一 RDMA 訊息會逐封包同時散播到全部四條脊路徑上。網狀架構容許亂序抵達,而目的端的 UEC NIC 會按序重組。沒有流量綁定、沒有雜湊衝突、沒有閒置的上行鏈路。

跨 4 個 spine 網路的 Ultra Ethernet 報文噴灑 兩個 GPU 通過兩台葉交換機和四台脊交換機相連。一條 RDMA 消息被拆分為四個資料包,同時通過全部四條脊路徑發送。在接收端 NIC,資料包亂序到達,在交付給 GPU 之前按順序重組。底部列出 UEC 特性:包噴灑、多路徑 RDMA、亂序交付、NIC 重組。 P1 P2 P3 P4 Spine-1UEC 網路架構 Spine-2UEC 網路架構 Spine-3UEC 網路架構 Spine-4UEC 網路架構 Leaf-1Ethernet Leaf-2Ethernet GPU-AUEC NIC GPU-B重組 UEC 1.0 · 包噴灑 · 多路徑 RDMA · 亂序交付 · NIC 重組

Ultra Ethernet Transport 增添了什麼

RoCEv2 可行,但它承襲了一些較早期的設計限制:每條流量只有一條雜湊路徑、全網範圍的 PFC 暫停,以及以視窗重啟方式進行的封包遺失復原。UEC 1.0 規格保留可向任何廠商採購的標準實體乙太網路,並以專為大型 AI 與 HPC 作業打造的傳輸協定(UET)取代上層協定。

路徑利用

封包散播

單一訊息會被散播至 每一條可用路徑 並同時進行。沒有流量綁定、沒有 ECMP 衝突,因此在集合通訊期間,網狀架構的使用率趨近理論上限。

RDMA

多路徑 RDMA

RDMA 承載於 多條並行路徑 之上而非單一路徑,因此大型傳輸不再受限於單一雜湊鏈路的頻寬。

交付

亂序交付

網狀架構被允許重新排序。 UEC NIC 按序重組 在遞送之前完成,因此應用程式與 GPU 從不會看到亂序。

恢復

選擇性重傳

遺失的封包會被復原 有選擇地 而非重啟 RDMA 視窗,從而大幅降低任何網狀架構內遺失所帶來的尾端延遲代價。

控制

現代擁塞控制

兩者兼具 以發送端與接收端為基礎的 機制取代粗略的 PFC 暫停成為主要工具。UET 不需要無損的 PFC 網狀架構;暫停成為後備防線,而非第一線。

生態系統

開放且多供應商

UET 執行於 來自任何供應商的標準乙太網路。該聯盟成員涵蓋晶片、NIC、交換器和雲端運算企業,並公開發布規範。

UEC、RoCEv2 與 InfiniBand,逐項比較

如今多數正式環境的 AI 網狀架構是以 RoCEv2 運行。隨著支援 UEC 的 NIC 出貨,Ultra Ethernet 是以標準為基礎的前進道路,而 InfiniBand 仍是單一供應商的專門選擇。哪一項重要,取決於工作負載與時程。

維度 RoCEv2乙太網路,現今 Ultra EthernetUET,開放多供應商 InfiniBand單一廠商
路徑利用每條流量僅有一條雜湊 ECMP 路徑;並行路徑可能閒置。跨每一條可用路徑並行進行封包散播。自適應路由已內置於規範中。
遺失處理透過 PFC + ECN + DCQCN 達成無損;仰賴全網路範圍的暫停。容許遺失與重新排序;不需要無損的 PFC 網狀架構。透過以額度為基礎的流量控制達成無損。
重排序僅支援按序遞送。亂序遞送,於 NIC 端按序重組。按序遞送。
重傳以視窗為基礎的復原會增加尾端延遲負擔。僅對遺失的封包進行選擇性重傳。鏈路層級的復原。
壅塞控制搭配 ECN 標記的 DCQCN。在端點同時採用以發送端與接收端為基礎的控制。在鏈路上以額度為基礎。
生態系統每一層皆為多供應商乙太網路。開放、多供應商;任何供應商皆可依 UEC 1.0 規格建構。在 NIC 與交換晶片方面實質上為單一供應商。
OcNOS-DC 狀態如今已在 Tomahawk 4 / Tomahawk 5 上進入正式環境。IP Infusion 是 UEC 成員;OcNOS-DC 如今已在生產環境中執行 RoCEv2。不適用;獨立的網狀架構與工具。

OcNOS-DC 目前在 AI fabric 中執行的能力

OcNOS-DC 目前已在 Broadcom Tomahawk 4 與 Tomahawk 5 交換器上,以 PFC、ECN 與 DLB 運行生產環境中的無損 RoCEv2 fabric。IP Infusion 是 Ultra Ethernet Consortium 的成員。

傳輸

無損 RoCEv2

PFC 在緩衝區溢位前依優先權暫停流量,ECN 則提早標記封包。

路徑利用

動態負載平衡

DLB 讀取即時 ASIC 佇列深度,將 flowlet 重新綁定到負載較輕的路徑,讓大型流量不再於同一條上行鏈路上碰撞。

硬體

Tomahawk 4 / 5 晶片

執行於 Edgecore 和 UfiSpace 的 Broadcom Tomahawk 4(25.6T)與 Tomahawk 5(51.2T)開放交換器。

保護

PFC 死結恢復

逐埠、逐優先權的死鎖偵測可找出暫停佇列形成的環路,並在作業掛起之前排空佇列。

遙測

流式遙測

採用 OpenConfig 模型、透過 gNMI 的串流遙測,可在叢集啟用階段協助調校。

開放硬件

廠商中立路徑

將 OcNOS-DC 與開放硬體搭配,NIC、GPU 與交換器的選擇權留在叢集所有者手中,沒有任何一家廠商獨佔 AI fabric。

現在基於 RoCEv2 建構,隨 NIC 上市規劃 UEC

真實的 fabric 不會一夜之間切換。RoCEv2 如今承載著生產環境的 AI 訓練,而支援 UEC 的 NIC 隨著上市,將為標準乙太網路帶來多路徑傳輸。

  • 現已支持 RoCEv2。 已達生產等級,適用於當前建置的叢集。OcNOS-DC 在 Tomahawk 4 / Tomahawk 5 上提供 RoCEv2。2026 年投入生產的多數 fabric 皆採用 RoCEv2。
  • UEC 隨 NIC 出貨。 支援 UEC 的 NIC 為橫向擴展叢集帶來封包噴灑與選擇性重傳。NIC 廠商由叢集所有者自行選擇。
  • InfiniBand 維持專門定位。 單一廠商的效能,但布線、管理與生態都是獨立的。UEC 將類似的傳輸技術帶到基於標準的多廠商乙太網路。

適用於 AI fabric 的開放乙太網路,如今即可基於 OcNOS-DC 實現

Ultra Ethernet 將多路徑傳輸技術帶到標準的多廠商乙太網路。IP Infusion 是 Ultra Ethernet Consortium 的成員,OcNOS-DC 如今已在生產環境中執行帶 DLB 的無損 RoCEv2。

聯盟成員

IP Infusion 是公開發布 Ultra Ethernet 規範的 Ultra Ethernet Consortium 的成員。

現今即可正式運行的 RoCEv2

OcNOS-DC 現已在 Edgecore 與 UfiSpace 等廠商經過驗證的開放硬體上,提供具備 PFC、ECN 與 DLB 的無損 RoCEv2。

NIC 由您選擇

OcNOS-DC 執行於開放的 Broadcom Tomahawk 4 與 Tomahawk 5 硬體,NIC 與 GPU 的選擇權留給叢集所有者。

Ultra Ethernet,為您解答

什麼是 Ultra Ethernet(UEC)?
Ultra Ethernet 是 Ultra Ethernet Consortium(UEC)制定的開放標準,將乙太網路調適以適用於 AI 與 HPC 工作負載。於 2025 年 6 月發布的 UEC 1.0 規格定義了 Ultra Ethernet Transport(UET):端點跨每一條路徑的封包散播、多路徑 RDMA、於 NIC 端重組的亂序遞送、選擇性重傳,以及發送端與接收端雙方的壅塞控制,使大型訓練與推論作業不再受限於單一路徑雜湊與全網路範圍的暫停。
IP Infusion 是 Ultra Ethernet Consortium 的成員嗎?
是的。IP Infusion 是 Ultra Ethernet Consortium(UEC)的成員,該行業組織負責制定並發布適用於 AI 與 HPC 網路的開放 Ultra Ethernet 規範。
Ultra Ethernet 與 RoCEv2 有何不同?
RoCEv2 將每條流量綁定到一條 ECMP 路徑,並依賴全網路範圍的 PFC 來維持無損。Ultra Ethernet 則將單一訊息並行散播到每一條可用路徑上,於目的端 NIC 按序重組,僅重傳遺失的封包,並在發送端與接收端雙方控制壅塞。UET 不需要無損的 PFC 網狀架構,這降低了對 PFC 暫停的依賴,並降低大型集合通訊的尾端延遲。
OcNOS 現今支援 Ultra Ethernet 嗎?
OcNOS-DC 目前已在 Broadcom Tomahawk 4 與 Tomahawk 5 交換器上,以 PFC、ECN 與 DLB 運行生產環境中的無損 RoCEv2 fabric。Ultra Ethernet 傳輸在支援 UEC 的 NIC 上運行,而 IP Infusion 是 Ultra Ethernet Consortium 的成員。如需規劃 UEC 如何融入特定建置,請與我們聯繫。
我需要新硬體才能使用 Ultra Ethernet 嗎?
Ultra Ethernet 的端點行為(封包噴灑、重組、選擇性重傳)執行於支援 UEC 的 NIC 上。UEC 1.0 規範也涵蓋鏈路與交換器行為,因此 UEC 部署的 fabric 要求取決於 NIC、交換晶片和 NOS 版本。請與 IP Infusion 工程師一起,根據您選擇的 NIC 規劃 fabric 規模。
什麼是封包散播與亂序遞送?
封包散播將一則訊息的封包同時送往所有並行的網狀架構路徑,而非沿單一雜湊路徑向下傳送,因此在集合通訊期間不會有任何鏈路成為熱點。由於封包接著可能亂序抵達,目的端 NIC 會將它們重組回原始順序。兩者共同讓每一條路徑保持忙碌,並縮短一項作業中最慢的傳輸。

正在規劃 AI fabric?讓我們一起設計

告訴我們工作負載與 GPU 規模,IP Infusion 的工程師將與您一同估算葉脊式網狀架構的規模,或者您也可以先在 AI Fabric Design Suite 中初步規劃配置。