什麼是 AI Fabric？
AI fabric 是 GPU 後端（scale-out）網路，在分散式訓練與推論期間承載 GPU 之間的 RDMA 流量。 它使用葉交換機和脊交換機，以軌道最佳化和 Clos 拓撲連接跨伺服器和 pod 的每一個 GPU NIC，並執行無損 Ethernet 傳輸（帶 PFC 和 ECN 的 RoCEv2），確保負載下不丟包。由於 GPU 以同步的集合通信交換資料，網路的尾部時延決定作業完成時間。這裡取的是網路意義，而非資料管理中所說的企業級「資料編織」。OcNOS-DC 在 Broadcom Tomahawk 5 硬體上提供這種網路。
網路意義，而非「data fabric」
兩個不同領域使用「fabric」這個詞。data fabric 是一種用於在整個企業內統一與治理資料的軟體架構。而 AI fabric，也就是本頁的主題，是一個實體網路：搬移 GPU 之間 RDMA 流量的佈線、交換器與傳輸。當 AI 基礎設施團隊說「fabric 是瓶頸」時，他們指的正是這個網路，也就是決定訓練作業耗時多久的那一個。
- 資料 fabric。 一種用於跨系統統一與治理資料的企業資料管理架構。是軟體，而非佈線。
- AI 網路。 在訓練與推論期間承載 GPU 之間 RDMA 的實體 GPU 後端網路。本頁談的就是這個含義。
- 為何重要。 AI fabric 是決定作業完成時間的那一個，因此它經過工程設計以維持無損且負載均勻。
Rail、Clos，以及一種不會丟棄封包的傳輸
AI fabric 是針對一種流量模式調校的 leaf-spine（Clos）網路：許多 GPU 同時彼此傳送大型資料流。三項設計選擇定義了它，而每一項都是為了保護作業完成時間而存在。
rail 最佳化，先雙層再三層
GPU 伺服器的 8 個 NIC 各自連接到自己的 專屬 rail leaf，因此佔主導的同 rail AllReduce 流量留在一台 leaf 上。超出 4,096 個 GPU 的單個 pod 後，同樣的 rail 最佳化設計增加第三層：leaf、spine 和 super-spine。
無損 RoCEv2
GPU 以 RDMA 搬移資料，而 RDMA 在封包被丟棄時表現不佳。 PFC 可防止交換器佇列溢位，而 ECN 會提早標記封包，使傳送端 NIC 在丟包發生前先降速。這個組合在乙太網路上承載 RoCEv2。
為何必須無損
OcNOS-DC 為此 fabric 提供 PFC（含 L3 上 PFC）、ECN、Dynamic ECN、WRED，以及動態負載平衡以維持每條路徑負載均勻，因為尾端資料流決定整個作業何時完成。
乙太網路已足夠，而交換器決定上限
AI fabric 如今是乙太網路。它能達到的規模，取決於其底層的交換器晶片以及你所設計的 GPU 數量。
- 乙太網路已足夠。 搭配 PFC 與 ECN 的 RoCEv2 可在標準的多廠商硬體上提供無損 RDMA。Meta 已公開一個建構於乙太網路上、含 24,576 個 GPU 的訓練叢集。
- 交換器決定上限。 OcNOS-DC 運行於 Broadcom Tomahawk 5（51.2 Tbps，64x800G）平台，例如 Edgecore AIS800-64D 與 UfiSpace S9321-64E，正是 800G GPU fabric 所需的密度。
- 依 GPU 數量設計。 Tomahawk 5 上的 rail 最佳化兩層 pod 最多支援 4,096 個 GPU，再加入第三層 super-spine 最多可達 16,384 個 GPU。
什麼是 AI Fabric 常見問題
什麼是AI組網？
AI fabric 與 data fabric 相同嗎？
為何 AI fabric 決定作業完成時間？
我需要 InfiniBand 嗎，還是乙太網路對 AI fabric 就已足夠？
以 OcNOS 設計整套 AI 網狀架構
從商業論證到埠數計算，無論您的建置進行到哪個階段，都能從此接續。
深入了解，隨身帶走。
兩份簡短的技術下載，比本頁更深入：完整的 OcNOS-DC 資料表，以及無損 800G AI fabric 架構。
OcNOS-DC 規格書
表單簡短。提交後您的 PDF 將立即在新標籤頁中打開。
✓ 正在新標籤頁中打開您的 PDF……
如果未能自動打開，請使用下方連結。
OcNOS 800G 無損 AI Fabric
表單簡短。提交後您的 PDF 將立即在新標籤頁中打開。
✓ 正在新標籤頁中打開您的 PDF……
如果未能自動打開，請使用下方連結。