什麼是 AI 網路交換器？

• 埠速率與容量。 GPU NIC 以 400G 和 800G 接入，交換器埠必須與之匹配。51.2 Tbps 交換器提供 64 個 800G 埠；25.6 Tbps 交換器提供 64 個 400G 埠。
• 埠基數（Radix）。 每台交換器的埠數決定一個 leaf 能服務多少 GPU、一個 spine 能連接多少 leaf，進而決定 fabric 需要多少層。層級越少，跳數、光模組和功耗就越少。
• 無損傳輸。 GPU 之間透過融合乙太網路上的 RDMA（RoCEv2）交換資料，一旦丟包，效能會急劇下降。交換器需要優先順序流量控制（PFC）在佇列溢出前暫停該佇列，並需要明確壅塞通知（ECN）儘早提醒傳送端，與 NIC 上的 DCQCN 壅塞控制協同工作。
• 負載均勻。 AllReduce 等集合通訊操作會產生少量非常大的資料流。靜態雜湊可能將其中兩條放到同一鏈路上，而另一條鏈路卻處於閒置。 動態負載平衡 將流量轉移到負載較低的路徑。
• 可見度。 流式遙測 即時報告佇列深度、PFC 暫停和 ECN 標記，使維運人員能夠找到拖慢作業的那條鏈路。

• 這些是算術上限， 而非產品規模資料。實際設計會受到超額訂閱、每台伺服器的 rail 數、光模組傳輸距離和機架功率的影響。
• 在相同埠基數下，800G 可在不增加層級的情況下使每個 GPU 的頻寬翻倍。這就是圍繞 800G NIC 建構的後端 fabric 採用 51.2 Tbps 交換器的原因。
• IP Infusion 參考設計 適用於 rail 最佳化雙層和三層 fabric，按實際埠數量規劃，詳見 AI fabric 拓撲。設計之間如何取捨，請參閱 如何選擇 AI 網路 fabric.

您將獲得

• 硬體選擇。 OcNOS-DC 執行於多家硬體製造商的交換器，因此每個平面都可以按容量、光模組和交付週期進行選擇。
• 跨平面統一 NOS。 後端、儲存、前端和管理網路執行同一個作業系統、同一套 CLI 和同一種自動化模型。
• 標準乙太網路。 RoCEv2 fabric 使用與資料中心其餘部分相同的光模組、佈線和工具，GPU NIC 可以獨立於交換器進行選擇。
• 通往新晶片的路徑。 從 25.6 Tbps 升級到 51.2 Tbps 更換的是交換器，而不是維運模式。

提出的要求

• 整合。 只有當交換器緩衝區、PFC、ECN 和 NIC 的壅塞控制協同調校時，無損乙太網路才能正常工作。必須有人完成這項調校並對其負責。
• 支援模式。 當硬體和軟體來自不同公司時，一旦故障跨越兩者邊界，營運方需要一個明確的負責方。
• 驗證負擔。 光模組、纜線、NIC 韌體和 NOS 版本都會隨時間變化，每種組合都需要在投入生產前進行測試。