面向 neocloud 的网络：用一张 fabric 承载 AI 训练与推理

neocloud 是一种以 AI 为先的云服务商，围绕用于训练与推理的高密度 GPU 算力构建，而非传统超大规模云的通用服务。neocloud 靠加速器的原始性能、扩展速度和成本竞争，因此承载 GPU 流量的网络是其经济性的核心，而非事后考虑。

两者都有部署，而随着 800G 的到来，行业正走向以太网。基于 RoCEv2 的以太网在开放的商用芯片上承载 GPU 集合通信流量，因此 neocloud 无需单一厂商技术栈即可获得无损 AI fabric。OcNOS 在经过验证的开放硬件上运行完整的 RoCEv2 工具集，包括 priority flow control、ECN 和自适应负载均衡。

训练与推理是相反的工作负载：训练集中且吃带宽，推理分散、突发且对时延敏感。建两张独立网络会让资本与运营成本翻倍。把两者放在一张 OcNOS fabric、一个控制平面上运行，能让 neocloud 用同一套基础设施承载训练和每一个推理工作负载，运营利润率正是在这里得到改善。

有些运营商会刻意分离训练与推理，而且理由充分：租户之间的严格隔离、不同团队各自的运维域、明确的性能边界，或已经承载训练的现有 InfiniBand 孤岛。OcNOS 两种方式都能运行。关键在于，分离应当是有意为之的设计选择，而不是架构强加给你的成本。当同一个团队能够在一个控制平面上运行这两种工作负载时，按角色规划并授权的一张 fabric，才是守住利润率的默认选择。

推理分散在众多区域和边缘站点，能快速伸缩，并要守住严格的时延目标，因此网络需要弹性容量、每一层的冗余，以及站点之间的低时延传输。IP Infusion 覆盖整条路径：数据中心 fabric、站点之间的传输与 IP over DWDM，以及用于保障的 IP Maestro。

neocloud 从多厂商供应链按各自独立的周期采购交换机和软件，因此在硬件、软件或交付周期上都不被单一厂商绑定。运行在开放商用芯片交换机上的 OcNOS，以低于专有平台的硬件成本承载 AI fabric，而软件与支持仍由一家厂商在一份合同下负责。