Back-end de IA · Almacenamiento · Front-end · DCI coherente

Arquitectura de fabric de centro de datos de IA

Un centro de datos de IA ejecuta cuatro planos de red, no una red plana: una fabric de back-end de IA para los colectivos GPU a GPU, una fabric de almacenamiento, una fabric de front-end y un plano de gestión out-of-band aislado. El DCI coherente extiende el entrenamiento entre sitios, y OcNOS-DC ejecuta cada plano sobre un solo NOS sobre hardware Broadcom Tomahawk validado.

4 planosmás DCI coherente
1 NOSOcNOS-DC en cada plano
hasta 800GTomahawk 5, 64x800G
1 contratoun solo TAC, un solo SLA
Alcance por plano

Diseñe los planos, no solo los switches

La mayoría de los errores de fabric de IA son errores de alcance: los equipos dimensionan el plano de GPU y luego atornillan el almacenamiento, el acceso de tenants y la gestión sobre él como una ocurrencia tardía.

En cambio, separe el tráfico por plano y dé a cada uno la relación de suscripción y el aislamiento que necesita. Solo la fabric de back-end de IA tiene que ser sin bloqueo y sin pérdidas; los otros tres existen para mantener fuera de ella el tráfico que no le corresponde. Los cuatro planos, más los enlaces coherentes que unen los sitios, corren sobre OcNOS-DC y listado en la HCL hardware Tomahawk y Trident.

Las cuatro fabrics

Cada plano tiene un solo trabajo

Dimensione cada plano para su propio trabajo, mantenga su tráfico en sus propios cables, y la fabric se mantiene predecible bajo un entrenamiento completo.

Plano 1

Fabric de back-end de IA

El plano GPU a GPU que transporta los colectivos. Construido sin bloqueo 1:1 como un pod leaf-spine rail-optimized o un Clos de 5 etapas sobre un underlay eBGP de capa 3 pura, y mantenido sin pérdidas con la fabric RoCEv2 que RDMA requiere: PFC (incluido sobre L3, con DCBX/LLDP) y ECN. DLB reparte los flujos de modo que ningún enlace se convierte en un punto caliente durante AllReduce.

Sin bloqueo 1:1 · RoCEv2 (PFC + ECN) · DLB · TH5 800G
Plano 2

Fabric de almacenamiento

Un Clos leaf-spine que mueve checkpoints y datasets entre los racks de GPU y el almacenamiento NVMe-oF o NFS. Típicamente dimensionado cerca de 3:1, ya que las ráfagas de almacenamiento toleran más sobresuscripción que los colectivos, y mantenido sin pérdidas de modo que el tráfico de almacenamiento RDMA no se descarte bajo carga.

Clos leaf-spine · ~3:1 · RDMA sin pérdidas · NVMe-oF / NFS
Plano 3

Fabric de front-end

El plano norte-sur para el acceso de tenants, el servicio de inferencia y la salida hacia el resto del centro de datos e internet. Ejecuta acceso 400G o 800G, dimensionado al tráfico de servicio que transporta en lugar del patrón colectivo del plano de back-end.

Norte-sur · tenant / inferencia · 400G / 800G
Plano 4

Gestión out-of-band

Un plano Clos o MLAG aparte sobre sus propios cables, de modo que la puesta en marcha y la monitorización nunca comparten destino con los planos de datos. Transporta ZTP, SNMP y syslog, y telemetría de streaming gNMI/OpenConfig, y sigue funcionando cuando una fabric de plano de datos se está reconfigurando.

Plano aislado · ZTP · SNMP / syslog · telemetría gNMI
Arquitectura de referencia

Cuatro fabrics más DCI, sobre un solo NOS

Un centro de datos, cuatro planos, extendido a un segundo sitio sobre óptica coherente. El plano de back-end de IA es sin bloqueo 1:1; el almacenamiento, el front-end y la gestión corren cada uno a la relación que su tráfico necesita. Cada plano corre OcNOS-DC, y el enlace DCI ZR+ escala el entrenamiento entre sitios sin transpondedores externos.

Arquitectura de fabric de centro de datos de IA: cuatro planos más DCI coherente hacia un segundo sitio Un único centro de datos de IA representado como cuatro planos de red apilados: un fabric back-end de IA (1:1 sin bloqueo, RoCEv2 sin pérdidas, DLB), un fabric de almacenamiento (aproximadamente 3:1, NVMe-oF y NFS), un fabric front-end (400G y 800G norte-sur) y un plano de gestión fuera de banda aislado (ZTP, SNMP, syslog, telemetría gNMI). Los cuatro planos ejecutan OcNOS-DC. Un enlace DCI coherente ZR y ZR+ de 400G/800G conecta el sitio con un segundo centro de datos; 400ZR cubre distancias metropolitanas de hasta unos 120 km, y OpenZR+ llega más lejos. Banda inferior: un único NOS para el back-end de IA, el almacenamiento, el front-end, la gestión fuera de banda y el DCI coherente. CENTRO DE DATOS A · OcNOS-DC Fabric de back-end de IA Colectivas de GPU · rail-optimized / Clos 1:1 sin bloqueo · RoCEv2 · DLB Fabric de almacenamiento checkpoints / datasets · RDMA sin pérdidas ~3:1 · NVMe-oF / NFS Fabric de front-end norte-sur · tenant / inferencia 400G / 800G Gestión fuera de banda ZTP · SNMP / syslog · telemetría plano aislado · gNMI CENTRO DE DATOS B Fabric de back-end de IA 1:1 sin bloqueo · RoCEv2 Almacenamiento + front-end ~3:1 · 400G / 800G Gestión fuera de banda ZR+ DCI ZR / ZR+ COHERENTE 400G / 800G · 400ZR HASTA ~120 KM · MÁS LEJOS CON OPENZR+ (oFEC) UN SOLO NOS · OcNOS-DC · BACK-END DE IA · ALMACENAMIENTO · FRONT-END · OOB · DCI COHERENTE

Componentes de OcNOS: un underlay enrutado eBGP-unnumbered por plano (el back-end de IA es capa 3 eBGP pura, con EVPN-VXLAN mantenido como overlay de tenant en lugar del underlay de IA), RoCEv2 sin pérdidas (PFC + ECN, PFC sobre L3 con DCBX/LLDP) y DLB en los planos de back-end y almacenamiento, un plano de gestión aislado para ZTP y telemetría gNMI, y óptica coherente 400G/800G ZR y ZR+ para DCI en los AIS800-64D, S9321-64E y AS9736-64D. Los planos de back-end se construyen sobre hardware Tomahawk 5 (Edgecore AIS800-64D, UfiSpace S9321-64E / 64EO) y Tomahawk 4 (Edgecore AS9736-64D) listado en la HCL; el plano de gestión ejecuta la imagen OcNOS-DC MGMT en switches Trident 3.

Escale entre sitios

DCI coherente, sin transpondedores externos

Cuando un único entrenamiento supera una sala de datos, la fabric se extiende por la WAN sobre óptica coherente enchufable 400G y 800G ZR+, directamente desde un puerto de borde.

En OcNOS-DC, la óptica 800G ZR, OpenZR y ZR+ funciona en los Tomahawk 5 Edgecore AIS800-64D y UfiSpace S9321-64E, y la óptica 400G ZR y OpenZR+ en el Tomahawk 4 Edgecore AS9736-64D. 400ZR cubre distancias metropolitanas de hasta unos 120 km, y OpenZR+ con oFEC llega más lejos, mientras cada sitio conserva su propia fabric leaf-spine sin cambios. Vea el DCI coherente análisis a fondo para el detalle de óptica y alcance.

El silicio

Qué hardware ejecuta cada plano

Los planos back-end de IA, almacenamiento y front-end ejecutan OcNOS-DC sobre silicio Broadcom Tomahawk. Los planos 800G y el DCI circulan sobre Tomahawk 5; los planos de entrada y 400G circulan sobre Tomahawk 4. Ambos son switches on-chip de búfer compartido. El plano de gestión fuera de banda ejecuta la imagen OcNOS-DC MGMT en switches Trident 3 de 1G/10G, y cada plataforma está en la Hardware Compatibility List de OcNOS.

Capa de silicio Tomahawk 5Planos 800G + DCI Tomahawk 4planos de entrada + 400G
Componente BroadcomBCM78900BCM56990
Capacidad de switch51,2 Tbps25,6 Tbps
Configuración de puertos64×800G64×400G
BufferBúfer compartido on-chip; listado en la HCL.Búfer compartido on-chip; listado en la HCL.
PlataformasEdgecore AIS800-64D, UfiSpace S9321-64E, UfiSpace S9321-64EO. Óptica 800G ZR, OpenZR y ZR+ en los AIS800-64D y S9321-64E.Edgecore AS9736-64D.
Rol en el diseñoPlanos de back-end de IA y almacenamiento a 800G, más DCI coherente entre sitios.Construcciones de entrada y planos de front-end o gestión 400G.
Un solo NOS, cuatro roles

El poder de un solo NOS

Los cuatro planos y los enlaces DCI no son cuatro productos. Son un solo sistema operativo en cuatro roles: OcNOS-DC ejecuta las fabrics de back-end de IA, almacenamiento, front-end y gestión out-of-band, más el DCI coherente, con un solo modelo de configuración y una sola pila de telemetría sobre gNMI y OpenConfig. El equipo aprende una CLI, una superficie de automatización y un conjunto de contadores para cada plano.

Un solo modelo operativo

El mismo modelo de enrutamiento, QoS y telemetría aplica ya sea que un puerto sea un leaf de back-end de cara a GPU, un leaf de almacenamiento, un borde de front-end o un switch de gestión.

Un contrato de soporte

Un solo contrato de IP Infusion cubre el software y el hardware validado, con un solo TAC y un solo SLA en cada plano. Sin señalarse con el dedo entre un proveedor de NOS y uno de hardware.

Una sola lista de hardware

Cada plano se construye a partir de la misma Hardware Compatibility List de OcNOS, de modo que el soporte, la óptica y el firmware se mantienen consistentes en todo el diseño.

Un solo roadmap en el que crecer

El GLB en toda la fabric está disponible en OcNOS 7.1. En el roadmap: ECN basado en latencia (7.1.0) y LLR, CBFS y packet trimming. El próximo silicio Tomahawk 6 (BCM78910 / BCM78914, 102.4 Tbps, TSMC 3nm) circula sobre el tren OcNOS 7.2 y extiende el mismo diseño a mayor radix. Construya el plano de telemetría desde el primer día para que estos lleguen como pasos de software.

Preguntas frecuentes sobre arquitectura de fabric de IA

¿Qué fabrics componen un centro de datos de IA?
Un centro de datos de IA ejecuta cuatro planos de red. La Fabric de back-end de IA transporta el tráfico colectivo GPU a GPU y es la que tiene que ser sin bloqueo y sin pérdidas. La fabric de almacenamiento mueve checkpoints y datasets hacia y desde los racks de GPU sobre RDMA. La fabric de front-end maneja el acceso norte-sur, de tenants y de inferencia. Un plano de gestión out-of-band aparte pone en marcha los switches y transmite telemetría sobre sus propios cables. El DCI coherente extiende el diseño entre sitios. OcNOS-DC ejecuta los cuatro planos más el DCI.
¿Qué sobresuscripción debe usar cada fabric?
La fabric de back-end de IA debe ser sin bloqueo 1:1 en el plano de GPU, porque un enlace caliente allí estanca todo el colectivo y cada GPU espera a la transferencia más lenta. La fabric de almacenamiento suele correr una relación de coste optimizado cerca de 3:1, ya que las ráfagas de almacenamiento son menos críticas en latencia que los colectivos. Los planos de front-end y de gestión out-of-band transportan tráfico más ligero y menos en ráfagas y toleran mayor sobresuscripción. Ajuste la relación al tráfico que cada plano realmente transporta.
¿Cómo se conectan dos centros de datos de IA?
Use DCI coherente: ópticas enchufables ZR y ZR+ de 400G y 800G en un puerto de borde, sin transpondedores externos. En OcNOS-DC, las ópticas 800G ZR, OpenZR y ZR+ son compatibles con los Tomahawk 5 Edgecore AIS800-64D y UfiSpace S9321-64E, y las ópticas 400G ZR y OpenZR+ con el Tomahawk 4 Edgecore AS9736-64D. 400ZR cubre distancias DCI metropolitanas de hasta unos 120 km, y OpenZR+ con oFEC llega más lejos. Esto permite que una misma ejecución de entrenamiento abarque más de una sala de centro de datos mientras cada sitio mantiene sin cambios su propio fabric leaf-spine.
¿Puede un solo NOS ejecutar todas las fabrics?
Sí. OcNOS-DC ejecuta las fabrics de back-end de IA, almacenamiento, front-end y gestión out-of-band, más el DCI coherente, sobre el mismo sistema operativo. Eso significa un solo modelo de configuración, una sola pila de telemetría sobre gNMI y OpenConfig, y un solo contrato de soporte de IP Infusion que cubre el software y el hardware validado, con un solo TAC y un solo SLA en cada plano del diseño.
¿Qué hardware ejecuta cada plano?
Los planos de back-end de IA, almacenamiento y front-end ejecutan OcNOS-DC sobre silicio Broadcom Tomahawk. Los planos de 800G usan Tomahawk 5 (BCM78900, 51,2 Tbps, 64×800G): Edgecore AIS800-64D, UfiSpace S9321-64E o UfiSpace S9321-64EO. Los planos de entrada y de 400G usan Tomahawk 4 (BCM56990, 25,6 Tbps, 64×400G), como el Edgecore AS9736-64D. Son switches con búfer compartido en el chip. El plano de gestión fuera de banda ejecuta la imagen OcNOS-DC MGMT en switches Trident 3 de 1G/10G, como el Edgecore AS4625-54T. Todas las plataformas figuran en la Lista de compatibilidad de hardware de OcNOS.

¿Diseñando el centro de datos de IA completo? Planificaremos cada plano con usted.

Díganos la escala de GPU y la carga de trabajo, y un ingeniero de IP Infusion dimensionará los planos de back-end, almacenamiento, front-end, gestión y DCI con usted, o empiece con un primer trazado en el AI Fabric Design Suite.