Roadmap de OcNOS 7.1 · Extremo a extremo · Superpuesto sobre DLB

Global Load Balancing: enrutamiento adaptativo en toda la fabric

DLB toma la decisión correcta en un salto; GLB toma la decisión correcta en toda la fabric. En el roadmap de OcNOS 7.1, el Global Load Balancing extiende el enrutamiento adaptativo de una vista por puerto a la calidad de ruta extremo a extremo, cerrando la brecha de puntos calientes multi-salto en fabrics de IA Clos de 3 etapas hasta el techo de 16.384 GPU. GLB se superpone sobre DLB en lugar de reemplazarlo.

OcNOS 7.1Versión objetivo de GLB
End-to-endpuntuación de ruta, no salto local
16,384techo de GPU, diseño de referencia
Superpuesto sobre DLBextiende, nunca reemplaza
Telemetría de ruta extremo a extremo

Puntuando toda la ruta, no solo el salto local

Un segmento de Clos de 3 etapas (leaf, spine, super-spine) transportando AllReduce de GPU. Cada nivel transmite telemetría de ocupación de cola y utilización de enlace de vuelta hacia los leaves de ingreso. GLB elige la ruta con la mejor puntuación extremo a extremo, no la mejor puntuación de salida local, de modo que un enlace ascendente limpio que aterriza en un enlace descendente congestionado ya no se elige a ciegas.

Balanceo de carga global en un fabric de AI Clos de 3 etapas Fabric de IA Clos de tres etapas. Dos super-spines arriba, cuatro spines en el medio, dos leaves abajo. Las flechas de telemetría fluyen hacia arriba y de vuelta hacia abajo para que el leaf de ingreso vea la calidad de ruta de extremo a extremo. Un enlace de spine a super-spine está congestionado y se evita en favor de una ruta alternativa de extremo a extremo. telemetría de extremo a extremo Super-Spine-1TH5 · 51.2T Super-Spine-2TH5 · 51.2T Spine-1e2e ok Spine-2e2e ok Spine-3uplink saturado Spine-4e2e ok Leaf de ingresoGLB · ranks paths Leaf de egresorack objetivo GLB · END-TO-END PATH SCORING · MULTI-HOP CONGESTION AWARENESS · OcNOS 7.1
Donde falla la vista local

DLB y GLB, por alcance de la decisión de ruta

DLB puntúa cada siguiente salto ECMP usando la profundidad de cola de salida local, lo cual es óptimo en un leaf-spine de 2 niveles. Escale a un Clos de 3 niveles y puede elegir un spine con un enlace ascendente limpio, solo para aterrizar en un super-spine cuyo enlace descendente de vuelta al leaf de salida está congestionado. La vista local es correcta; la vista extremo a extremo es errónea. En fabrics de 1.024 GPU y mayores, donde el Clos de 3 etapas con super-spines se vuelve estándar, esta es la fuente dominante restante de valores atípicos de latencia de cola.

Axis DLBlocal, disponible hoy GLBglobal, roadmap de OcNOS 7.1
Alcance de la decisiónPor salto: cada switch clasifica sus propios siguientes saltos ECMP.Extremo a extremo: los leaves de ingreso clasifican rutas completas de leaf a leaf.
Signal usedProfundidad de cola de salida local y utilización de enlace en este switch.Telemetría de congestión agregada de cada nivel, de vuelta al ingreso.
Mejor opciónFabrics de 2 etapas y el salto de leaf a spine en las de 3 etapas.Clos de 3 etapas con super-spines, hasta el techo de 16.384 GPU.
Punto caliente detectadoSolo congestión de salida local.Puntos calientes aguas abajo que el salto local no puede ver.
RebindingAlineado con flowlet, en orden para RoCEv2 y TCP.Alineado con flowlet, la misma garantía de orden, con entrada de toda la fabric.
HardwareTH4 y TH5 hoy.El mismo hardware TH4 y TH5, sin silicio nuevo.
RelationshipDecisión independiente en cada switch.Se superpone sobre DLB; no lo reemplaza.
Cómo lo cierra GLB

Una decisión, informada por toda la fabric

GLB reutiliza la maquinaria de enrutamiento adaptativo que los operadores ya ejecutan y añade conciencia de toda la fabric por encima. Se construye directamente sobre DLB y RoCEv2, y se mantiene alineado con hacia dónde se dirige Ultra Ethernet.

Builds on

La decisión de DLB

GLB extiende la DLB decisión de flowlet en lugar de reemplazarla. Las fabrics mixtas funcionan correctamente: los switches sin GLB simplemente aportan calidad de ruta solo local durante una actualización progresiva.

Runs over

Una fabric RoCEv2 sin pérdidas

GLB reasigna en las fronteras de flowlet, preservando la entrega en orden que RoCEv2 RDMA necesita. El transporte se mantiene con grado de producción; solo la entrada de ruta se vuelve más inteligente.

Alineado con

señalización de Ultra Ethernet

El plano de calidad de ruta se está diseñando para interoperar con la Ultra Ethernet señalización del consorcio a medida que maduran los ecosistemas de NIC UEC, de modo que el roadmap se mantiene compatible hacia adelante.

Dentro de OcNOS 7.1

Cómo encaja la implementación planificada de GLB

GLB se habilita mediante OcNOS como sistema operativo de red sobre hardware abierto basado en Broadcom. El diseño mantiene tranquilo el plano de control y da a los operadores la telemetría que necesitan para confiar en las decisiones de la fabric.

Plano de telemetría

Publicación de calidad de ruta

Cada spine y super-spine publica deltas de ocupación de cola y de utilización por puerto a una adyacencia de toda la fabric. Las actualizaciones son de submilisegundos sobre la señalización in-band existente, sin charla adicional en el plano de control.

Puntuación de ruta

Agregación de extremo a extremo

Los leaves de ingreso combinan la calidad de salida local con la telemetría aguas abajo en una puntuación agregada por ruta candidata. El peor salto domina la puntuación, la misma intuición que usan los operadores al diagnosticar.

Selection

Flowlet-aligned

Al igual que DLB, GLB reasigna en los límites de flowlet, preservando la entrega en orden para RoCEv2 y TCP. La diferencia está en lo que alimenta la decisión: la calidad de toda la fabric, no la calidad del puerto local.

Backwards-compatible

Superpuesto sobre DLB

GLB extiende la decisión de DLB; no la reemplaza. Las fabrics mixtas con switches con capacidad GLB y solo DLB se comportan correctamente, de modo que las actualizaciones brownfield desde 7.0 son seguras.

Scale

Hasta el techo de 16k GPU

Los diseños de referencia usan 256 switches de spine y 128 switches de super-spine, cada uno un Tomahawk 5 64x800G, dimensionados al techo arquitectónico de 16.384 GPU.

Telemetría de salida

gNMI para el equipo de operaciones

Las puntuaciones por ruta, los eventos de reasignación y la atribución del peor salto se transmiten sobre gNMI y OpenConfig, de modo que los SRE pueden correlacionar las decisiones de la fabric con el comportamiento de los trabajos colectivos xCCL sin una caja negra.

Hoja de ruta y disponibilidad

Qué esperar cuando llegue GLB

GLB está en el roadmap de OcNOS 7.1. Apunta al mismo hardware y licenciamiento que los operadores ya ejecutan, de modo que adoptarlo es una actualización y no un reemplazo completo.

  • Roadmap de OcNOS 7.1. GLB apunta al tren OcNOS-DC 7.1, sobre el mismo hardware TH4 y TH5 que ejecuta DLB hoy. Calendario y alcance de funcionalidades en el Página de versiones de OcNOS.
  • Mismo SKU. Planificado para OcNOS-DC PLUS: sin muro de pago por funcionalidad, sin nuevas claves de licencia al momento de actualizar.
  • Actualización in situ. La actualización brownfield de 7.0 a 7.1 es compatible; los fabrics de versiones mixtas siguen funcionando con comportamiento solo DLB durante la ventana de actualización.
  • UEC-aligned. El plano de calidad de ruta se está diseñando para interoperar con la señalización del Ultra Ethernet Consortium una vez que maduren los ecosistemas de NIC UEC. Vea Ultra Ethernet (UEC).
  • Revisión de arquitectura disponible. Si está dimensionando una fabric de más de 1.000 GPU, ejecutaremos un ejercicio de dimensionamiento que incluye el plano de telemetría de GLB. Obtenga un primer trazado leaf-spine con el AI Fabric Design Suite.
La perspectiva de IP Infusion

DLB es el suelo hoy, GLB sube el techo a continuación

El enrutamiento adaptativo ya está resolviendo latencia de cola real a escala de 2 niveles. GLB lleva esa misma disciplina a las fabrics de 3 etapas donde viven los clústeres más grandes, sobre hardware abierto que usted ya valida.

DLB resuelve el caso común

En el leaf-spine de 2 niveles y en el salto de leaf a spine, el enrutamiento adaptativo local ya elimina la mayoría de las colisiones de ECMP. Eso está disponible hoy sobre TH4 y TH5.

GLB resuelve el caso de escala

A partir de 1.024 GPU, los puntos calientes multi-salto se vuelven el valor atípico dominante. GLB puntúa rutas completas de modo que el leaf de ingreso deja de perseguir un enlace ascendente limpio hacia un enlace descendente congestionado.

OcNOS es el habilitador

Un solo NOS, un solo roadmap de funcionalidades: DLB hoy, GLB a continuación, RoCEv2 y alineado con UEC en todo momento, sobre hardware abierto validado en lugar de una fabric de un solo proveedor.

Preguntas frecuentes

Global Load Balancing, respondido

¿En qué se diferencia GLB de DLB?
DLB puntúa cada salto siguiente a partir de la profundidad de la cola de salida local de un único conmutador, lo que resulta óptimo en un leaf-spine de dos niveles. GLB agrega la telemetría de congestión de todos los niveles, de modo que los leaf de entrada clasifican las rutas leaf-a-leaf completas y detectan los puntos calientes aguas abajo que la vista local no percibe en los fabrics Clos de tres etapas.
¿Cuándo estará disponible GLB?
GLB está en el roadmap de OcNOS 7.1, apuntando al tren OcNOS-DC, sobre el mismo hardware Tomahawk 4 y 5 que ejecuta DLB hoy. Está planificado para el SKU OcNOS-DC PLUS sin nuevas claves de licencia al momento de actualizar.
¿Tengo que reemplazar el DLB para usar el GLB?
No. GLB se superpone a la decisión de DLB en lugar de sustituirla. Las fabrics mixtas funcionan correctamente: los conmutadores que no admiten GLB aportan simplemente calidad de ruta de ámbito local, y se admiten las actualizaciones brownfield desde la 7.0.
¿Qué tamaño de fabric admite GLB?
Los diseños de referencia usan 256 switches de spine y 128 switches de super-spine, cada uno un Tomahawk 5 64x800G, dimensionados al techo arquitectónico de 16.384 GPU.

¿Dimensionando una fabric de varios miles de GPU? Hagamos los números juntos

Díganos la carga de trabajo y la escala de GPU, y un ingeniero de IP Infusion dimensionará el plano de telemetría de GLB con usted, o empiece con un primer trazado leaf-spine en el AI fabric design suite.