Llega con OcNOS 7.1 · De extremo a extremo

Global Load Balancing: selección de ruta en toda la fabric

DLB toma la decisión correcta en un salto; GLB toma la decisión correcta en toda la fabric. Global Load Balancing, previsto en OcNOS 7.1, amplía el balanceo de carga de una vista por puerto a la calidad de ruta de extremo a extremo, cerrando la brecha de puntos calientes multisalto en fabrics de IA de tres niveles hasta el techo de 16.384 GPU.

OcNOS 7.1Versión de GLB
De extremo a extremopuntuación de ruta, no salto local
16.384techo de GPU, diseño de referencia

Puntuando toda la ruta, no solo el salto local

Un segmento de tres niveles (leaf, spine, super-spine) que transporta AllReduce de GPU. GLB elige la ruta con la mejor puntuación de extremo a extremo, no la mejor puntuación de egreso local, de modo que un enlace ascendente limpio que desemboca en un enlace descendente congestionado ya no se elige a ciegas.

Global Load Balancing en un fabric de IA de tres niveles Fabric de IA de tres niveles. Dos super-spines arriba, cuatro spines en el centro, dos leaves abajo. Las flechas de telemetría suben y vuelven a bajar para que el leaf de ingreso vea la calidad de la ruta de extremo a extremo. Un enlace de spine a super-spine está congestionado y se evita en favor de una ruta alternativa de extremo a extremo. telemetría de extremo a extremo Super-Spine-1TH5 · 51.2T Super-Spine-2TH5 · 51.2T Spine-1e2e ok Spine-2e2e ok Spine-3uplink saturado Spine-4e2e ok Leaf de ingresoGLB · clasifica rutas Leaf de egresorack objetivo GLB · PUNTUACIÓN DE RUTAS DE EXTREMO A EXTREMO · CONCIENCIA DE CONGESTIÓN MULTISALTO · OcNOS 7.1

DLB y GLB, por alcance de la decisión de ruta

DLB puntúa cada siguiente salto ECMP según la profundidad de cola de egreso local, lo que es óptimo en un leaf-spine de 2 niveles. Escale a un Clos de 3 niveles y podrá elegir un spine con un enlace ascendente limpio, solo para llegar a un super-spine cuyo enlace descendente de vuelta al leaf de egreso está congestionado. La vista local es correcta; la vista de extremo a extremo es errónea.

Aspecto DLBlocal, disponible hoy GLBglobal, OcNOS 7.1
Alcance de la decisiónPor salto: cada switch clasifica sus propios siguientes saltos ECMP.Extremo a extremo: los leaves de ingreso clasifican rutas completas de leaf a leaf.
Señal utilizadaProfundidad de cola de salida local y utilización de enlace en este switch.Telemetría de congestión agregada de cada nivel, de vuelta al ingreso.
Mejor opciónFabrics leaf-spine de 2 niveles, y el salto de leaf a spine en un fabric de tres niveles.Fabrics de tres niveles con super-spines, hasta el techo de 16.384 GPU.
Punto caliente detectadoSolo congestión de salida local.Puntos calientes aguas abajo que el salto local no puede ver.
ReasignaciónAlineado con flowlet, en orden para RoCEv2 y TCP.Alineado con flowlet, la misma garantía de orden, con entrada de toda la fabric.

Cómo encaja la implementación de GLB

GLB lo habilita OcNOS como sistema operativo de red sobre hardware abierto basado en Broadcom.

Escala

Hasta el techo de 16k GPU

Los diseños de referencia usan 256 switches de spine y 128 switches de super-spine, cada uno un Tomahawk 5 64x800G, dimensionados al techo arquitectónico de 16.384 GPU.

Qué esperar al adoptar GLB

GLB llega con OcNOS 7.1. Póngase en contacto con IP Infusion para conocer las plataformas compatibles y el licenciamiento.

  • Llega con OcNOS 7.1. Ciclo de vida de versiones y ventanas de soporte en el Página de versiones de OcNOS.
  • Revisión de arquitectura disponible. Si está dimensionando una fabric de más de 1.000 GPU, ejecutaremos un ejercicio de dimensionamiento que incluye el plano de telemetría de GLB. Obtenga un primer trazado leaf-spine con el suite de diseño de fabric de IA.

DLB fija el suelo, GLB sube el techo

El balanceo de carga dinámico ya está reduciendo la latencia de cola a escala de 2 niveles. GLB, previsto en OcNOS 7.1, lleva esa misma disciplina a los fabrics de tres niveles donde operan los clústeres más grandes.

DLB resuelve el caso común

En el leaf-spine de 2 niveles y en el salto de leaf a spine, el balanceo de carga dinámico local ya elimina la mayoría de las colisiones de ECMP. Eso está disponible hoy sobre TH4 y TH5.

GLB resuelve el caso de escala

GLB, previsto en OcNOS 7.1, puntúa rutas completas de modo que el leaf de ingreso deja de perseguir un enlace ascendente limpio hacia un enlace descendente congestionado.

Global Load Balancing, respondido

¿En qué se diferencia GLB de DLB?
DLB puntúa cada next-hop usando la profundidad de cola de salida local en un switch, lo que es óptimo en un leaf-spine de 2 niveles. GLB agrega la telemetría de congestión de cada nivel para que los leaves de ingreso clasifiquen rutas completas de leaf a leaf, detectando los puntos calientes aguas abajo que la vista local no ve en fabrics de tres niveles.
¿Cuándo estará disponible GLB?
GLB llega con OcNOS 7.1. Póngase en contacto con IP Infusion para conocer las plataformas compatibles y el licenciamiento.
¿Qué tamaño de fabric admite GLB?
Los diseños de referencia usan 256 switches de spine y 128 switches de super-spine, cada uno un Tomahawk 5 64x800G, dimensionados al techo arquitectónico de 16.384 GPU.

¿Dimensionando una fabric de varios miles de GPU? Hagamos los números juntos

Díganos la carga de trabajo y la escala de GPU, y un ingeniero de IP Infusion dimensionará el plano de telemetría de GLB con usted, o empiece con un primer trazado leaf-spine en el AI fabric design suite.