Inicio · Recursos · Cómo elegir un fabric de red de IA
Guía del comprador neutral respecto a proveedores

Cómo elegir un fabric de red de IA

Sus GPU solo alcanzan su rendimiento nominal si el fabric que tienen debajo está a la altura. Este es un marco neutral respecto a proveedores para puntuar un fabric de IA según los seis criterios que lo deciden, antes de firmar.

¿Cómo se elige un fabric de red de IA? Evalúe a los candidatos según seis criterios: rendimiento sin pérdidas en el plano de GPU (RoCEv2 con PFC, ECN y balanceo de carga dinámico), escala y topología adecuadas para su número de GPU, apertura frente a dependencia de un proveedor, operaciones y telemetría, responsabilidad de soporte bajo un solo contrato y la hoja de ruta de estándares, incluido Ultra Ethernet. Ponga en primer lugar la ausencia de pérdidas, porque protege el rendimiento del entrenamiento, y luego pondere el resto según su plan de crecimiento.

Entienda el fabric como una sola decisión, compuesta por seis

Un fabric de red de IA se compra una vez y se usa durante años, así que puntúelo según cómo encajan seis propiedades con la forma en que operará el clúster, no por una sola cifra destacada. Hay tres tipos de fabric sobre la mesa:

  • Los stacks cerrados de un solo proveedor agrupan la NIC, el switch y el planificador en un solo SKU y fijan los compromisos por usted.
  • Los NOS comunitarios y de código abierto le dan el código, pero dejan la integración y el soporte en sus manos.
  • Los NOS comerciales abiertos mantienen la elección de hardware e incluyen un contrato de soporte.

Los criterios siguientes puntúan cualquiera de ellos en los mismos términos.

1

Rendimiento y ausencia de pérdidas

Las operaciones colectivas de IA usan RDMA, y RDMA necesita un sustrato sin pérdidas. RoCEv2 lo ofrece sobre Ethernet, pero solo con el conjunto completo de herramientas de congestión, no como una casilla marcada. Un fabric que pausa mal o descarta paquetes bajo carga es la causa más común de un rendimiento de entrenamiento estancado, así que resuelva este criterio primero.

Qué preguntar

  • ¿Ofrecen el fabric Ethernet sin pérdidas que requiere RoCEv2, incluido PFC sobre L3 con DCBX y LLDP?
  • ¿Existe marcado ECN, y hay una variante dinámica que adapte los umbrales bajo carga?
  • ¿Hay detección y recuperación de deadlocks de PFC, además de WRED y ajuste de búferes?
  • ¿Cómo se mantiene baja la latencia de cola cuando un enlace se satura durante una operación colectiva?

Cómo evaluar

Pida las funciones de congestión exactas y confirme que se ejecutan en el silicio que va a comprar. Una respuesta creíble menciona PFC (también sobre L3, con DCBX y LLDP), ECN y Dynamic ECN, ETS, WRED, detección y recuperación de deadlocks de PFC, y balanceo de carga dinámico que reequilibra los flujos fuera de los enlaces saturados. Un hash estático puede dejar flujos grandes colisionando en un subconjunto de enlaces, mientras que el balanceo de carga dinámico en Tomahawk 4 y Tomahawk 5 apunta a una utilización del fabric en torno al 90 %, así que trátelo como una función de rendimiento, no como un extra. Consulte la RoCE frente a InfiniBand comparación para ver en qué se diferencia el modelo sin pérdidas del control de flujo por créditos de InfiniBand.

2

Escala y ajuste a la topología

La topología correcta es el diseño sin bloqueo más pequeño que mantiene saturado el enlace de cada GPU durante una operación colectiva, con una ruta limpia hacia el siguiente tamaño. Una topología que no puede crecer obliga más adelante a un reemplazo completo, así que dimensione para donde va el clúster, no para donde empieza.

Qué preguntar

  • ¿Es el plano de GPU 1:1 sin bloqueo, y dónde empieza la sobresuscripción?
  • ¿Cuál es el clúster más grande que alcanza este diseño antes de que haya que añadir un nivel?
  • ¿Admite cableado rail-optimized y un nivel super-spine para escala multipod?

Cómo evaluar

Compare los candidatos con cifras concretas de GPU. En switches Tomahawk 5, un leaf-spine de 2 niveles alcanza 4.096 GPU en 1:1 sin bloqueo con 800G por GPU, con cada switch operando como 128×400G y cada GPU en dos puertos leaf de 400G. Por encima de eso, un nivel super-spine sobre los mismos pods rail-optimized se extiende a 16.000+ GPU. Utilice rail-optimized para la localidad de un solo pod y un Clos para escala multipod; los topologías de referencia muestran los cálculos de puertos, y la Suite de diseño de fabric de IA ofrece un primer dimensionamiento.

3

Apertura y dependencia del proveedor

Un fabric de IA cerrado vincula la NIC, el switch y el planificador a un solo proveedor, que fija sus precios y su hoja de ruta. Un enfoque abierto ejecuta un NOS comercial sobre silicio Ethernet estándar de más de un fabricante de hardware, de modo que conserva la elección de hardware y puede recurrir a una segunda fuente. Aquí se deciden el coste plurianual y la capacidad de negociación.

Qué preguntar

  • ¿Pueden adquirirse el switch, el NOS y las ópticas de forma independiente?
  • ¿Se basa el fabric en Ethernet publicado y basado en estándares, o en un transporte propietario?
  • ¿Hay más de una plataforma de hardware cualificada para el mismo software?

Cómo evaluar

Busque una lista de hardware cualificado con más de un proveedor detrás. Los NOS comerciales abiertos ejecutan el mismo software en plataformas Broadcom Tomahawk 5 de distintos fabricantes, por ejemplo Edgecore AIS800-64D y UfiSpace S9321-64E, de modo que una segunda fuente sea real y no teórica. Compárelo con los SKU cerrados de un solo proveedor de NIC, switch y planificador, cuyas piezas solo funcionan juntas. La pregunta útil no es un producto frente a otro, sino a cuántos proveedores puede exigir responsabilidad por el mismo fabric.

4

Operaciones, automatización y telemetría

Un fabric difícil de poner en marcha o ciego en producción cuesta más que su precio. El modelo operativo, cómo aprovisiona, observa y ajusta, es un criterio de compra de primer orden, no algo en lo que pensar cuando llega el hardware.

Qué preguntar

  • ¿Hay telemetría en streaming mediante gNMI con modelos OpenConfig?
  • ¿Se admite el zero-touch provisioning (ZTP) para la puesta en marcha del fabric a escala?
  • ¿Se automatiza con herramientas estándar como Ansible, y señaliza QoS con DCBX?

Cómo evaluar

Pida ver la telemetría y la automatización en la propia documentación del candidato, no en una diapositiva. Una respuesta sólida cubre telemetría en streaming gNMI y OpenConfig hacia su stack de observabilidad, ZTP para el aprovisionamiento, DCBX y LLDP para la señalización sin pérdidas, y configuración basada en Ansible. Lo importante es el ajuste en lazo cerrado durante la puesta en marcha: contadores por cola y estado de búferes que pueda observar mientras afina los umbrales de PFC y ECN, no una caja negra que se configura una vez y se espera lo mejor.

5

Soporte y responsabilidad

Cuando una ejecución de entrenamiento se detiene a las 3 de la madrugada, la pregunta es quién se encarga de la solución. Un despliegue multiproveedor sin un único contrato responsable se convierte en un cruce de culpas entre los proveedores de NIC, switch, ópticas y software. La solución es un solo contrato, no un solo stack cerrado.

Qué preguntar

  • ¿Hay un único contrato de soporte que cubra el software y el hardware cualificado?
  • ¿Hay un solo TAC y un solo SLA, o varios que coordinar?
  • ¿Quién validó la combinación concreta de hardware y software que está comprando?

Cómo evaluar

Separe la responsabilidad de la dependencia: quiere responsabilidad de un solo proveedor sin hardware de un solo proveedor. El patrón sólido es una elección de hardware abierta combinada con un único acuerdo de soporte, un contrato que cubre el software más el hardware cualificado, un TAC, un SLA, de modo que un fallo tenga un responsable de extremo a extremo aunque haya adquirido las piezas de forma abierta.

6

Estándares y hoja de ruta

El transporte para AI fabric avanza rápido. El Ultra Ethernet Consortium (UEC) publica un transporte Ethernet multitrayecto abierto para IA y HPC, cuyo comportamiento de extremo se ejecuta en NIC compatibles con UEC, así que distinga lo que cada proveedor ejecuta hoy en producción de lo que planea.

Qué preguntar

  • ¿Es el proveedor miembro del Ultra Ethernet Consortium?
  • ¿Qué ejecuta el fabric hoy en producción y sobre qué silicio?
  • ¿Qué hay en la hoja de ruta a corto plazo para el balanceo de carga y el control de congestión?

Cómo evaluar

Separe lo que se entrega de lo que está planificado. IP Infusion es miembro del Ultra Ethernet Consortium, y OcNOS-DC ejecuta hoy en producción RoCEv2 sin pérdidas con PFC, marcado ECN y DLB en switches Broadcom Tomahawk 4 y Tomahawk 5. DCQCN se ejecuta en las NIC y reacciona a esas marcas ECN. Global Load Balancing (GLB) llega con OcNOS 7.1. En cuanto a la hoja de ruta, pida elementos concretos: ECN basado en latencia (7.1.0), link-level retry, control de flujo basado en créditos y packet trimming. Consulte InfiniBand frente a Ethernet para ver cómo se compara la vía abierta.

La lista de verificación del comprador

Pase cada fabric candidato, ya sea un stack cerrado de un solo proveedor, un NOS comunitario o un NOS comercial abierto, por la misma lista. Si una casilla no puede marcarse, pregunte por qué antes de decidir que no importa.

  • Sustrato sin pérdidas. RoCEv2 con PFC (también sobre L3, DCBX, LLDP), ECN y Dynamic ECN, ETS, WRED, y detección y recuperación de deadlocks de PFC.
  • Balanceo dinámico de carga. Los flujos se reequilibran fuera de los enlaces saturados, no solo con hashing ECMP estático.
  • Plano de GPU 1:1 sin bloqueo. Sin sobresuscripción en el fabric de GPU, dimensionado para su número objetivo de GPU con margen hasta el siguiente nivel.
  • Ajuste a la topología. Diseños single-pod rail-optimized y multipod de tres niveles sobre el silicio que usted compra.
  • Elección de hardware. Más de un proveedor de hardware cualificado para el mismo NOS, de modo que una segunda fuente sea real.
  • Transporte abierto. Ethernet basado en estándares, no un paquete propietario de NIC, switch y planificador.
  • Telemetría y automatización. Telemetría en streaming gNMI y OpenConfig, ZTP, DCBX y Ansible.
  • Un único contrato responsable. Un único acuerdo de soporte para software y hardware comprados como un solo sistema, un TAC, un SLA.
  • Hoja de ruta de estándares. El proveedor es miembro del Ultra Ethernet Consortium e identifica sus elementos de hoja de ruta de balanceo de carga y control de congestión.

Dónde encaja Ethernet abierto con OcNOS-DC

Lea los criterios anteriores y elija lo que mejor puntúe para su clúster. Para los compradores que quieren una elección de hardware abierta con un único contrato responsable, así se sitúa IP Infusion frente a la misma lista, expuesto con claridad para que pueda compararlo con las alternativas.

Fabric RoCEv2 en producción

OcNOS-DC ofrece el fabric Ethernet sin pérdidas que requiere RoCEv2 sobre Broadcom Tomahawk 5: PFC sobre L3 con DCBX y LLDP, ECN y Dynamic ECN, ETS, WRED, detección y recuperación de deadlocks de PFC, y DLB con reequilibrio reactivo de rutas.

De 4.096 a 16.000+ GPU

Un pod TH5 de 2 niveles alcanza 4.096 GPU en 1:1 sin bloqueo con 800G por GPU; por encima de eso, un nivel super-spine se extiende a 16.000+ GPU.

Hardware multiproveedor

Un solo NOS en plataformas Tomahawk 5 de más de un fabricante, incluidos Edgecore AIS800-64D y UfiSpace S9321-64E y S9321-64EO con 400G ZR+, de modo que una segunda fuente siga siendo real.

Telemetría y automatización abiertas

Telemetría en streaming gNMI y OpenConfig, ZTP, DCBX y Ansible, con hashing RTAG7 y ajuste de búferes para una puesta en marcha en lazo cerrado.

OcNOS Systems: un contrato, un TAC, un SLA

Con OcNOS Systems, un único acuerdo con IP Infusion cubre el software OcNOS y el hardware cualificado, de modo que obtiene la responsabilidad de un solo proveedor sin la dependencia de un solo proveedor.

Miembro de UEC, hoja de ruta concreta

IP Infusion es miembro del Ultra Ethernet Consortium. GLB llega con OcNOS 7.1, y el ECN basado en latencia está en la rama OcNOS 7.1 para OcNOS-DC.

Solución AI Fabric Topologías de AI fabric Red rail-optimized InfiniBand frente a Ethernet RoCE frente a InfiniBand Suite de diseño de fabric de IA

Preguntas frecuentes de la guía del comprador de fabric de IA

¿Qué debo evaluar primero al elegir un fabric de IA?
Empiece por el rendimiento sin pérdidas en el plano de GPU, porque es lo que protege el rendimiento de entrenamiento. Confirme que el fabric ofrece el sustrato RoCEv2 sin pérdidas que requiere RDMA: PFC (también sobre L3, con señalización DCBX y LLDP), marcado ECN y Dynamic ECN, WRED, y detección y recuperación de deadlocks de PFC. Después confirme el balanceo de carga dinámico para que ningún enlace se convierta en un punto caliente durante las operaciones colectivas. Solo cuando el rendimiento esté resuelto debe sopesar escala, apertura, operaciones, soporte y hoja de ruta.
¿Es mejor Ethernet o InfiniBand para IA?
Ambos pueden transportar tráfico de IA; la diferencia está en el ecosistema y la dependencia del proveedor. InfiniBand es un stack de un solo proveedor con su propio cableado y gestión. Ethernet es multiproveedor y basado en estándares: RoCEv2 con PFC y ECN ofrece hoy RDMA sin pérdidas, y la dirección del Ultra Ethernet Consortium (UEC) cierra la brecha de rendimiento restante sobre hardware abierto. Para los compradores que quieren elegir el hardware y no depender de un solo proveedor, Ethernet abierto es la vía con menor dependencia. Consulte nuestras InfiniBand frente a Ethernet y RoCE frente a InfiniBand comparaciones.
¿Para cuántas GPU debo planificar?
Planifique para el clúster hacia el que crecerá, no solo para el que compre primero, de modo que la topología no obligue a reconstruir. En switches Tomahawk 5, un leaf-spine de 2 niveles alcanza 4.096 GPU en 1:1 sin bloqueo con 800G por GPU, con cada switch operando como 128×400G y cada GPU en dos puertos leaf de 400G. Por encima de eso, un nivel super-spine sobre los mismos pods rail-optimized se extiende a 16.000+ GPU. Haga un primer dimensionamiento con el Suite de diseño de fabric de IA.
¿Cómo evito el vendor lock-in?
Separe las capas que compra. Un fabric de IA cerrado vincula la NIC, el switch y el planificador a un solo proveedor, de modo que los precios y la hoja de ruta se fijan por usted. Un enfoque de redes abiertas le permite ejecutar un NOS comercial sobre silicio Ethernet estándar de más de un fabricante de hardware, de modo que conserva la elección de hardware y puede recurrir a una segunda fuente. Pregunte si el switch, el NOS y las ópticas pueden adquirirse cada uno de forma independiente, y si el fabric funciona sobre Ethernet publicado y basado en estándares en lugar de un transporte propietario.
¿Qué significa UEC para mi compra?
El Ultra Ethernet Consortium (UEC) publica un transporte Ethernet multitrayecto abierto para IA y HPC. UEC 1.0 reparte un flujo entre muchas rutas, con ese comportamiento de extremo ejecutándose en NIC compatibles con UEC. Para una compra hoy, decida según lo que el fabric ejecuta en producción ahora y pida a cada proveedor elementos concretos de su hoja de ruta. IP Infusion es miembro del UEC, y OcNOS-DC ya ejecuta en producción RoCEv2 sin pérdidas con PFC, marcado ECN y DLB en switches Broadcom Tomahawk 4 y Tomahawk 5. DCQCN se ejecuta en las NIC y reacciona a esas marcas ECN.
¿Necesito un solo proveedor para hardware y software?
Necesita un único contrato responsable, que no es lo mismo que un único stack cerrado. Con redes abiertas, elige por separado el hardware de switch y el NOS, y luego los compra bajo un único acuerdo de soporte. Con IP Infusion, cuando compra los switches como OcNOS Systems, un contrato cubre el software OcNOS y el hardware, con un TAC y un SLA, de modo que obtiene la responsabilidad de un solo proveedor sin la dependencia de un solo proveedor. Para el hardware que compra usted mismo, IP Infusion da soporte al software y el fabricante da soporte al hardware.

Diseñe toda la fabric de IA con OcNOS

Desde el caso de negocio hasta los cálculos de recuento de puertos, retome donde esté en la construcción.

Solución Fabric de IA abierta La fabric de IA 800G completa: switches abiertos, OcNOS-DC y soporte bajo un solo contrato. Diseños de referencia Topologías de AI Fabric Fabrics rail-optimized de dos y tres niveles, y DCI coherente, dimensionados en cantidades reales de puertos. Dimensionar y construir Suite de diseño de fabric de IA Dimensione una fabric de GPU: recuentos de leaf, spine y super-spine con un resumen de componentes y potencia.
¿Nuevo en las AI fabrics? Empieza aquí ¿Qué es una AI fabric? ¿Qué es una GPU fabric? ¿Qué es Ethernet sin pérdidas? ¿Qué es RDMA? Switches de red para IA
La tecnología por dentro RoCEv2 sin pérdidas Red rail-optimized DLB GLB (7.1) Ultra Ethernet Tomahawk 5 Tomahawk 6 a 1.6T Silicio Broadcom DCQCN bloqueo por PFC InfiniBand frente a Ethernet RoCE frente a InfiniBand Arquitectura de fabric de IA DCI coherente
Evaluar el fabric Cómo elegir un fabric de red de IA Pruebas de AI fabric Redes neocloud

Profundice. Llévelo consigo.

Dos descargas breves y técnicas que van más allá de esta página: el datasheet completo de OcNOS-DC y la arquitectura de fabric de IA 800G sin pérdidas.

Datasheet

Datasheet de OcNOS-DC

Especificación completa de OcNOS-DC: el conjunto de funciones EVPN-VXLAN y Ethernet for AI, los SKU de software, las plataformas de hardware compatibles y la guía de pedido de la solución.

Obtener el datasheet
Solution brief

AI Fabric sin pérdidas de 800G con OcNOS

Fabric RoCEv2 sin pérdidas con spines Tomahawk 5: niveles de SKU, plataformas cualificadas y arquitectura de despliegue.

Obtener el brief

¿Está evaluando fabrics para su clúster? Repasamos la lista de verificación con usted.

Reserve una revisión de arquitectura →