¿Qué es un switch de red para IA?

• Velocidad de puerto y capacidad. Las NIC de GPU se conectan a 400G y 800G, y el puerto del switch tiene que igualarlas. Un switch de 51.2 Tbps ofrece 64 puertos a 800G; un switch de 25.6 Tbps ofrece 64 puertos a 400G.
• Radix. El número de puertos por switch determina cuántas GPU puede atender un leaf y cuántos leaves puede unir un spine, lo que decide cuántos niveles necesita la fabric. Menos niveles significa menos saltos, menos óptica y menos consumo.
• Transporte sin pérdidas. Las GPU intercambian datos con RDMA over Converged Ethernet (RoCEv2), que se ralentiza drásticamente cuando se descartan paquetes. El switch necesita Priority Flow Control (PFC) para pausar una cola antes de que se desborde y Explicit Congestion Notification (ECN) para avisar pronto a los emisores, en coordinación con el control de congestión DCQCN de la NIC.
• Carga equilibrada. Las operaciones colectivas como AllReduce producen unos pocos flujos muy grandes. El hashing estático puede colocar dos de ellos en un mismo enlace mientras otro enlace permanece inactivo. El balanceo dinámico de carga desplaza el tráfico hacia las rutas menos cargadas.
• Visibilidad. Telemetría por streaming informa de la profundidad de las colas, las pausas PFC y las marcas ECN en el momento en que se producen, para que los operadores puedan encontrar el enlace que ralentiza un trabajo.

• Son límites aritméticos, no cifras de escala de producto. Los diseños reales los modifican con la sobresuscripción, los rails por servidor, el alcance de la óptica y la potencia por rack.
• 800G con el mismo radix duplica el ancho de banda por GPU sin añadir un nivel. Por eso las fabrics de back-end construidas en torno a NIC de 800G usan switches de 51.2 Tbps.
• Los diseños de referencia de IP Infusion para fabrics rail-optimized y Clos de 3 etapas, dimensionados con recuentos de puertos reales, están en Topologías de AI fabric. La elección entre diseños se explica en cómo elegir una fabric de red de IA.

Lo que gana

• Elección de hardware. OcNOS-DC se ejecuta en switches de más de un fabricante de hardware, de modo que cada plano puede elegirse por capacidad, óptica y plazo de entrega.
• Un único NOS en todos los planos. Las redes de back-end, almacenamiento, front-end y gestión ejecutan un único sistema operativo, una única CLI y un único modelo de automatización.
• Ethernet estándar. Una fabric RoCEv2 usa la misma óptica, el mismo cableado y las mismas herramientas que el resto del centro de datos, y la NIC de GPU se elige por separado del switch.
• Una vía hacia el nuevo silicio. Pasar de 25.6 a 51.2 Tbps cambia el switch, no el modelo operativo.

Lo que le exige

• Integración. Ethernet sin pérdidas solo funciona cuando los buffers del switch, PFC, ECN y el control de congestión de la NIC se ajustan conjuntamente. Alguien tiene que hacer ese ajuste y responder de él.
• Modelo de soporte. Con hardware y software de empresas distintas, el operador necesita un único responsable claro cuando una falla cruza la frontera entre ambos.
• Carga de validación. La óptica, los cables, el firmware de las NIC y las versiones del NOS cambian cada uno con el tiempo, y cada combinación necesita pruebas antes de producción.