Réseaux pour les opérateurs neocloud et de cloud GPU
IP Infusion fournit les réseaux sur lesquels repose un cloud GPU : OcNOS-DC sur des commutateurs qualifiés pour la fabric GPU sans perte, le réseau de stockage, le front-end des locataires et la gestion hors bande, avec un seul contrat de support.
Un serveur GPU, quatre réseaux
Un cloud GPU relie chaque serveur à quatre réseaux : la fabric back-end GPU, le stockage, le front-end des locataires et la gestion. OcNOS-DC fonctionne sur les quatre, si bien qu'une seule équipe peut exploiter une seule famille logicielle sur l'ensemble du cloud.
Choisissez un réseau pour voir ce qu'il transporte
Back-end GPU. Les opérations collectives GPU s'exécutent sur leur propre fabric routée. PFC et ECN sur la couche 3 maintiennent le trafic RoCEv2 sans perte, et l'équilibrage de charge dynamique déplace les flowlets vers les uplinks les moins chargés. Les commutateurs Tomahawk 5 offrent 64 × 800G.
Stockage. Le trafic de stockage dispose de son propre réseau, maintenu sans perte grâce à PFC et ECN. Lorsque le stockage partage une fabric EVPN-VXLAN, PFC et ECN fonctionnent aussi sur VXLAN sur les commutateurs pris en charge.
Front-end. Les clients accèdent à leurs GPU via le réseau front-end. EVPN-VXLAN attribue à chaque locataire sa propre VRF et ses propres VNI, avec des limites MAC et un filtrage par route target, sur les commutateurs Trident 3 et Trident 4 pris en charge.
Gestion. La gestion hors bande s'appuie sur des commutateurs 1G avec une VRF de gestion et le provisioning zero-touch, de sorte que le trafic de gestion reste en dehors des réseaux de production.
Illustration.
L'entraînement et l'inférence n'attendent pas la même chose du réseau
Les neoclouds servent les deux. L'entraînement remplit quelques grands clusters avec un trafic régulier et synchronisé. Le trafic d'inférence s'étend sur de nombreux sites et arrive par rafales.
| Ce que voit le réseau | Entraînementl'usine d'IA | Inférencele service en temps réel |
|---|---|---|
| Empreinte | Quelques grands clusters GPU | De nombreux sites régionaux et en périphérie |
| Trafic | Trafic collectif GPU à GPU massif et synchronisé | Petites requêtes sensibles à la latence |
| Profil de charge | Utilisation GPU soutenue et quasi totale sur de longues durées | En rafales et élastique, avec des pics en quelques secondes |
| Le réseau doit être | Sans perte sous une bande passante soutenue | Faible latence et redondance à chaque couche |
Ce qu'OcNOS-DC fournit dans un cloud GPU
Les fonctionnalités sur lesquelles repose chaque réseau, d'après la Feature Matrix OcNOS.
| Capacité | Ce qu'il fait | Disponible sur |
|---|---|---|
| PFC et ECN sur couche 3 | RoCEv2 sans perte sur une fabric routée, avec ETS entre classes de trafic | Tous OcNOS-DC |
| L'équilibrage de charge dynamique | Déplace les flowlets vers les uplinks moins chargés | Certains commutateurs |
| détection et reprise des deadlocks PFC | Détecte une file de priorité bloquée et la rétablit | Certains commutateurs |
| EVPN-VXLAN | EVPN de couche 2 sur VXLAN, avec une VRF et des VNI par locataire | Trident 3 et 4 |
| Limites locataires | Limites MAC par locataire et filtrage par route target | Certains commutateurs |
| PFC et ECN sur VXLAN | Trafic de stockage sans perte sur une fabric EVPN-VXLAN | Certains commutateurs |
| MLAG et multihoming EVPN | MLAG en mode actif/actif ; EVPN en mode single-active ou port-active | Certains commutateurs |
| Optique cohérente dans le commutateur | Liaisons 400G et 800G ZR et OpenZR+ entre sites | Certains commutateurs |
| VRF de gestion et ZTP | Gestion hors bande et provisioning zero-touch | Tous OcNOS-DC |
La prise en charge varie selon le modèle de commutateur et la licence. Consultez la Feature Matrix OcNOS.
Commutateurs par réseau
Chaque réseau utilise un commutateur adapté à son trafic, tous sous OcNOS-DC.
Spine et leaf de la fabric GPU
Edgecore AIS800-64D
Tomahawk 5 · 51.2 Tbps
64 × 800G
Leaf de rail GPU 400G
Edgecore AS9736-64D
Tomahawk 4 · 25.6 Tbps
64 × 400G
Leaf front-end et stockage
UfiSpace S9300-32D
Trident 4 · 12.8 Tbps
32 × 400G
Gestion hors bande
UfiSpace S6301-56ST
Trident 3 · 120 Gbps
48 × 1G, 8 × 10G
OcNOS on open switches carries the AI fabric at 40 to 60% lower hardware cost par rapport aux plateformes propriétaires à débits de port et radix comparables. Découvrez le fonctionnement de la fabric IA sans perte. Consultez la liste complète des commutateurs qualifiés dans la Hardware Compatibility List OcNOS.
Opérateurs qui utilisent OcNOS dans le centre de données
IzarLink
Un cœur EVPN-VXLAN qui agrège des accès 25G dans un cœur 100G redondant et interconnecte ses centres de données et ses points de peering.
Lire le témoignage →Nextlink Internet
OcNOS-DC pour les opérations cœur du centre de données et OcNOS-SP pour le transport middle-mile, sur du matériel Edgecore dans 11 États.
Lire le témoignage →Scott Data
OcNOS fonctionne sur du matériel UfiSpace, Edgecore et Celestica sur un campus de centres de données certifié Tier III avec services de colocation.
Lire le témoignage →« IP Infusion OcNOS nous a apporté la profondeur technique et l'amélioration de l'économie du réseau qui nous ont permis de moderniser à temps le cœur de notre centre de données avec une évolutivité, une sécurité et une résilience pérennes. »
Alexis Guirlé, CEO d'IzarLink
Questions sur le réseau neocloud.
De quel réseau les fournisseurs neocloud et de cloud GPU ont-ils besoin pour l'IA ?
Une seule plateforme peut-elle prendre en charge à la fois l'entraînement et l'inférence IA ?
Comment les clouds GPU maintiennent-ils l'isolation entre leurs clients ?
Comment la fabric maintient-elle l'inférence disponible en cas de panne d'un lien ou d'un commutateur ?
Comment évaluer les fournisseurs réseau pour l'entraînement et l'inférence IA ?
Comment un neocloud relie-t-il ses sites ?
Fiche technique et notes de solution.
La fiche technique OcNOS-DC et deux notes de solution à partager avec votre équipe. Un formulaire rapide, et le PDF se télécharge immédiatement.
OcNOS 800G Fabric IA sans perte
Fabric RoCEv2 sans perte sur des spines Tomahawk 5 : niveaux de SKU, plateformes qualifiées et architecture de déploiement.
Obtenir le briefFabric DC EVPN-VXLAN
Fabric de centre de données leaf-spine sur EVPN-VXLAN : une VRF et des VNI par locataire, multihoming EVPN, BGP unnumbered et filtrage par route target.
Obtenir le briefDatasheet OcNOS-DC
Spécification complète OcNOS-DC : l'ensemble des fonctionnalités EVPN-VXLAN et Ethernet for AI, les SKU logiciels, les plateformes matérielles prises en charge et le guide de commande de la solution.
Obtenir la fiche techniqueOcNOS 800G Fabric IA sans perte
Formulaire rapide. Votre PDF s'ouvre dans un nouvel onglet immédiatement après l'envoi.
✓ Ouverture de votre PDF dans un nouvel onglet…
S'il ne s'est pas ouvert, utilisez le lien ci-dessous.
Fabric DC EVPN-VXLAN
Formulaire rapide. Votre PDF s'ouvre dans un nouvel onglet immédiatement après l'envoi.
✓ Ouverture de votre PDF dans un nouvel onglet…
S'il ne s'est pas ouvert, utilisez le lien ci-dessous.
Datasheet OcNOS-DC
Formulaire rapide. Votre PDF s'ouvre dans un nouvel onglet immédiatement après l'envoi.
✓ Ouverture de votre PDF dans un nouvel onglet…
S'il ne s'est pas ouvert, utilisez le lien ci-dessous.
Planifiez votre réseau de cloud GPU.
Indiquez-nous votre nombre de GPU, vos locataires et vos sites. Un ingénieur IP Infusion associera chaque réseau à des commutateurs qualifiés.
Souhaitez-vous que nous vous contactions ?
Laissez vos coordonnées et un ingénieur IP Infusion vous aidera à concevoir un fabric ouvert pour l'entraînement et l'inférence IA. Nous ne vous contacterons que si vous le souhaitez.