네오클라우드 및 GPU 클라우드 사업자를 위한 네트워크

IP Infusion은 GPU 클라우드를 구동하는 네트워크를 제공합니다. 무손실 GPU 패브릭, 스토리지 네트워크, 테넌트 프런트엔드, 대역 외 관리를 위해 인증된 스위치 기반 OcNOS-DC를 하나의 지원 계약으로 제공합니다.

64 × 800GGPU 패브릭용 Tomahawk 5 스위치
16,384최대 레퍼런스 디자인의 GPU 수
900+OcNOS 운영 사업자

GPU 서버 1대, 네트워크 4개

GPU 클라우드는 모든 서버를 4개의 네트워크에 연결합니다. GPU 백엔드 패브릭, 스토리지, 테넌트 프런트엔드, 관리 네트워크입니다. OcNOS-DC는 네 가지 모두에서 실행되므로 하나의 팀이 하나의 소프트웨어 제품군으로 클라우드 전체를 운영할 수 있습니다.

네트워크를 선택하면 전달하는 트래픽을 볼 수 있습니다

GPU 서버는 GPU 백엔드 패브릭, 스토리지, 테넌트 프런트엔드, 대역 외 관리의 4개 네트워크에 연결됩니다 스파인 스파인 레일 리프 레일 리프 GPU 백엔드 패브릭 스토리지 리프 스토리지 테넌트 프런트엔드 리프 테넌트 프런트엔드 관리 대역 외, 1G GPU 서버 GPU NIC 스토리지 NIC 프런트엔드 NIC BMC

GPU 백엔드. GPU 집합 통신은 전용 라우티드 패브릭에서 실행됩니다. 레이어 3 기반 PFC와 ECN이 RoCEv2 트래픽을 무손실로 유지하고, 동적 로드 밸런싱이 플로우렛을 부하가 적은 업링크로 이동합니다. Tomahawk 5 스위치는 64 × 800G를 제공합니다.

설명용 예시입니다.

학습과 추론은 네트워크에 요구하는 것이 다릅니다

네오클라우드는 두 가지 모두를 지원합니다. 학습은 소수의 대규모 클러스터를 안정적이고 동기화된 트래픽으로 채웁니다. 추론 트래픽은 여러 사이트에 걸쳐 버스트 형태로 발생합니다.

학습과 추론 비교. 패브릭을 좌우하는 네트워크 지표별로 정리했습니다.
네트워크가 마주하는 것 학습AI 팩토리 추론실시간 서비스
배치 범위소수의 대규모 GPU 클러스터여러 지역 및 엣지 사이트
트래픽대용량의 동기화된 GPU 간 컬렉티브 통신지연에 민감한 작은 요청
부하 프로파일장시간에 걸친 지속적이고 거의 최대에 가까운 GPU 사용률버스트성이고 탄력적이며 수 초 만에 급증
네트워크가 갖춰야 할 것지속적인 대역폭에서도 무손실저지연이며 모든 계층에서 이중화

GPU 클라우드에서 OcNOS-DC가 실행하는 기능

각 네트워크가 사용하는 기능입니다(OcNOS 기능 매트릭스 기준).

기능기능적용 범위
레이어 3 기반 PFC 및 ECN라우티드 패브릭 전반의 무손실 RoCEv2, 트래픽 클래스 간 ETS 적용모든 OcNOS-DC
동적 로드 밸런싱플로우렛을 부하가 적은 업링크로 이동일부 스위치
PFC 교착 상태 감지 및 복구정체된 우선순위 큐를 감지하고 복구일부 스위치
EVPN-VXLANVXLAN 기반 레이어 2 EVPN, 테넌트별 VRF 및 VNITrident 3 및 4
테넌트 제한테넌트별 MAC 제한 및 경로 타깃 필터링일부 스위치
VXLAN 기반 PFC 및 ECNEVPN-VXLAN 패브릭의 무손실 스토리지 트래픽일부 스위치
MLAG 및 EVPN 멀티호밍MLAG는 active/active 모드, EVPN은 single-active 또는 port-active 모드일부 스위치
스위치에 장착하는 코히어런트 광 모듈사이트 간 400G 및 800G ZR, OpenZR+ 링크일부 스위치
관리 VRF 및 ZTP대역 외 관리 및 제로 터치 프로비저닝모든 OcNOS-DC

지원 여부는 스위치 모델과 라이선스에 따라 다릅니다. OcNOS 기능 매트릭스를 확인하세요.

네트워크별 스위치

각 네트워크는 트래픽에 맞는 스위치를 사용하며, 모두 OcNOS-DC로 실행됩니다.

Edgecore AIS800-64D switch

GPU 패브릭 스파인 및 리프

Edgecore AIS800-64D

Tomahawk 5 · 51.2 Tbps

64 × 800G

Edgecore AS9736-64D switch

400G GPU 레일 리프

Edgecore AS9736-64D

Tomahawk 4 · 25.6 Tbps

64 × 400G

UfiSpace S9300-32D switch

프런트엔드 및 스토리지 리프

UfiSpace S9300-32D

Trident 4 · 12.8 Tbps

32 × 400G

UfiSpace S6301-56ST switch

대역 외 관리

UfiSpace S6301-56ST

Trident 3 · 120 Gbps

48 × 1G, 8 × 10G

OcNOS on open switches carries the AI fabric at 40 to 60% lower hardware cost 포트 속도와 radix가 동등한 독점 플랫폼보다 낮춰 담당합니다. 무손실 AI 패브릭의 작동 방식을 확인하십시오. 인증된 스위치의 전체 목록은 OcNOS 하드웨어 호환성 목록에서 확인하십시오.

네오클라우드 네트워킹에 관한 질문.

네오클라우드와 GPU 클라우드 사업자가 AI를 위해 필요한 네트워크는 무엇입니까?
4개의 네트워크입니다. GPU 집합 통신을 위한 라우티드 무손실 백엔드 패브릭, 스토리지 네트워크, 고객이 GPU에 접근하는 프런트엔드 네트워크, 대역 외 관리 네트워크입니다. OcNOS-DC는 인증된 스위치에서 네 가지 모두를 실행합니다.
하나의 플랫폼으로 AI 학습과 추론을 모두 지원할 수 있습니까?
예. 동일한 OcNOS-DC 제품군이 학습에 필요한 무손실 GPU 패브릭과 추론에 사용되는 프런트엔드 및 스토리지 네트워크를 실행하므로, 하나의 팀이 하나의 소프트웨어 스택으로 클라우드 전체를 운영할 수 있습니다. 스위치는 역할별로 규모를 정합니다.
GPU 클라우드는 고객을 어떻게 격리합니까?
프런트엔드 네트워크에서 EVPN-VXLAN은 각 테넌트에 전용 VRF와 VNI를 제공하고, 테넌트별 MAC 제한과 경로 타깃 필터링을 적용합니다. 이 기능은 Trident 3 및 Trident 4 스위치에서 실행됩니다. 지원 여부는 스위치 모델에 따라 다르므로 OcNOS 기능 매트릭스를 확인하십시오.
링크나 스위치에 장애가 발생할 때 패브릭은 어떻게 추론 서비스를 유지합니까?
BFD가 링크 장애를 감지하고, BGP ECMP가 트래픽을 나머지 경로로 이동합니다. MLAG는 active/active 모드로 서버를 스위치 쌍에 연결합니다. EVPN-VXLAN 프런트엔드 리프에서는 single-active 또는 port-active 모드의 EVPN 멀티호밍으로 서버를 두 개의 리프에 연결합니다.
AI 학습 및 추론을 위한 네트워크 벤더는 어떻게 평가해야 합니까?
각 스위치가 실행하려는 소프트웨어에 대해 모델별, ASIC 스테핑별로 인증되었는지 확인하십시오. 필요한 기능이 해당 스위치에 명시되어 있는지 확인하고, 스위치와 소프트웨어를 누가 지원하는지 파악하십시오. IP Infusion은 플랫폼별 OcNOS 기능 매트릭스를 공개하며, 스위치와 소프트웨어를 하나의 계약으로 지원합니다.
네오클라우드는 사이트를 어떻게 연결합니까?
지원되는 OcNOS-DC 스위치는 포트에 코히어런트 광 모듈을 장착할 수 있습니다. AS9736-64D, AS9726-32DB, S9300-32D는 400G ZR 및 OpenZR+를, AIS800-64D와 S9321-64E는 800G ZR 및 OpenZR+를 지원합니다. 더 긴 링크는 OcNOS-SP 라우터 기반 IP over DWDM을 참조하십시오.

GPU 클라우드 네트워크를 계획하세요.

GPU 규모, 테넌트, 사이트를 알려 주십시오. IP Infusion 엔지니어가 각 네트워크를 인증된 스위치에 매핑합니다.