네오클라우드를 위한 네트워킹: AI 학습과 추론을 하나의 패브릭으로

네오클라우드는 전통적인 하이퍼스케일러의 범용 서비스가 아니라, 학습과 추론을 위한 고밀도 GPU 컴퓨트를 중심으로 구축된 AI 우선 클라우드 사업자입니다. 네오클라우드는 가속기의 순수 성능, 빠른 확장, 비용으로 경쟁하므로 GPU 트래픽을 나르는 네트워크는 경제성의 핵심이며 부차적인 요소가 아닙니다.

둘 다 사용되며, 800G가 본격화되면서 업계는 Ethernet 쪽으로 향하고 있습니다. RoCEv2를 사용하는 Ethernet은 개방형 머천트 실리콘에서 GPU 컬렉티브 트래픽을 나르므로, 네오클라우드는 단일 벤더 스택 없이 무손실 AI 패브릭을 얻습니다. OcNOS는 Priority Flow Control, ECN, 적응형 로드 밸런싱을 포함한 RoCEv2 툴킷 전체를 검증된 개방형 하드웨어에서 실행합니다.

학습과 추론은 상반된 워크로드입니다. 학습은 집중형이고 대역폭을 많이 쓰며, 추론은 분산형이고 버스트성이며 지연에 민감합니다. 두 개의 별도 네트워크를 구축하면 자본 비용과 운영 비용이 중복됩니다. 두 가지를 하나의 OcNOS 패브릭과 하나의 컨트롤 플레인에서 실행하면, 네오클라우드는 동일한 인프라에서 학습과 모든 추론 워크로드를 제공할 수 있고, 바로 그 지점에서 영업 이익률이 개선됩니다.

일부 사업자는 분명한 이유로 학습과 추론을 의도적으로 분리합니다. 테넌트 간 엄격한 격리, 팀별로 구분된 운영 도메인, 명확한 성능 경계, 또는 이미 학습을 담당하는 기존 InfiniBand 아일랜드 등이 그것입니다. OcNOS는 어느 구성에서도 동작합니다. 핵심은 분리가 아키텍처가 강요하는 비용이 아니라 의도적인 설계 선택이어야 한다는 점입니다. 한 팀이 두 워크로드를 하나의 컨트롤 플레인에서 운영할 수 있다면, 역할별로 사이징하고 라이선스한 하나의 패브릭이 마진을 지키는 기본 선택입니다.

추론은 여러 지역 및 엣지 사이트에 분산되고, 빠르게 확장·축소되며, 엄격한 지연 목표를 유지하므로 네트워크에는 탄력적 용량, 모든 계층의 이중화, 사이트 간 저지연 트랜스포트가 필요합니다. IP Infusion은 전체 경로를 포괄합니다. 데이터센터 패브릭, 사이트 간 트랜스포트와 IP over DWDM, 그리고 어슈어런스를 위한 IP Maestro입니다.

네오클라우드는 스위치와 소프트웨어를 멀티벤더 공급망에서 독립적인 주기로 구매하므로, 하드웨어, 소프트웨어, 리드 타임 어느 것에서도 특정 벤더에 종속되지 않습니다. 개방형 머천트 실리콘 스위치의 OcNOS는 독점 플랫폼보다 낮은 하드웨어 비용으로 AI 패브릭을 나르며, 소프트웨어와 지원은 여전히 한 벤더가 하나의 계약으로 책임집니다.