ネオクラウドのためのネットワーク：AI トレーニングと推論を 1 つのファブリックで

ネオクラウドは、従来のハイパースケーラーの汎用サービスではなく、トレーニングと推論のための高密度な GPU コンピュートを中心に構築された AI ファーストのクラウド事業者です。ネオクラウドはアクセラレーターの純粋な性能、スケールの速さ、コストで競うため、GPU トラフィックを運ぶネットワークは経済性の中核であり、後付けではありません。

どちらも使われていますが、800G の立ち上がりとともに業界は Ethernet へ向かっています。RoCEv2 を用いた Ethernet は、オープンなマーチャントシリコン上で GPU コレクティブトラフィックを運ぶため、ネオクラウドは単一ベンダースタックなしでロスレスな AI ファブリックを得られます。OcNOS は Priority Flow Control、ECN、適応型ロードバランシングを含む RoCEv2 のツールキット一式を、検証済みのオープンハードウェア上で動かします。

トレーニングと推論は正反対のワークロードです。トレーニングは集中型で帯域を多く消費し、推論は分散型でバースト的、そしてレイテンシが重要です。2 つの別々のネットワークを作ると設備投資と運用コストが二重になります。両方を 1 つの OcNOS ファブリックと 1 つのコントロールプレーンで動かせば、ネオクラウドは同じインフラからトレーニングとあらゆる推論ワークロードを提供でき、そこで営業利益率が改善します。

一部の事業者は、明確な理由からトレーニングと推論を意図的に分離します。テナント間の厳格な分離、チームごとに異なる運用ドメイン、明確な性能境界、あるいはすでにトレーニングを担う既存の InfiniBand アイランドなどです。OcNOS はどちらの構成でも動作します。重要なのは、分離はアーキテクチャに強いられるコストではなく、意図的な設計上の選択であるべきだということです。1 つのチームが両方のワークロードを 1 つのコントロールプレーンで運用できるなら、ロールごとにサイジングしてライセンスした 1 つのファブリックが、マージンを守る既定の選択肢になります。

推論は多数のリージョナル拠点とエッジ拠点に分散し、素早くスケールし、厳しいレイテンシ目標を守るため、ネットワークには弾力的な容量、各レイヤーでの冗長化、拠点間の低レイテンシトランスポートが必要です。IP Infusion は経路全体をカバーします。データセンターファブリック、拠点間のトランスポートと IP over DWDM、そしてアシュアランスのための IP Maestro です。

ネオクラウドはスイッチとソフトウェアをマルチベンダーのサプライチェーンから独立したサイクルで購入するため、ハードウェア、ソフトウェア、リードタイムのいずれでも特定ベンダーに縛られません。オープンなマーチャントシリコンスイッチ上の OcNOS は、専有プラットフォームより低いハードウェアコストで AI ファブリックを運び、ソフトウェアとサポートは 1 社が 1 つの契約で引き続き担います。