교착 상태 복구 · RoCEv2 · 무손실

PFC 데드락 감지 및 복구

PFC 데드락은 무손실 패브릭을 무기한 멈추게 할 수 있는 유일한 장애입니다. 일시 정지된 우선순위 큐가 서로를 기다리는 순환 버퍼 종속성입니다. OcNOS-DC 교착 상태 감지 및 복구는 포트별·우선순위별로 동작합니다. Broadcom Tomahawk 3, 4, 5, Trident 3(X4, X5, X7) 및 Trident 4에서 일시 정지된 큐 순환을 감지하고 작업이 멈추기 전에 큐를 자동으로 비웁니다.

포트별및 우선순위별 교착 상태 감지
설정 가능감지 및 복구 타이머
TH3~TH5및 Trident 3(X4, X5, X7)와 Trident 4
OcNOS-DC PLUS라이선스 티어

3-스위치 일시 정지 순환

순환 종속성에 있는 세 개의 스위치. 각각이 자체 무손실 우선순위 큐에서 일시 정지되어 다음 스위치가 큐를 비우기를 기다립니다. 개입이 없으면 이 순환은 영원히 안정적으로 유지됩니다. OcNOS 교착 상태 감지는 구성된 타임아웃 후 작동하여 Switch-A의 큐 3을 비우고, 순환이 붕괴됩니다.

PFC 데드락 사이클 및 그 복구 삼각형으로 배치된 스위치 3대. 일시 중지 화살표가 각 스위치에서 다음 스위치로 시계 방향을 가리키며, 각 스위치가 하위 스위치를 기다리며 멈춰 있음을 나타냅니다. Switch-A의 타이머 아이콘은 OcNOS 교착 상태 감지 타이머가 만료되어 큐를 비우고 순환을 끊는 모습을 보여 줍니다. PFC 일시 정지 (CoS 3) PFC 일시 정지 PFC 일시 정지 WD 타이머 만료 queue 3 드레인 Switch-AQ3 일시 중단B 대기 중 Switch-BQ3 일시 중단C 대기 중 Switch-CQ3 일시 중단A 대기 중 PFC 교착 상태 · 감지 타임아웃 · 큐 비우기 · 자동 복구

PFC가 데드락을 유발하는 방식

PFC는 RoCEv2를 무손실로 만드는 요소이며, 정상적인 토폴로지에서는 결코 문제를 일으키지 않습니다. 이 장애 모드는 멀티패스 패브릭에서 일시 정지된 큐 순환이 닫힐 때만 나타납니다.

PFC는 홉 단위 일시 정지입니다. 스위치는 무손실 인그레스 큐가 임계값을 넘어 채워지면 상류에 일시 정지를 발동하고, 상류는 전송을 멈춥니다. 흐름 방향이 단일한 트리 토폴로지에서는 이것이 안전합니다. 여러 경로를 가진 leaf-spine 패브릭에서는 링크 장애를 우회하는 ECMP 리라우팅이 특정 조건에서 모든 스위치가 다음을 기다리며 일시 정지되는 순환 경로를 만들 수 있습니다. 일시 정지된 우선순위 큐가 서로를 기다리는 그 순환 버퍼 종속성이 PFC 데드락입니다.

순환이 일단 형성되면 안정적입니다. 일시 정지된 프레임을 담을 충분한 버퍼가 있고, 라우팅 프로토콜은 모든 것이 수렴되었다고 믿으며, PFC는 모든 스위치에서 계속 일시 정지를 재발동합니다. 개입이 없으면 영향을 받는 무손실 우선순위는 무기한 멈춥니다. RoCEv2 트래픽이 멈추고, xCCL(RCCL, oneCCL) collective가 타임아웃되며, 학습 작업이 정체됩니다.

OcNOS-DC 교착 상태 감지 및 복구

일시 정지된 큐 순환을 감지하고 작업이 멈추기 전에 영향받는 큐를 비운 뒤 스스로 정상 PFC를 복원하는 포트별·우선순위별 타이머입니다. 감지, 복구, 복원이 핵심 삼중 요소이며, 튜닝과 라이선싱이 이를 보완합니다.

감지

포트별, 우선순위별 타이머

인그레스 포트별·무손실 우선순위별로 타이머가 실행됩니다. 우선순위가 구성된 감지 기간 동안 지속적으로 일시 정지되면 교착 상태 감지가 작동하고 복구가 시작됩니다.

복구

자동 큐 드레인

탐지가 트리거되면 구성된 복구 시간 동안 복구가 실행됩니다. 기본적으로 일시 정지되었던 트래픽이 전달되어 사이클이 해소됩니다. 복구 동작을 드롭으로 설정하면 해당 프레임이 드롭되고 RDMA NIC가 이를 재전송합니다.

원상 복귀

복구 후 자동 복원

구성된 복구 간격이 지나면 해당 priority에서 정상적인 PFC 동작이 재개됩니다. 운영자 개입이 필요 없습니다.

조정 가능

운영자가 구성 가능한 타이머

Detection multiplier, time granularity, recovery time은 인터페이스별로 CLI에서 구성할 수 있습니다. 운영자는 중요도가 높은 클러스터에서 타이머를 단축할 수 있습니다.

적용 범위

DC-PLUS 라이선스 등급

OcNOS-DC PLUS SKU의 일부입니다. Broadcom Tomahawk 3, Tomahawk 4, Tomahawk 5, Trident 3(X4, X5, X7) 및 Trident 4 플랫폼에서 지원됩니다.

교착 상태 복구는 나머지 무손실 스택 아래의 안전망입니다

가장 좋은 데드락은 결코 형성되지 않는 데드락입니다. 혼잡 제어, 그것이 보호하는 무손실 트랜스포트, 그리고 동적 로드 밸런싱 모두가 애초에 큐를 일시 정지 임계값에서 멀어지게 유지하며, 데드락 복구는 그것들이 실패했을 때의 마지막 방어선입니다.

혼잡 제어

DCQCN 인그레스 큐가 PFC 임계값까지 채워지기 전에 ECN으로 플로우를 마킹하고 조절하므로, 일시 정지가 훨씬 덜 발동되고 순환이 닫힐 기회가 거의 없습니다.

무손실 트랜스포트

RoCEv2 는 PFC가 보호하기 위해 존재하는 RDMA 트랜스포트입니다. 교착 상태 복구는 대규모에서 RoCEv2를 무손실로 운영하는 것을 이론적으로 위험한 일이 아니라 안전한 일로 만듭니다.

동적 로드 밸런싱

DLB 는 혼잡한 업링크에서 플로우렛을 재배치하여 부하를 분산하므로, 인그레스 큐가 일시 정지를 유발하는 임계값에 도달할 가능성이 줄어듭니다.

드물다는 것이 결코 없다는 뜻은 아니며, 그것이 핵심입니다

적절한 토폴로지와 라우팅으로 잘 설계된 패브릭에서는 PFC deadlock이 드뭅니다. 그럼에도 deadlock 복구가 중요한 이유는 그 조건이 여전히 발생할 수 있기 때문입니다.

무엇이 이를 유발하는가

라우팅 컨버전스 윈도우 중의 링크 장애, 단일 포트에서의 PFC 우선순위 오구성, 또는 비정상적인 트래픽 패턴에서의 일시적 혼잡 이벤트가 모두 그 조건을 만들 수 있습니다.

교착 상태 복구가 없으면

데드락이 형성되면 AI 클러스터가 멈추고, 운영 팀은 라우팅 프로토콜이 정상이라고 보고하는 멈춤을 추적하게 됩니다.

교착 상태 복구가 있으면

정체된 작업 대신 짧은 재전송 버스트와 기록된 이벤트를 얻습니다. AI Fabric Sizing Tool로 데드락을 드물게 유지하는 토폴로지와 스위치 계층을 설계하십시오.

교착 상태 복구가 대규모에서 PFC 배포를 안전하게 만드는 이유

무손실 이더넷에 대한 유일한 이론적 반론을 기록되고 스스로 해소되는 이벤트로 바꿉니다.

  • 무손실 안전망. 교착 상태 복구는 "상용 AI 패브릭에서 PFC는 이론적으로 위험하다"와 "PFC는 대규모로 안전하게 도입할 수 있다"를 가르는 핵심 요소입니다.
  • 자동 복구. 복구는 구성된 복구 시간 동안 실행된 뒤 정상 PFC가 재개됩니다. 기본적으로 일시 정지되었던 트래픽은 드롭되지 않고 전달됩니다.
  • 인터페이스별 구성. 교착 상태 감지 및 복구는 무손실 트래픽을 전달하는 각 인터페이스에서 감지 및 복구 타이머와 함께 활성화합니다.
  • 중요도에 맞춰 조정 가능. 핵심 학습 클러스터에서는 타이머를 낮추십시오. 다음을 참조하십시오 기능 매트릭스의 PFC 및 인증된 하드웨어 목록.

PFC 데드락, 자주 묻는 질문

PFC 데드락은 무엇 때문에 발생합니까?
PFC는 홉 단위 일시 정지입니다. 멀티패스 패브릭에서는 링크 장애를 우회하는 ECMP 리라우팅이 특정 조건에서 모든 스위치가 다음을 기다리며 일시 정지되는 순환 경로를 만들 수 있습니다. 이 순환 버퍼 종속성은 안정적이며, 무언가가 이를 깨뜨릴 때까지 무손실 우선순위가 멈춥니다.
OcNOS의 PFC 교착 상태 복구는 어떻게 동작합니까?
lossless 우선순위가 설정된 감지 기간 동안 일시 중지된 상태로 유지되면 포트별, 우선순위별 타이머가 작동합니다. 이후 복구가 설정된 복구 시간 동안 실행되고 오퍼레이터의 개입 없이 자동으로 종료됩니다. 기본적으로 복구 중에는 일시 중지되었던 트래픽이 전달되며, OcNOS에서 대신 드롭하도록 설정할 수도 있습니다.
교착 상태 복구는 트래픽을 폐기합니까?
기본적으로는 그렇지 않습니다. 복구 중에 OcNOS는 일시 중지되었던 트래픽을 전달합니다. 복구 동작을 드롭으로 설정하면 복구 구간의 프레임이 폐기되고, RDMA NIC 전송 계층이 이를 재전송합니다.
PFC 교착 상태 감지는 기본적으로 활성화되어 있습니까?
교착 상태 감지 및 복구는 인터페이스별로 활성화하며, 감지 및 복구 타이머는 CLI로 설정합니다. 이는 Broadcom Tomahawk 3, Tomahawk 4, Tomahawk 5, Trident 3(X4, X5, X7) 및 Trident 4 플랫폼에서 OcNOS-DC PLUS SKU의 일부입니다.

새 패브릭에서 무손실 동작을 검증하고 계신가요? 교착 상태 복구부터 시작하십시오

워크로드와 GPU 규모를 알려주시면 IP Infusion 엔지니어가 함께 무손실 설계를 검토해 드리며, AI Fabric Design Suite에서 1차 leaf-spine 레이아웃으로 시작하실 수도 있습니다.