DCQCN:面向 RDMA 的量化拥塞控制
DCQCN(Data Center Quantized Congestion Notification)是一种端到端拥塞控制机制,使无损 RoCEv2 fabric 无需长期处于 PFC 暂停状态即可运行。 交换机提前进行 ECN 标记,接收端回送 CNP,发送端随之量化调整速率,使发送端在队列溢出前降速。
DCQCN 闭环
发送端 NIC、拥塞交换机、接收端 NIC。交换机的 WRED ECN 标记器会在队列触及 PFC 暂停阈值之前触发。接收端生成拥塞通知包(CNP);发送端的反应点降低速率,随后回升。无损、无 PFC 压力、快速收敛。
DCQCN 在 AI 网络中所承担的工作
RoCEv2 有两种处理拥塞的方式:PFC 暂停,这是一种逐跳传播的反压;以及 DCQCN,一种端到端的速率控制环。仅靠 PFC 也能奏效,但它会把拥塞向上游推挤,存在暂停风暴和队头阻塞的风险。DCQCN 在 PFC 之前起作用,在队列达到暂停阈值之前就用 ECN 标记数据包,使发送端在交换机不得不发出暂停之前就放慢速度。
做得好,您 fabric 生命周期的大部分时间都只依赖 DCQCN 反馈,以 PFC 作为安全兜底。做得差,ECN 阈值与 PFC headroom 不匹配,即便配置了 DCQCN,您仍会遭遇 pause 风暴。
接收端回送 CNP
针对每条被标记的流,向发送端回送一个 CNP,速率限制约为 每条流每 50 µs 一个.
PFC 暂停与 DCQCN,并排对比
两者都能让 RoCEv2 保持无损,但作用点不同。调优目标是让 fabric 的绝大部分运行时间依靠 DCQCN 反馈,而把 PFC 作为兜底手段保留。
| 维度 | PFC 暂停最后防线 | DCQCN主控制 |
|---|---|---|
| 机制 | 逐跳向上游传播的反压。 | 从发送端到接收端的端到端速率控制环。 |
| 触发点 | 当队列达到暂停阈值时触发。 | 在队列达到暂停阈值之前标记 ECN。 |
| 失效模式 | 存在暂停风暴和队头阻塞的风险。 | 发送端在交换机不得不发出暂停之前就放慢速度。 |
| 在 fabric 中的角色 | 仅作为安全兜底,用于缓冲区仍被填满的情况。 | 在 fabric 绝大部分运行时间里担任主控制。 |
| 适用范围 | 链路级,逐跳进行。 | 端到端,从发送端一路到接收端。 |
OcNOS-DC 中的 ECN 标记
基于 VXLAN 的 ECN
在 Trident 3(X4、X5、X7)和 Trident 4 平台上,ECN 位在 VXLAN 封装和解封装过程中得以保留,因此 DCQCN 可在 EVPN-VXLAN overlay 上端到端生效,而不仅限于 underlay。
许可层级
PFC 和 ECN 包含在 OcNOS-DC IPBASE 和 PLUS SKU 中。Dynamic ECN、PFC 死锁检测与恢复,以及基于 VXLAN 的 PFC 和 ECN 包含在 PLUS SKU 中。
为什么这一点比听起来更重要
ECN 阈值失调有两种看似相反的情形,但都会让 fabric 调校失当。
- 配置了 ECN 却从不标记(K-min 过高):PFC 承担了全部拥塞控制负担。
- ECN 标记过于激进(K-min 过低):在出现任何真正拥塞之前,发送端就已降速。
DCQCN 常见问题解答
什么是 DCQCN?
DCQCN 如何工作?
DCQCN与PFC如何协同工作?
DCQCN 中的 ECN K-min 和 K-max 阈值是什么?
DCQCN 是否需要 RoCEv2?
深入了解,随身带走。
产品数据手册,以及内容比本页更为深入的简明技术下载资料。
OcNOS-DC 数据手册
完整的 OcNOS-DC 规格:EVPN-VXLAN 与 Ethernet for AI 功能集、软件 SKU、支持的硬件平台,以及解决方案订购指南。
获取数据手册OcNOS 800G 无损 AI Fabric
基于 Tomahawk 5 spine 的无损 RoCEv2 fabric:SKU 等级、经过认证的平台和部署架构。
获取简报EVPN-VXLAN 数据中心网络
基于 EVPN-VXLAN 的 leaf-spine 数据中心 fabric:每租户一个 VRF 和多个 VNI、EVPN 多归属、BGP unnumbered 和 route-target 过滤。
获取简报OcNOS-DC 数据手册
表单简短。提交后您的 PDF 将立即在新标签页中打开。
✓ 正在新标签页中打开您的 PDF……
如果未能自动打开,请使用下方链接。
OcNOS 800G 无损 AI Fabric
表单简短。提交后您的 PDF 将立即在新标签页中打开。
✓ 正在新标签页中打开您的 PDF……
如果未能自动打开,请使用下方链接。
EVPN-VXLAN 数据中心网络
表单简短。提交后您的 PDF 将立即在新标签页中打开。
✓ 正在新标签页中打开您的 PDF……
如果未能自动打开,请使用下方链接。
在为真实工作负载调优 DCQCN?把您的抓包记录交给我们
把您的 ECN 计数器和队列抓包记录发给我们,IP Infusion 的工程师将帮您对齐 K-min、K-max 和 PFC 余量,或先在 AI Fabric Design Suite 中生成一版初步的 leaf-spine 布局。
用 OcNOS 设计整张 AI fabric
从商业论证到端口数量测算,无论您进行到哪一步,都可从此接续。