近日，市場監(jiān)管總局對全球芯片巨頭英偉達(dá)開展反壟斷調(diào)查持續(xù)吸引業(yè)界關(guān)注。核心在于邁絡(luò)思RDMA產(chǎn)品與英偉達(dá)GPU不得強(qiáng)制捆綁，必須允許混合組網(wǎng)。同時，近年來國產(chǎn)GPU在性能、功能和應(yīng)用領(lǐng)域等方面都有了提升，逐漸贏得了市場的認(rèn)可和用戶的信任。這為國產(chǎn)RDMA技術(shù)發(fā)展和市場格局帶來深遠(yuǎn)影響，拉開國產(chǎn)GPU與RDMA技術(shù)的混合組網(wǎng)時代的大幕。

柏睿數(shù)據(jù)作為的智能數(shù)據(jù)算力基礎(chǔ)設(shè)施提供商，持續(xù)加大高性能RDMA技術(shù)的創(chuàng)新和應(yīng)用探索，目前推出小規(guī)模、中大規(guī)模兩種RoCE組網(wǎng)方案。柏睿RoCE組網(wǎng)方案在國產(chǎn)GPU32臺集群（256卡）的混合組網(wǎng)中表現(xiàn)出色。這一成果不僅驗(yàn)證了柏睿數(shù)據(jù)在高性能計算領(lǐng)域的強(qiáng)大實(shí)力，更為國產(chǎn)替代方案提供了有力支持。

?

RDMA即遠(yuǎn)程直接內(nèi)存訪問技術(shù)，是一種革命性的網(wǎng)絡(luò)通信方式。它允許用戶程序直接與網(wǎng)絡(luò)接口卡（NIC）交互，繞過操作系統(tǒng)內(nèi)核及CPU，實(shí)現(xiàn)高效、低延遲的數(shù)據(jù)傳輸。

RoCE則是在以太網(wǎng)基礎(chǔ)設(shè)備上實(shí)現(xiàn)RDMA的技術(shù)，降低了成本并簡化了部署。柏睿RoCE提供了最通用的TCP Socket編程接口，使得RDMA技術(shù)的實(shí)現(xiàn)更加快速和便捷。它能夠更容易地與現(xiàn)有的應(yīng)用程序和系統(tǒng)集成，提高了可移植性、兼容性和易維護(hù)性。

?

柏睿數(shù)據(jù)的RoCE組網(wǎng)方案以其靈活性和高效性著稱。該方案支持國產(chǎn)GPU與RDMA技術(shù)的混合組網(wǎng)，打破了國外技術(shù)壟斷，可以幫助用戶構(gòu)建不同規(guī)模、靈活、可靠、高品質(zhì)的低時延RoCE網(wǎng)絡(luò)，為AI基礎(chǔ)設(shè)施提供了全新的組網(wǎng)選擇和靈活、經(jīng)濟(jì)、高效的技術(shù)支持。

?

柏睿RoCE中大規(guī)模組網(wǎng)中，國產(chǎn)GPU服務(wù)器采用多軌接入方式，通過Leaf-Spine網(wǎng)絡(luò)架構(gòu)實(shí)現(xiàn)高效的數(shù)據(jù)傳輸。GPU 服務(wù)器按交換機(jī)可連服務(wù)器數(shù)量分組，同組內(nèi)的 GPU 服務(wù)器上相同序號的參數(shù)網(wǎng)網(wǎng)卡連接到同一臺 Leaf 交換機(jī)上。少數(shù)需要跨軌通信的場景，通過交換機(jī)互通。

例如，Leaf 交換機(jī)可以連接 32 臺GPU，則可以將 32 臺服務(wù)器分為一組，每個服務(wù)器上安裝8 個參數(shù)網(wǎng)網(wǎng)卡，每個服務(wù)器上的第 n 臺參數(shù)網(wǎng)網(wǎng)卡連接到第 n 臺交換機(jī)上。這種組網(wǎng)方式的優(yōu)勢是流量聚合、高可靠性、低延遲和簡化了網(wǎng)絡(luò)規(guī)劃，GPU集群能夠輕松應(yīng)對大規(guī)模的計算任務(wù)。

?

小規(guī)模組網(wǎng)建議使用單盒或單框方案， GPU 服務(wù)器的所有參數(shù)網(wǎng)網(wǎng)卡均與交換機(jī)互聯(lián)，并針對不同服務(wù)器同序號的網(wǎng)卡配置到相同VLAN 中，減少通信跳數(shù)及通信時延。

柏睿數(shù)據(jù)的RDMA組網(wǎng)方案在成本上也具有顯著優(yōu)勢。與傳統(tǒng)的InfiniBand組網(wǎng)相比，柏睿數(shù)據(jù)的RoCE組網(wǎng)方案能夠大幅降低組網(wǎng)成本，同時提供相當(dāng)甚至更優(yōu)的性能表現(xiàn)。在100Gbps速率下的柏睿RoCE組網(wǎng)方案相比InfiniBand組網(wǎng)方案節(jié)省約36%；400Gbps速率下則能達(dá)到大約14.3%的成本節(jié)約。這使得更多的企業(yè)機(jī)構(gòu)能夠承擔(dān)得起高性能計算集群的建設(shè)和運(yùn)營成本，推動了人工智能和高性能計算的普及和發(fā)展。

?

網(wǎng)絡(luò)規(guī)劃作為鏈接各類設(shè)備的“橋梁”，對于智算中心整體性能發(fā)揮至關(guān)重要。柏睿RoCE混合組網(wǎng)方案將成為滿足這一需求的重要選擇。未來，柏睿數(shù)據(jù)將進(jìn)一步擴(kuò)展智算集群組網(wǎng)規(guī)模，通過持續(xù)的技術(shù)創(chuàng)新與能效優(yōu)化在AI基礎(chǔ)設(shè)施領(lǐng)域持續(xù)跟進(jìn)，為更復(fù)雜的AI任務(wù)提供強(qiáng)大的支持。