AI時代的通信網絡專題：需求從何而來，創新將走向何方？.pdf

AI時代的通信網絡專題：需求從何而來，創新將走向何方？網絡是AI大模型時代的關鍵一環。大模型時代，我們已經開始看到光模塊、 交換機等網絡設備迭代加速，需求爆發。但市場對于為何顯卡需要搭配大量 光模塊，以及通信為何成為大模型痛點體會較淺。本文中，我們將從原理出 發，探討網絡為何成為AI時代的全新“C位”，并將從最新的產業變化中， 討論未來網絡側的創新與背后的投資機會。

網絡需求從何而來？進入大模型時代，模型體積和單卡上限之間的差距迅速 拉大，業界轉而尋求多服務器集群來解決模型訓練問題，這也構成了AI時 代網絡“上位”的基礎。同時，相較于過去單純用于傳輸數據，如今網絡更 多的用于同步顯卡間的模型參數，對于網絡的密度，容量都提出了更高要求。

日益龐大的模型體積：（1）訓練耗時=訓練數據規模 x 模型參數量/計算 速率（2）計算速率=單設備計算速率x設備數x多設備并行效率。當下， 業界對于訓練數據規模和參數的雙重追求下，唯有加速提升計算效率，才能 縮短訓練耗時，而單設備計算速率的更新有其周期和限制，因此如何利用網 絡盡可能的擴大“設備數”和“并行效率”直接決定了算力。

多卡同步的復雜溝通：在大模型訓練過程中，將模型切分至單卡后，每經過 一次計算，單卡之間都需要進行對齊（Reduce、Gather 等），同時，在 英偉達的通信原語體系NCCL中，All-to-All（即所有節點都可以互相獲取值 并對齊）的操作較為常見，因此對網絡之間的傳輸和交換提出了更高的要求。

愈發昂貴的故障成本：大模型的訓練往往持續數月以上，而中間一旦發生中 斷，需要回到幾小時或者幾天前的斷點進行重新訓練。而整個網絡中某一個 軟硬件環節的故障，或者過高的延遲，都有可能導致中斷。更多的中斷，代 表著落后的進度和愈發高昂的成本?，F代的AI網絡，已經漸漸發展成堪比 飛機、航母等的人類系統工程能力的結晶。

網絡創新將走向何方？硬件隨需求而動，經過兩年，全球算力投資規模已經 膨脹到數百億美元級別，而模型參數的擴張，巨頭的慘烈廝殺依然激烈?，F 如今，“降本”、“開放”和算力規模之間的平衡將是網絡創新的主要議題。

通信介質的更迭：光、銅與硅是人類傳輸的三大介質，在AI時代，光模塊 追求更高速率的同時，也邁出了LPO、LRO、硅光等降本之路。在當前時間 點，銅纜憑借性價比，故障率等因素占領了機柜內連接。而 Chiplet， Wafer-scaling 等新半導體技術，則正在加速探索硅基互聯的上限。

網絡協議的競爭：片間通信協議與顯卡強綁定，如英偉達的NV-LINK，AMD 的Infinity Fabric 等等，其決定了單臺服務器或者單個算力節點的能力上限， 是非常殘酷的巨頭戰場。而IB與以太網的斗爭則是節點間通信的主旋律。

網絡架構的變化：當下節點間網絡架構普遍采用葉脊架構，葉脊具有便捷、 簡單、穩定等特點。但隨著單個集群節點數增多，葉脊稍顯冗余的架構會給 超大集群帶來較大的網絡成本。當下，如Dragonfly架構，rail-only架構等 新架構有望成為面向下一代超大集群的演進方向。