ODCC開放數(shù)據(jù)中心委員會(huì)：2025年云邊協(xié)同AI網(wǎng)絡(luò)技術(shù)白皮書.pdf

ODCC開放數(shù)據(jù)中心委員會(huì)：2025年云邊協(xié)同AI網(wǎng)絡(luò)技術(shù)白皮書。DeepSeek 發(fā)布后，AI應(yīng)用流量持續(xù)上漲、推理和智能體驅(qū)動(dòng)了 算力需求的爆炸式增長，邊緣算力開始成為中心算力的快速補(bǔ)充，未 來將形成云邊協(xié)同的分布式算力基礎(chǔ)設(shè)施，邊緣高集成輕量算網(wǎng)集群 技術(shù)、云邊協(xié)同技術(shù)等將成為分布式算力協(xié)同發(fā)展的技術(shù)加速器，在 此背景下，本項(xiàng)目將分析分布式算力基礎(chǔ)設(shè)施下AI推理及訓(xùn)練的流 量特性及對(duì)網(wǎng)絡(luò)的需求，研究邊緣AI網(wǎng)絡(luò)技術(shù)、云邊互聯(lián)網(wǎng)絡(luò)技術(shù)、 分布式算力的統(tǒng)一納管調(diào)度技術(shù)以及云邊協(xié)同AI能力等。

分布式算力基礎(chǔ)設(shè)施覆蓋云邊包含中心算力機(jī)房、自有邊緣算力 機(jī)房、多云/第三方合作算力機(jī)房等。在此基礎(chǔ)設(shè)施上提供各種AI應(yīng) 用及AI云服務(wù)，例如聊天機(jī)器人、AI知識(shí)庫、云AI及智能體開發(fā) 平臺(tái)、圖片生成等AI服務(wù)。

針對(duì)云邊協(xié)同的分布式算力基礎(chǔ)設(shè)施，一方面是構(gòu)建邊緣GPU 算力網(wǎng)絡(luò)集群網(wǎng)絡(luò)，包含AI推理請求和存儲(chǔ)的前端網(wǎng)絡(luò)、GPU間通 信的后端網(wǎng)絡(luò)。另一方面是要構(gòu)建連接中心算力和邊緣算力的云邊互 聯(lián)網(wǎng)絡(luò)，為算力的統(tǒng)一調(diào)度和管理提供穩(wěn)定可靠的網(wǎng)絡(luò)通道，以承載 推理請求及響應(yīng)、模型文件、容器鏡像及軟件包傳輸?shù)取?/p>

AI 云平臺(tái)等通常位于中心云，也逐漸擴(kuò)散到邊緣側(cè)，構(gòu)建分布 式協(xié)同的AI平臺(tái)，包含算力納管、資源調(diào)度、推理及訓(xùn)練框架、對(duì) 象存儲(chǔ)、鏡像源、數(shù)據(jù)傳輸?shù)戎谓M件。通過邊緣算力的統(tǒng)一管理和 調(diào)度，可實(shí)現(xiàn)算力的彈性擴(kuò)展、更短的響應(yīng)時(shí)延和更輕量地應(yīng)用部署。