深度學習平臺可以解決什么問題？

深度學習平臺解決大模型落地關鍵挑戰，釋放大模型潛能。

一、實現算法模型創新開發

從編程范式來說，當前主流深度學習平臺均支持動靜統一的編程范式，即同時支持動態圖和靜態 圖兩種類型，在實現動態圖高效開發訓練的同時，也支持開發后一行代碼轉靜態圖的訓練加速和 部署，可以大幅度提升開發者算法研發準確率和生產部署效果。從算法模型庫來說，深度學習平 臺作為模型開發后資產沉淀的主要承載，可提供業界領先的算子和模型結構，幫助開發者基于大 模型進行下一步調優和創新，提升研發和應用效率。從工具組件來說，深度學習平臺不斷融合強 化學習、聯邦學習、圖學習、量子計算、生物計算等前沿技術，提供所需的專業化框架套件和解決 方案，滿足大模型在廣泛應用場景的落地需求，例如飛槳打造圖學習框架PGL，提供異構圖數據采 樣和存儲能力，以及圖卷積神經網絡、圖注意力網絡、基于圖卷積的無監督學習網絡等模型，并結 合分布式嵌入存儲能力實現大規模分布式訓練。

二、支持企業全流程協同管理

大模型是人工智能算法的先進性成果，還需配合深度學習平臺提供覆蓋數據管理、模型開發、訓 練調優、推理部署、協同監管為一體的全流程研發套件，來滿足企業用戶側的應用服務系統化開 發管理需求。深度學習平臺通過端到端的開發部署能力，縱深打造專業化能力套件，配合通用大 模型、任務大模型以及行業大模型，賦能政府和企業不同場景下的自主AI模型開發。例如百度全功 能AI開發平臺BML整合底層開源框架以及上層數據處理、模型開發建模、模型訓練管理以及端側 部署能力，支持多種方式建模和調參選擇，輔助企業實現一站式模型定制能力。

三、加快大模型訓練部署

在模型訓練方面，數億參數的大模型讀寫、存儲和訓練成本巨大，因此需要深度學習平臺提供高 效的大規模分布式訓練技術，根據模型參數以及訓練數據量的不同，實現底層資源彈性調度管 理，全自動選擇最優并行策略技術、高效計算及通信技術。另外，面對多樣化的底層硬件，深度學 習平臺也需要加快GPU、CPU、ASIC、FPGA等多類型芯片的軟硬適配，從而在自定義優化、統一硬 件接口、自動化編譯等方面提升模型訓練速度。在模型部署方面，深度學習平臺需要滿足大模型 的云邊端部署推理需求，覆蓋服務器端、移動端、邊緣端、網頁端等不同硬件場景的推理引擎，并 提供模型壓縮工具對大模型進行蒸餾、剪枝來適配端側設備的性能要求和存儲條件。同時，平臺 也需提供統一的API接口，助力開發者進行無代碼調用部署。