AIGC數據存儲解決方案及案例梳理

AIGC數據存儲解決方案采用分布式存儲和備份歸檔作為存儲底座。

1.IGC數據存儲解決方案

AIGC數據存儲解決方案采用分布式存儲和備份歸檔作為存儲底座。采用不同盤位的分布式全閃和混閃存儲 與備份歸檔存儲共同構建統一資源池，分布式并行存儲的burstbuffer功能，能夠智能識別熱點數據，精準分 級。統一資源池和全局文件系統能保證數據跨介質、跨設備流動，防止形成數據孤島，備份歸檔的存儲特性則 保證數據的長期保存和耐久性，具備數據流動能力。

基于數控分離架構、內核親和力調度、多任務并行無鎖I/O和GPU直通存儲等技術，當前方案可以讀寫速度 不同的存儲介質作為AIGC不同階段的存儲池，滿足全流程的數據讀寫要求。在高速存儲池上，當前方案可提供 百GB/s的大帶寬、百萬級IOPS和毫秒級低時延，具備強大的數據處理能力。

從存儲架構上，分布式存儲可橫向擴展，性能和容量線性增長，而隨著存儲單節點所容納盤位數的增加和單 盤容量的增大，目前單存儲節點的容量可以達到1.4PB-2.3PB。同時，此方案使用HDD作為海量數據低成本歸檔 存儲介質，隨著傳統硬盤的存儲密度近年來已經接近極限(約1Tb/in2 ，in表示英寸)，存儲采用新型存儲技術，如疊瓦式磁記錄(SMR)、二維磁記錄(TDMR)、點陣式磁記錄(BPMR)以及能量輔助磁記錄，以降低冷數據歸檔存儲 成本，具備強大的數據容納能力。基于分布式存儲架構和數據、元數據管理功能，則可對外提供數據并行處 理、模型分布式訓練的數據管理能力。 存儲系統發生故障時會導致數據讀寫操作失敗、降低CHK讀寫性能，影響訓練效率。字節級分布式鎖、系 統故障快速恢復、系統故障預測和系統防護相結合，可以加快故障恢復、提前預測故障和進行系統防護，達到 為存儲底座提供全方位保護的效果，保證數據安全。

基于分布式存儲多協議融合互通的功能，該方案可實現同時支持文件、對象和大數據存儲服務，對外同時 提供POSIX、NFS、CIFS、FTP、FTPS、HTTP、HDFS、S3和CSI等多種數據協議，實現不同協議下用戶權限共 享、語義無損、性能一致，同時數據在存儲池內僅保存一份，但是可以通過多種協議訪問，避免不同協議下數 據的拷貝，節省50%的數據存儲空間。而通過全局元數據共享技術則可以構建統一命名空間，支持跨平臺、跨 形態、跨地域的全局數據管理，并對外提供統一的數據視圖，用戶可方便地檢索任意位置系統的數據并進行訪 問，在高速池上可實現10億文件秒級檢索，體現了此方案的數據共享能力。 綜上所述，基于分布式存儲和備份歸檔的AIGC數據存儲解決方案具備數據流動、處理、容納、管理、安全 和共享六種能力，滿足數據采集、數據準備、數據訓練、數據推理和數據歸檔五個階段的存儲要求，可以提供 端到端的數據支持，滿足面向文本、音頻、圖像、視頻、代碼以及多模態和全模態的大模型數據處理的需求。

2.AIGC數據存儲經典案例

2.1 案例一

項目背景： 上海某大學服務國家創新驅動發展戰略，瞄準基礎學科研究的前沿領域，推動學科交叉和科教融合，在光 子科學、人工智能、生物醫藥、能源科學等重大創新領域積極布局，是一所小規模、高水平、國際化研究型、 創新型的大學。該大學和某存儲廠商合作以計算和存儲為平臺融合新技術應用，推進重大科研創新平臺建設， 提升創新體系效能，加速科技創新，共同搭建跨學科多模態人工智能計算平臺。面向多模態大模型訓練，搭建 了跨學科技術研究的平臺，滿足了數字材料、生命制藥、芯片制造、數字孿生、人機協作等多個研究方向的大 模型科研需求。

解決方案： 存儲集群采用先進的全閃存分布式存儲系統，提供高帶寬和高IOPS，同時存儲集群支持高冗余模式，即當 某節點出現故障時，可以自動切換至備用節點，提供存儲系統的高可用性，保障科研平臺數據不丟失，保證了 數據安全性和項目課題運行的持續性。根據后期業務的增長，長期存儲系統在線橫向擴展新的存儲節點，系統 的性能和容量會隨著節點數量的增加線性增長，為科研項目的持續研究保駕護航。

客戶價值： 以上存儲解決方案為計算平臺提供超高的性能支持，可達400萬IOPS和500GB帶寬，滿足大模型訓練過程 中大規模數據讀寫的帶寬需求，有效避免大模型訓練過程中大量小文件token讀取時延的問題，滿足整個存儲資 源的整體性能。同時，該方案可提供全數據生命周期管理的能力，實現數據按熱度進行流動、提供熱、溫、 冷、冰四級存儲介質，實現高效、節能的數據分級存儲。在上層，智能化運維管理平臺，采用AIOPS主動運維監 控、預測分析、提升管理效率、降低運維成本。以上功能特性滿足AIGC模型訓練場景下極低時延與極高IOPS需 求。滿足跨學科領域研究的需求，為智慧醫療、智能感知、人機協同、數字孿生、材料發現、芯片制造、視覺 影像多個研究方向的大模型研究提供了安全可靠的數據存儲底座。

2.2 案例二

項目背景： 隨著AIGC大模型的快速發展，對于稀缺計算資源的需求越來越大，在拓展AIGC模型訓練和推理時，如何構 建千卡、萬卡大集群，考驗的不僅是硬件的集成能力，更重要的是如何合理分配算力資源和存力資源，并最大化 釋放算力。大模型的語料信息和參數越來越大，通過存儲系統在多臺算力節點之間交換數據的效率越來越重要， 低效的數據存取也將成為整個計算集群的性能瓶頸。同時，參與AIGC訓練的海量數據特征復雜，對數據特征的操 作包括選擇、提取、縮放等一系列特征工程，對提高模型的泛化能力至關重要，更好地管理數據特征是亟需解決 的問題。

解決方案： 某存儲方案可以將各種異構計算匯聚，共享硬件資源（包括CPU、Memory、GPU、FPGA等），按需動態 構建各種AIGC計算框架、模型并行、算法并行并內置多種機器學習算法，實現算法推薦、自動構建模型、可視 化數據特征、優化模型訓練，最大程度簡化用戶的工作；底層采用多套存儲系統組合方案，根據數據類型不同 提供多種數據存取服務，全閃存并行文件系統提供超大帶寬和極速海量小文件的處理能力；該存儲數據管理系 統通過獨特的數據感知引擎和分布式圖引擎，為AI特征工程提供有效支撐。

客戶價值： 該方案的平臺配置的存儲系統采取分級策略，配置一級高性能存儲+二級大容量存儲，實現數據在不同層級 間自由流轉。存儲模塊全部支持多種存儲類型，多種功能模塊協同工作，打破單一軟硬件技術壁壘，使業務運 行更加順暢。并且該方案提供閃存存儲空間300TB，存儲吞吐可達100GB/s+。該解決方案配備高性能存儲系 統，為用戶提供強大、高效的數據存儲空間和數據訪問的能力，同時提供了多種數據特征提取、整合，多維度 動態組織數據集的能力，為用戶“再創新，再發現”提供了強力的工具。計算模塊提供了異構計算框架的兼容 能力，復雜流程的解析能力/并發能力和異構資源的高效利用能力。實現一套集群中多種業務并行，多種計算并 行，多租戶共享。

2.3 案例三

項目背景： 某醫學研究中心，主要業務為醫學影像，如X光片、CT（計算機斷層掃描）、MRI（磁共振成像）等的分析 和仿真影像生成，同時涉及多模態數據交互和跨模態生成。為滿足大規模醫學數據高效處理需求，該中心建設了 一個包含500個節點的算力集群，專門用于醫學影像的深度學習訓練和內容生成。為支持大規模模型訓練和數據 處理需求，中心決定采用分布式存儲系統作為后端數據存儲底座，以同時滿足高性能、海量存儲、靈活擴展的要求。其中，配置了全閃存儲集群來支持數百億參數的醫學影像生成模型的訓練和推理，通過提供高性能存儲解 決方案，保證訓練、推理各個階段數據傳輸效率和數據的安全性。 客戶需要一套高性能的全閃存儲系統，支持數百億參數的醫學影像生成模型訓練，規劃3PB全閃存儲集群， 要求聚合帶寬200GB/s，集群OPS達到350萬。為了支持數據采集、預處理和歸檔，客戶還需要一套大容量的混 閃存儲系統，規劃30PB混閃存儲集群，要求性能達到50GB/s，集群OPS為135萬。醫療數據的安全和隱私保護 至關重要，客戶要求存儲系統在保證高性能的同時，必須具備強大的數據安全和隱私保護機制。

解決方案： 為滿足大規模醫學影像生成模型訓練的需求，提供一套3PB的全閃存儲集群，與500節點的算力集群進行交 互。全閃存儲集群主要負責支撐AI模型訓練和推理流程，滿足客戶對存儲集群帶寬和OPS的高要求。針對數據采 集、預處理和歸檔階段的需求，配備30PB的混閃存儲集群。該集群采用多個獨立資源池，分別支持大規模數據 的采集、預處理和歸檔存儲。針對數據安全和隱私保護需求，通過數據傳輸和存儲的加密以及嚴格的訪問控制 和審計策略來確保。

客戶價值： 數據預處理階段有大量醫學影像數據需要快速上傳和預處理。通過優化數據路徑，減少數據傳輸路徑中的 瓶頸，提高上傳和預處理速度。通過并發優化算法，提升多客戶端同時上傳和處理數據的效率（上傳速率和性 能），利用智能緩存技術，加快常用數據的訪問速度，高并發上傳和智能緩存技術使數據處理時間節省30%。 模型訓練階段深度學習模型訓練需要高性能存儲系統，訓練過程中需要頻繁讀取和寫入大量數據，因此需要較 高的吞吐性能，3PB全閃存儲集群支持高帶寬和高OPS，滿足深度學習模型訓練需求。數據分片和并行處理技術 通過將大文件分成多個小塊存儲和處理，提高數據存儲和訪問效率。通過內置的智能調度算法自動調整存儲資 源分配，確保高性能需求的訓練任務順利進行。通過全局去重技術，減少重復數據存儲量，提升存儲利用率。 全閃存儲集群優化后，聚合帶寬達到250GB/s，OPS超過400萬，訓練和推理效率提升110%。多層次的數據保 護機制確保醫療數據的安全性和隱私保護，提升系統的合規性和可靠性，確保了研究中心醫療影像數據安全的 相關保密規定得到嚴格落實。