存儲(chǔ)行業(yè)深度報(bào)告：AI服務(wù)器存儲(chǔ)量?jī)r(jià)齊升，算力需求推動(dòng)HBM市場(chǎng)數(shù)倍增長(zhǎng).pdf

存儲(chǔ)行業(yè)深度報(bào)告：AI服務(wù)器存儲(chǔ)量?jī)r(jià)齊升，算力需求推動(dòng)HBM市場(chǎng)數(shù)倍增長(zhǎng)。AI 算力升級(jí)帶動(dòng)服務(wù)器的 CPU 迭代并提升 GPU 需求，帶動(dòng) AI 服務(wù)器存儲(chǔ)容 量和價(jià)值量較傳統(tǒng)服務(wù)器數(shù)倍增長(zhǎng)。訓(xùn)練型 AI 服務(wù)器中 GPU 承擔(dān)大部分算力， 算力要求推動(dòng)了 HBM 等新型存儲(chǔ)器超百億美元新興市場(chǎng)，進(jìn)而提升 Bumping、 TSV、CoWoS 等先進(jìn)封裝工藝需求，并帶來減薄、鍵合、模塑、測(cè)試等設(shè)備以 及 EMC、電鍍液、PSPI 等材料的增量需求。疊加國(guó)內(nèi)自主可控需求持續(xù)增長(zhǎng)， 國(guó)內(nèi)存儲(chǔ)及 HBM 等催生的先進(jìn)封裝產(chǎn)業(yè)鏈發(fā)展空間巨大。

AI 服務(wù)器 CPU 和 GPU 隨算力需求而升級(jí)，對(duì)存儲(chǔ)器容量和價(jià)值量均有數(shù)倍 拉動(dòng)。傳統(tǒng)服務(wù)器以 CPU 作為算力核心，隨著 AI 訓(xùn)練模型的算力要求不斷 提升，CPU 的核心數(shù)、主頻、線程數(shù)量均不斷提升，但僅靠 CPU 已經(jīng)無法 滿足算力需求，需要搭配 GPU 進(jìn)行多線程數(shù)據(jù)處理，主流訓(xùn)練型服務(wù)器一般 搭配 8 個(gè) GPU。AI 服務(wù)器用到的主要存儲(chǔ)器包括 CPU 內(nèi)存、GPU 顯存和硬 盤 NAND 等，存儲(chǔ)器容量和價(jià)值量均較普通服務(wù)器有數(shù)倍提升，1）DRAM： 英偉達(dá)訓(xùn)練型 AI 服務(wù)器中的 CPU DRAM 容量高達(dá) 2TB，另外單個(gè) GPU 一 般搭載 80GB 以上的 HBM 存儲(chǔ)器，AI 服務(wù)器 HBM 總?cè)萘款A(yù)計(jì)超 640G，總 內(nèi)存容量相較普通服務(wù)器有 4-8 倍的提升，僅 CPU 內(nèi)存價(jià)值量預(yù)計(jì)有 5 倍的 提升，GPU 的 HBM 則為純?cè)隽渴袌?chǎng)；另外，服務(wù)器內(nèi)存也在不斷迭代，目 前普通的服務(wù)器均多配備 DDR4，但最先進(jìn)的 AI 服務(wù)器已經(jīng)搭配了 DDR5 或 LPDDR5；2）NAND：AI 服務(wù)器的硬盤容量高達(dá) 30TB，相較傳統(tǒng)服務(wù)器提 升 2-4 倍，另外傳統(tǒng)服務(wù)器同時(shí)使用機(jī)械硬盤和固態(tài)硬盤（SSD），但 AI 服 務(wù)器基本全部使用 SSD，整體價(jià)值量較普通服務(wù)器預(yù)計(jì)提升 10 倍左右。

HBM 能夠突破訓(xùn)練型 AI 服務(wù)器的 GPU 帶寬極限，2024 年增量空間預(yù)計(jì)超 百億美元。HBM（High Bandwidth Memory）即高帶寬存儲(chǔ)器，是基于 2.5/3D 封裝技術(shù)的一種新型 CPU/GPU 內(nèi)存芯片，將 DRAM Die 垂直堆疊，Die 之 間通過 TSV 的方式連接。HBM 能夠以低功耗產(chǎn)生高帶寬，因此廣泛搭配訓(xùn) 練型 AI 服務(wù)器的 GPU 使用，訓(xùn)練型 AI 服務(wù)器對(duì) HBM 需求的拉動(dòng)主要體現(xiàn) 在：1）AI 服務(wù)器搭載 GPU 數(shù)量的提升：由普通服務(wù)器的 2 個(gè)提升至目前的 8 個(gè)；2）單個(gè) GPU 搭載 HBM Stack 數(shù)量的提升：在 HBM1 方案中，單個(gè) GPU 搭載 4 個(gè) HBM1，而在目前 HBM2e 或 HBM3 方案中，一般單個(gè) GPU 搭配 6 個(gè) HBM Stack；3）HBM 堆疊的 DRAM 層數(shù)和容量增多：從 HBM1 到 HBM3，單個(gè) DRAM Die 密度從 2Gb 提升至 16Gb，堆疊高度從 4Hi 提升 至 12Hi，單個(gè) HBM 疊層容量從 1GB 提升至 24GB。Trendforce 預(yù)計(jì) 2025 年全球服務(wù)器出貨量為 1700 萬(wàn)臺(tái)，當(dāng)前 AI 服務(wù)器滲透率大概不足 2%，假設(shè) 2024 年 AI 服務(wù)器滲透率約 4%，按照每個(gè) AI 服務(wù)器搭載 8 個(gè) GPU、每個(gè) GPU 搭載 6 個(gè)共 80GB 至 100GB 及以上的 HBM Stack 的方案測(cè)算，那么 2024 年 AI 服務(wù)器帶來的 HBM 增量空間預(yù)計(jì)超百億美元。