AI推理需求如何改變存儲技術架構與市場需求結構？

AI大模型的演進驅動存儲需求向更大、更密、更“寬”的方向發展。在訓練側，核心矛盾在于算力，需求側重于高吞吐、高可靠以及更大的顯存容量；而在推理側，核心矛盾正轉向帶寬與功耗，需求側重于低延遲、高并發以及更低成本。

在市場需求結構上，服務器逐步超越手機成為存儲需求最主要的市場。預計2026年服務器DRAM占比將超過50%，服務器NAND Bit需求預計大增超60%并首次成為最大應用。具體而言，AI與高端通用服務器對高密度DDR5、LPDDR5X及HBM持續拉動，單臺AI服務器DRAM用量達傳統服務器2倍。

在技術架構方面，AI推理帶來的SSD需求增長，使其從傳統“冷數據存儲”轉變為銜接海量數據與顯存間的“高速緩沖數據公路”。為解決首字延遲并提高每秒Token生成數，系統在冷啟動時必須在秒級內將數百GB的模型文件從外存灌入顯存，催生了對PCIe 5.0等超高順序讀取帶寬和隨機IOPS的剛性需求。同時，為了解決大模型幻覺并提供實時信息，需要頻繁檢索數TB甚至PB級的企業知識庫，導致外存數據量指數級放大，推動了高密度、低功耗、超大容量企業級QLC SSD對傳統機械硬盤的加速替代。

此外，高帶寬閃存（HBF）作為打破“內存墻”的新型非易失性存儲技術，通過垂直堆疊3D NAND Flash晶圓并利用TSV技術與邏輯控制層融合，在保持閃存超大容量和非易失性的同時，提供亞微秒級讀取延遲。HBF成為緊貼AI加速芯片的“超大容量高速硬緩存層”，適配“讀多寫少”的AI推理及長文本承載，與HBM協同構建分層存儲體系，大幅降低硬件總成本。