計算機行業：NV Rubin新架構&Agent存儲最強方向，GPU Native數據庫【星環科技】.pdf
- 上傳者：v*****
- 時間：2026/01/09
- 熱度：451
- 0人點贊
- 舉報
計算機行業：NV Rubin新架構&Agent存儲最強方向，GPU Native數據庫【星環科技】。存儲瓶頸影響AI推理速度。每生成1個Token(一個詞)，GPU都要把整個過去的對話歷史(即KVCache)從顯存里讀一遍。隨著對話變長，KVCache的體積會線性膨脹。這個"讀一遍"的過程極其消耗帶寬。我們希望AI可以記住跟它進行的每一次對話，現在的做法是把KVCache放在 HBM里(因為它夠快)，但HBM又貴，容量又小，前一代的解決方案是利用NVLink-C2C把 Grace CPU的大內存(LPDDR5X)當成GPU的擴展顯存用，這個不夠用了，第二個方法是數據溢出后，通過"南北向網絡"(North-SouthNetwork)去讀取遠端的存儲服務器，這個問題是太慢了，網絡帶寬被擠爆，延遲無法接受。
免責聲明：本文 / 資料由用戶個人上傳，平臺僅提供信息存儲服務，如有侵權請聯系刪除。
- 相關標簽
- 相關專題
熱門下載
- 全部熱門
- 本年熱門
- 本季熱門
- 計算機行業：NV Rubin新架構&Agent存儲最強方向，GPU Native數據庫【星環科技】.pdf 452 5積分
- 勝宏科技研究報告：全球AI PCB龍頭，深度受益GPU+ASIC需求提升.pdf 340 6積分
- 2025年中國汽車生命周期數據庫（CALCD 3.0）使用手冊（英文版）.pdf 320 6積分
- 計算機行業專題報告：GPU+ASIC滲透加速，液冷市場規模再添增量.pdf 308 6積分
- 圖形化GPU產業調研報告.pdf 299 26積分
- 2025一體化數據庫：GenAI 時代數據底座白皮書.pdf 274 6積分
- PingCAP（孫曉光）：TiDB Serverless的云原生架構進化：從0到2萬+集群的極速狂奔.pdf 186 6積分
- 2025年中國分布式數據庫發展研究白皮書-釋放數據價值助力企業加速發展.pdf 132 6積分
- 2025年金融科技新基建-構建高性能數據庫專有云平臺報告.pdf 129 5積分
- 摩爾線程-688795-國產全功能GPU突圍：智算立基，消費拓疆.pdf 124 4積分
- 計算機行業：NV Rubin新架構&Agent存儲最強方向，GPU Native數據庫【星環科技】.pdf 452 5積分
- 2025年中國汽車生命周期數據庫（CALCD 3.0）使用手冊（英文版）.pdf 320 6積分
- 計算機行業專題報告：GPU+ASIC滲透加速，液冷市場規模再添增量.pdf 308 6積分
- 2025年中國分布式數據庫發展研究白皮書-釋放數據價值助力企業加速發展.pdf 132 6積分
- 2025年金融科技新基建-構建高性能數據庫專有云平臺報告.pdf 129 5積分
- 摩爾線程-688795-國產全功能GPU突圍：智算立基，消費拓疆.pdf 124 4積分
- 沐曦股份-688802-國產通用GPU穩步推新，商業化落地加速疾行.pdf 110 3積分
- 騰訊云：2025年Serverless架構數據庫技術白皮書.pdf 110 6積分
- OceanBase：2025年OceanBase實時分析能力白皮書.pdf 99 6積分
- OceanBase AI Data Infra 解決方案白皮書.pdf 91 12積分
- 摩爾線程-688795-國產全功能GPU突圍：智算立基，消費拓疆.pdf 124 4積分
- 沐曦股份-688802-國產通用GPU穩步推新，商業化落地加速疾行.pdf 110 3積分
- IDC&移動云：AI原生數據庫發展趨勢白皮書.pdf 79 6積分
- 壁仞科技公司研究報告：全棧自研國產GPU廠商，集群能力國內領先.pdf 68 5積分
- 通信行業周報：字節與國產GPU洽談采購，中國放寬部分磷化銦襯底出口.pdf 66 3積分
- 海量數據-603138-信創筑基、AI拓界，國產數據庫核心廠商迎來成長拐點.pdf 64 3積分
- 長川科技-300604-上調目標價，以反映國產GPU需求更趨強勁以及存儲測試機機遇.pdf 60 3積分
- 星環科技-688031-認知數據庫云版本發布在即，有望搭上主流AI流量快車.pdf 56 3積分
- 摩爾線程-688795-MUSA架構驅動，全功能GPU+全棧AI雙輪領跑.pdf 38 5積分
- 天數智芯-9903.HK-GPU代際穩步演進，商業落地漸入節奏.pdf 29 3積分
