12日最新消息，SK海力士和三星電子相信，由于生成式AI的轟動，新的存儲芯片市場復蘇即將來臨。SK海力士DRAM營銷主管Park Myung-soo在一次發布會上表示：“人工智能服務器需要500 GB或更大的高帶寬內存（HBM）芯片以及至少2TB的DDR5芯片。”三星電子DRAM產品與技術執行副總裁Hwang Sang-joon同日在KIW 2023上表示：“我們客戶當前的（HBM）訂單比去年增加了一倍多。”

在英偉達一步步站穩萬億市值的道路上，少不了兩項關鍵技術支持——臺積電主導的CoWoS高端封裝和頭部存儲廠持續迭代的HBM（高帶寬存儲）。

英偉達近日發布的新一代GH200 Grace Hopper超級芯片中，就指出將搭載282GB最新HBM3e內存技術的單服務器。預計將在2024年第二季度交付基于該平臺的系統。

HBM也成為力挽存儲廠商持續下行的一個關鍵詞。數個季度的持續低迷下，頭部存儲廠商相繼展現出二季度收入環比增長趨勢，其中以SK海力士（SK Hynix）的表現最為亮眼，背后就離不開由HBM拉動對DRAM運存的需求提升。

伴隨生成式AI浪潮，在存儲市場一直低三星一頭的SK海力士一躍而起，占據全球HBM市場50%的極高份額。

HBM的重要性在于，GPU對大規模并行計算的速率要求在持續提升，但計算過程本身需要算力、存力、運力三者同時匹配，通常存儲的讀取速度和計算的處理速度之間存在一定時間差，HBM就是為提高傳輸速率和存儲容量應運而生的重要技術路線。