頻寬多三成、功耗省一成半,貴族記憶體 HBM 被輝達掛上了零件貨架
2015 年夏天,AMD Fury X 的評測把一個新名詞帶進玩家視野:HBM。這種記憶體把 DRAM 一層層立體堆疊,緊貼著 GPU 核心封裝,拆解照裡像主城旁邊蓋起的兩棟高樓。它佔地小、路又寬,造價也高,因此只住在旗艦卡上,多數人買不起,看圖過癮。十年後的 8 月 27 日,這個名字回到新聞標題裡,場合整個換了:據 IT之家報導,輝達推出定制版 HBM「NVHBM」,買家設定為想自研 AI 晶片的雲端大廠。
曾經的旗艦限定
HBM 的賣點可以用一句話講完:把記憶體從平鋪改成堆疊,從遠處搬到隔壁。傳統顯示記憶體一顆顆排在顯卡 PCB 上,離 GPU 有一段路要走;HBM 直接把多層 DRAM 疊起來,墊在 GPU 旁邊,頻寬大、佔位小,工藝門檻與成本也隨之拉高。在消費卡的世界裡,它的出場紀錄不多,卻張張有名:
- 2015 年,AMD Fury X 成為第一張採用 HBM 的消費顯卡
- 2017 年,NVIDIA Titan V 搭 12GB HBM2,定價 2999 美元
- 2017 至 2019 年,Vega 系列與 Radeon VII 先後採用 HBM2
- 2020 年之後,消費卡回歸 GDDR6 與 GDDR6X,HBM 淡出玩家的購物清單
退場的原因不神祕。GDDR 一代代把頻寬追了上來,價格便宜得多,廠商沒必要在遊戲卡上堆貴料。2018 年礦潮最盛時,HBM2 還傳過一陣供不應求,顯卡缺貨的記憶許多玩家都有;只是當年沒人想過,HBM 的稀缺後來會成為常態,買家也換成了整棟整棟的機房。模型越養越大,記憶體頻寬成了 AI 晶片的咽喉,這種零件就這樣從旗艦卡的信仰配置,變成資料中心裡的搶手貨。
8 月 27 日,它以零件的身分回來
這次的公告出自輝達的 NVLink Fusion 項目。這個項目做的事,是把 NVLink 互連的擴展能力開放給合作夥伴,讓別家自製的晶片也能接進輝達的體系,多顆處理器組成一套統一的計算系統,例如 Vera Rubin NVL72 這類機架級產品。NVHBM 是工具箱裡新加的一件,據 IT之家引述輝達說法(官方公告),要點如下:
- 頻寬:每個記憶體堆疊較標準 HBM4e 最多提升 30%
- 功耗:較商用 HBM4e 降低 15%
- 空間:記憶體控制器從主晶片移進 HBM 的基礎裸片,騰出的封裝面積可讓主晶片多放最多 30% 的計算資源
- 來歷:採用定制基礎裸片,已與「領先的記憶體廠商」完成設計與驗證,夥伴不必從標準 HBM 從零起步
對受記憶體頻寬限制的 AI 工作負載來說,頻寬直接換算成吞吐量,落在推理場景,就是模型每秒吐出多少 Token。省電同樣有帳可算:輝達在 Vera Rubin 的宣傳裡反覆講一句話,沒有用來生成 Token 的每一瓦電力都是浪費。在數千顆晶片串成的系統裡,單顆省下的瓦數乘上去,數字相當可觀。
輝達也把定位說在前頭:NVHBM 走另一條貨道,專供想把自製晶片接上 NVLink Fusion 的夥伴,標準 HBM 的採購照舊。首個合作對象是亞馬遜旗下的 Annapurna Labs,其 Trainium 4 晶片已支援 NVLink Fusion 介面,後續產品用上 NVHBM 的機會不小。報導同時提醒,這些百分比目前是帳面優勢,要等夥伴的客製晶片真正量產才談得上兌現,現階段的 Rubin 機架系統裡還看不到它。
下單的人換了名字
放回十年的跨度裡,NVHBM 最有意思的地方在買家身分。Fury X 年代,輝達與 AMD 爭的是玩家的桌面,評測網站與裝機店是第一線。如今 NVLink Fusion 的客戶名單上坐著雲端巨頭,其中一位還是半個對手:亞馬遜自研的 Trainium 系列,目標就是分食 AI 算力市場,輝達照樣把互連介面與定制記憶體賣了過去。同樣在自研路上走的還有 Google 的 TPU 與微軟的 Maia,自研潮讓這些大廠既是輝達最大的客戶,也是檯面下的競爭者。整卡生意照做,積木也拆開零售,這種身段的轉換,比規格表上那兩個百分比更有看頭。
對老玩家來說,這條線並不陌生。我們先前整理算力缺到 2028、這回排隊的不再是玩家時寫過,雲端訂單把產能整批吸走,礦潮年代等顯卡的劇目換了一批主角重演。HBM 走的是同一齣戲的另一幕:玩家先在評測裡見識它,機房再把它整個收走。
玩家的位子
頻寬多三成、功耗省一成半,跟桌面上的幀數有關嗎?短期內沒有。NVHBM 服務的是推理吞吐、每瓦性能與系統級的電力帳本,這些東西都長在機房裡。玩家端這幾年的氣氛是另一種,我們在CPU 出貨量再跌兩成那篇看過,B站裝機區的日常已經變成行情日報與集體觀望,貴族零件的傳說離購物車越來越遠。
技術史倒是有個老規律,機房用過的東西偶爾會流回消費市場。HBM 自己就示範過一次,從資料中心走進 Fury X 與 Titan V;GDDR6X、小晶片封裝這些名詞也各有下放的路徑。NVHBM 的定制裸片做法,未來會不會以某種形式出現在一張遊戲卡上,沒有人能掛保證。
可以確定的是,8 月 27 日這一天,那個曾經只住在旗艦顯卡評測裡的名詞,有了自己的貨架、型錄與第一位客人。下一次它在消費性產品上現身會是哪一年?或者貨架上那個位子,從此就只留給機房了?