跳至主要內容
Buzzdope Buzzdope
流行

把一百兆次讀寫塞進顯示卡周邊:當固態硬碟成了AI記憶體的擴充插槽

Buzzdope 編輯室
把一百兆次讀寫塞進顯示卡周邊:當固態硬碟成了AI記憶體的擴充插槽

如果有人告訴你,未來電腦的運算瓶頸根本不在處理器,而在於記憶體不夠用,你可能會覺得這是十年前的老黃曆。但進入生成式人工智慧時代,這件事卻成了科技巨頭最頭痛的難題。

近年來,每一次大型語言模型的疊代,都是一場對高頻寬記憶體(HBM)的掠奪戰。從顯示卡晶片到雲端伺服器,誰能掌握更多的記憶體容量,誰的模型就能喫進更龐大的資料集。然而,硬體的物理極限與高昂的量產成本,讓這場軍備競賽逐漸碰壁。當一顆 AI 加速卡塞滿了昂貴的記憶體晶片,它的造價與功耗早已突破一般企業能夠負擔的合理範圍。

就在公眾的注意力多半放在軟體應用與模型幻覺之際,底層硬體的技術路線正在悄悄轉向。固態硬碟,這個長期以來只被視為「倉庫」的儲存元件,正試圖跨過 PCIe 匯流排的邊界,直接坐上 AI 運算的牌桌。

從後方倉庫到第一線運算現場

2026 年 8 月初,儲存大廠鎧俠在美國的科技活動上,正式揭曉了名為 GP1 的固態硬碟系列。根據該公司的公開聲明與科技媒體的消息,這項產品並非為了滿足消費級市場的日常檔案讀寫需求,它搭載了鎧俠第二代 XL-FLASH 儲存級記憶體技術,直接將目標鎖定在 AI 系統的記憶體擴充架構。

官方公布的規格表上,最引人注目的數字是高達一千萬(100M)的隨機讀取 IOPS(每秒輸入輸出運算次數)。為了達到這種極致的低延遲與高吞吐量,GP1 支援了最新的 PCIe Gen6 介面與 NVMe 2.2 規範,並提供 EDSFF E3.S 和 E1.S 兩種企業級伺服器外形規格。

鎧俠 GP1 XL-FLASH 固態硬碟的隨機讀取效能標示為高達一千萬 IOPS

在過去的電腦架構中,處理器(或 GPU)向系統記憶體(DRAM)索取資料的速度極快,而向固態硬碟(SSD)調閱資料的過程則相對緩慢。固態硬碟就像是工廠後方的倉庫,平常只負責把成堆的原料搬運到前方生產線的桌上。但鎧俠這款產品的核心概念,是讓 GPU 能夠直接繞過傳統的調度機制,把這顆固態硬碟視為一個「延伸的記憶體層」。

這項被稱為「GPU 直接存取高速閃存」的技術,企圖改變現有的伺服器運作邏輯。鎧俠美國高級副總裁暨固態硬碟業務部總經理 Neville Ichhaporia 在官方聲明中直指,人工智慧記憶體瓶頸是當前業界擴大部署規模時必須解決的關鍵挑戰。他的論點在於,相較於單純擴充節點內的高頻寬記憶體或 DRAM 容量,這種將高速閃存媒體引入記憶體系統的新興架構,能夠以顯著降低的每 GB 成本,讓 AI 系統存取更龐大的資料集,進而提升 GPU 的利用率。

企業級硬體的實體規格進化

要把固態硬碟當作記憶體來用,傳統的硬體外觀與介面勢必得大幅改造。過去消費者習慣的那種放在掌心、像是口香糖大小的 M.2 固態硬碟,完全無法應付這種等級的數據吞吐量。

鎧俠 GP1 固態硬碟的五大硬體規格特徵清單

在規格書的細節裡,這顆硬碟採用了 512 位元組的精細粒度數據存取,這意味著它不再只是大筆資料的搬運工,而是能像傳統記憶體一樣,精準且碎裂地讀取極小的數據塊。同時,它的耐久度標示為 50 DWPD(每日全碟寫入次數),這是企業級資料中心用來衡量硬碟壽命的嚴苛指標,證明它能承受連續不斷的高強度覆寫。

為了解決高速讀寫伴隨而來的可怕廢熱,這些採用 EDSFF E3.S 和 E1.S 規格的硬體,在物理設計上就考慮了資料中心機房的散熱極限,其中部分形態更是直接相容於冷板液冷技術。這些充滿工程色彩的硬體參數,實際上正在為下一代龐大的運算中心重新鋪設管線,而這類散熱與硬體規格的演進,近年也陸續在 各家科技產品 中引發發燒友的熱烈討論。

鎧俠的規劃時程顯示,這項產品預計在 2026 年底開始向客戶交付樣品進行測試。換句話說,距離這種架構真正落地,並實際影響我們日常使用的生成式 AI 服務,還需要一段不算短的等待期。

那些年我們追過的硬體大限

如果把時間軸拉長,這種「X 元件不夠用,所以把 Y 元件拉進來分擔工作」的技術路線,在科技史中屢見不鮮。

千禧年後的 PC 遊戲玩家,肯定還記得主機板上那些瘋狂的改裝。為了應付越來越龐大的單機遊戲貼圖材質,顯示卡上的視訊記憶體(VRAM)永遠不夠用。廠商為了打破成本限制,曾設計出 HyperMemory 或 TurboCache 等技術,讓繪圖晶片可以直接借用系統的 DRAM 來充當視訊記憶體。對於當時買不起高階顯示卡的學生來說,這種跨界的硬體調度,成了他們能在低畫質下勉強跑動大作的最後防線。

二十年後的今天,場景換到了造價上億的 AI 資料中心,邏輯卻驚人地相似。當 GPU 的運算能力以摩爾定律的速度翻倍,HBM 的產能與成本卻成了無法跨越的物理與財務障礙。如果無法把更便宜的 DRAM 塞進 GPU 旁邊,那就把延遲極低的固態硬碟變成一種新的記憶體。這也是為什麼這顆能跑出一千萬 IOPS 的固態硬碟,會被賦予如此高的戰略意義。它不只是讓儲存變快,它是在延長摩爾定律的生命週期,把伺服器的擴充插槽變成了記憶體的逃生通道。

硬體升級如何牽動軟體生態的未來

一顆能夠讓 GPU 直接讀取的固態硬碟,對於一般社羣使用者來說,最直接的影響可能在於未來的應用程式體驗。

目前的生成式人工智慧在回答問題時,依然受限於「語境視窗」的容量。當你上傳一份長達數百頁的財務報表,或者要求 AI 同時分析幾十部影片的畫面時,系統往往會因為記憶體塞滿而出現當機,或者直接給出一個資料遺失的回答。在現有的系統架構下,為了處理這些海量數據,工程師必須編寫極度複雜的程式碼,將數據在固態硬碟與記憶體之間頻繁地切換、分塊與快取。

如果未來的硬體架構能夠普及,讓固態硬碟具備類似記憶體的低延遲特性,這種繁瑣的資料搬運邏輯將會被大幅簡化。開發者可以直接把整個資料庫放在這類高速儲存媒體上,讓 AI 引擎以極低的延遲直接抽取需要的片段。這不僅意味著更快的生成速度,也可能催生出能夠同時調閱數千份歷史文獻、或即時分析多路網路直播訊號的超大型 AI 服務。

不過,這一切的前提,是這項技術的量產成本最終能夠降到雲端服務商願意全面採購的水平。對於已經投入巨額資金採購高頻寬記憶體的科技巨頭而言,是否願意為了這種新興架構重新設計伺服器機櫃,甚至是重新編寫底層的驅動程式,仍是市場上的未知數。回顧過往,許多硬體規格的規格之爭中,就算技術再過先進,最終能存活下來的,往往是成本與生態系最平衡的妥協方案。

鎧俠高級副總裁 Neville Ichhaporia 談及人工智慧記憶體瓶頸挑戰的官方聲明

當運算架構開始把固態硬碟當作記憶體來用,未來的電腦內部邊界將變得越來越模糊。如果硬體的物理限制終將被工程師的創意打破,那麼下一個面臨重組命運的硬體零件,又會是哪一個?