根據 The Elec 的報道，KAIST 教授金正浩指出，HBF（高帶寬閃存）——像 HBM 一樣堆疊的 NAND 閃存——可能成為 AI 未來的決定性因素。正如報道解釋的那樣，HBF 在結構上與 HBM 相似，芯片堆疊并通過硅通孔（TSV）連接。關鍵的區別在于 HBF 使用 NAND 閃存代替了 DRAM。

AI 瓶頸主要受限于內存帶寬

報告指出，金（Kim）強調當前 AI 受限于內存帶寬和容量。他解釋說，今天的基于 Transformer 的模型可以處理高達 100 萬個 token 的序列，需要 TB 級的數據。當這些數據必須每秒讀取和寫入數千次時，有限的帶寬會導致大型語言模型（LLM）服務如 OpenAI 的 ChatGPT 或 Google 的 Gemini 變慢。

報告引用金的話解釋說，瓶頸源于馮·諾依曼架構——現代計算機的基本設計——其中 CPU 或 GPU 與內存物理分離，使得它們之間的數據傳輸帶寬至關重要。

超越 DRAM：HBF 如何為未來 AI 提供動力

為了應對這些挑戰——特別是隨著未來 AI 需求可能擴展到生成電影長度的視頻，這將需要比目前內存容量大 1000 倍以上——金強調，較慢但容量更高的 NAND 閃存可以作為補充。他解釋說，雖然 NAND 閃存比 DRAM 慢，但它提供了大約 10 倍的容量，這對于支持下一代 AI 可能至關重要。

金強調，HBF 可以通過直接在 GPU 上存儲大型 AI 模型來克服 HBM 的容量限制。在這個框架中，HBM 作為快速數據處理的緩存，而 HBF 存儲本身的大型 AI 模型，他如報告所述。

值得注意的是，美國 NAND 存儲領導者閃迪今年早些時候宣布，正在開發 HBF 技術，并與 SK 海力士簽署了一項具有里程碑意義的諒解備忘錄，共同制定規范，根據其新聞稿。閃迪計劃在 2026 年下半年提供 HBF 樣品，預計最早在 2027 年初推出第一代 AI 推理設備。據報道，其第一代 HBF 將采用 16 層內存，每堆棧高達 512GB——帶寬與 HBM 相當，容量增加 8 至 16 倍。