Imec在下一代3D HBM-on-GPU架構中熱量管理方面取得了重大進展，展示了其系統-技術協同優化（STCO）方法能夠顯著降低AI訓練工作負載下的GPU溫度。該工作本周在2025年IEEE國際電子器件會議（IEDM）上發表并發布，展示了跨層設計策略如何將3D集成計算平臺的峰值熱量從140°C以上降至約70°C。

他們中許多人正處于先進封裝、半導體設計和人工智能加速的交叉領域——這些發現為高密度3D架構的可行性以及塑造下一代計算系統的關鍵熱策略提供了寶貴見解。

3D HBM配GPU：密度與熱量

隨著AI模型不斷突破內存帶寬和計算吞吐量的極限，工程師們正在探索將高帶寬內存（HBM）直接集成到GPU之上的架構。Imec的研究重點是每個封裝配備四枚GPU和四個HBM堆棧——每個堆棧包含十二個混合粘接的DRAM芯片——通過微凸起垂直安裝在GPU上。與當今2.5D方法相比，后者HBM堆疊與GPU并置于硅中介體上，Imec指出，這種3D布局有望顯著提升內存容量和帶寬。

然而，這些優勢也伴隨著陡峭的熱能挑戰。垂直堆疊增加了局部功率密度和熱阻，初步模擬顯示在真實AI工作負載下GPU峰值溫度達到141.7°C——遠高于GPU和HBM的可接受極限。相比之下，在相同冷卻條件下，類似的2.5D配置峰值為69.1°C，Imec指出。

技術與系統級熱能策略的協同優化

Imec的研究團隊通過STCO方法來解決這一問題，聯合評估技術層面和系統層面的減緩方案，形成全面的熱模型。該模型應用了行業衍生的功率圖來定位熱點，作為優化的基線。

技術層面的杠桿包括HBM堆疊合并和硅的熱特性優化。在系統層面，研究人員評估了雙面散熱和GPU頻率縮放等指標。據imec稱，結合這些策略將峰值溫度從難以控制的141.7°C降至70.8°C——使三維架構與當今實用的二維解決方案保持一致。

Imec指出：“結果展示了將跨層優化（即在所有不同抽象層共同優化旋鈕）與廣泛技術專長相結合的強大優勢，這種組合是imec獨有的。”

該研究標志著首次對3D HBM與GPU集成進行全面的熱STCO分析，強調了封裝、器件技術和系統設計的協調工程對于推動新一代AI加速器至關重要。