2023年ChatGPT引發的AI熱潮仍在繼續，近期媒體報道，今年擁有云端相關業務的企業，大多都向英偉達采購了大量GPU，目前該公司訂單已排至2024年。

同時，由于英偉達大量急單涌入，晶圓代工企業臺積電也從中受益。據悉，英偉達正向臺積電緊急追單，這也令臺積電5納米制程產能利用率推高至接近滿載。臺積電正以超級急件（superhotrun）生產英偉達H100、A100等產品，而且訂單排至年底。

業界認為，隨著ChatGPT等AIGC（生成式人工智能）快速發展，未來市場對GPU的需求將不斷上升，并將帶動HBM以及先進封裝發展。

資料顯示，AIGC模型需要使用AI服務器進行訓練與推理，其中，訓練側AI服務器基本需要采用中高端GPU，在這些GPU中，HBM的滲透率接近100%。

全球市場研究機構TrendForce集邦咨詢預估2023年AI服務器（包含搭載GPU、FPGA、ASIC等）出貨量近120萬臺，年增38.4%，占整體服務器出貨量近9%。

從高端GPU搭載的HBM來看，英偉達高端GPU H100、A100主采HBM2e、HBM3。以今年H100 GPU來說，搭載HBM3技術規格，其中傳輸速度也較HBM2e快，可提升整體AI服務器系統運算效能。隨著高端GPU如NVIDIA的A100、H100；AMD的MI200、MI300，以及Google自研的TPU等需求皆逐步提升，集邦咨詢預估2023年HBM需求量將年增58%，2024年有望再成長約30%。

先進封裝產能方面，當前臺積電CoWoS封裝技術為目前AI服務器芯片主力采用者。

集邦咨詢估計在高端AI芯片及HBM強烈需求下，TSMC于2023年底CoWoS月產能有望達12K，其中，英偉達在A100及H100等相關AI Server需求帶動下，對CoWoS產能較年初需求量，估提升近5成，加上AMD、Google等高端AI芯片需求成長下，將使下半年CoWoS產能較為緊迫，而此強勁需求將延續至2024年，預估若在相關設備齊備下，先進封裝產能將再成長3-4成。