久久ER99热精品一区二区-久久精品99国产精品日本-久久精品免费一区二区三区-久久综合九色综合欧美狠狠

新聞中心

EEPW首頁 > 智能計算 > 設計應用 > 百萬XPU時代的人工智能連接

百萬XPU時代的人工智能連接

作者: 時間:2025-11-25 來源: 收藏

已經部署了擁有超過20萬GPU的AI數據中心——而且他們正更快地朝著100萬個XPU的目標邁進。受帶寬增加以及AI應用所需集群規模和數量不斷增加的推動,我們正處于互聯解決方案的巨大增長市場中。因此,自2020年以來,全球光互連市場已翻一番,至2025年接近200億美元,預計到2030年將再次翻一番,行業復合年增長率(CAGR)約為18%。1  

更多的XPU需要更多的互連

也推動了向更高帶寬光學的轉型。傳統計算服務器的 IO 帶寬至少落后網絡 IO 帶寬一代。然而,AI服務器帶寬卻躍升了一代。這一轉變激發了對更高帶寬連接的需求,以及加速創新的誕生。

Al drives faster optics refresh cycle

Marvell持續以加速的速度發布光學連接領域的新創新,推動AI應用的擴展。 

大規模支持現代工作負載的挑戰

尤其是隨著進入網絡邊緣,它需要高效的數據傳輸,這在連接性和網絡連接中帶來了諸多挑戰。

大量協同工作的GPU需要更大的結構來連接它們。一個擁有10萬GPU的集群可能需要50萬個互聯,以及數千臺服務器和交換機。一百萬塊GPU可能需要一千萬個互連,但總共跨越數公里。2功耗可能接近一千兆瓦——這只是企業在支持現代AI工作負載時面臨的眾多問題之一。

看支持AI的系統,有兩個獨立且互聯的網絡:擴展網絡,通過合并所有資源提升單一服務器或系統的容量;擴展擴展,將這些服務器帶入網絡。

在規模化過程中,主要挑戰是延遲,其次是功耗。Scale Up 是連接性的新市場,因此樂觀地認為,未來幾年這些問題將通過采用超低延遲網絡基礎設施、高密度共封光學系統和低功耗直接 I/O 接口等新創新得到解決。

Scale-up interconnect

在規模化擴展中,最大的挑戰是可擴展性。還有潛在的相應創新,比如采用相干輕量和高帶寬400G光學器件,以及支持這些應用場景所需的新調制方案。

Scale-up interconnect

在大規模化的演進中,進步正在加速,以應對由人工智能塑造的新需求。Marvell不再是每三年翻倍帶寬,而是每兩年翻倍。3 

Scale-out interconnect evolution

通過連接解決方案實現下一代人工智能

Marvell是推動下一代人工智能的合作伙伴生態系統的一部分,與他們攜手實現這一目標。這個新興行業蘊含著許多機遇,Marvell帶來了諸如低延遲網絡、更高帶寬光學和相干輕度技術等創新技術,以實現多站點、高帶寬、大規模網絡。

人工智能基本上依賴于光收發器和有源電纜(AEC)等技術,用于大多數三米及以上的連接,隨著網絡擴展節點規模的增加,這些技術尤為必要。

在下一代人工智能中,集群的XPU數量將提升至100萬個。在這一層面,需求如同高帶寬低延遲的織物,同時兼具成本和功耗效率。這反過來又推動了新的連接解決方案和廣泛的創新。在板級層面,新一代SerDes IO正以更快的節奏部署和開發。在集群層面,針對不同應用場景的優化電氣和光學解決方案正在逐步推出。在數據中心各地點,Marvell正在提供最初僅限于長途電信的相干傳輸技術,如今已應用于數據中心園區。

所有這些創新都成為下一代人工智能的推動力。關鍵不是誰擁有最好的加速器,而是誰擁有最好的連接解決方案。隨著AI集群數量和規模的快速增長,需要一個靈活且可互換的解決方案,以支持其需求。支持可插拔生態系統的龐大生態系統合作伙伴網絡是大規模網絡的首選解決方案。

 

 

  1. LightCounting,2025年4月市場預測

  2. Marvell 加速基礎設施以迎合人工智能時代日,2024年4月

  3. 列寧·帕特拉,Marvell在OFC的演講,2025年3月


關鍵詞: 人工智能 運營商

評論


相關推薦

技術專區

關閉