在數(shù)據(jù)中心，可插拔式光收發(fā)器對于管理人工智能所需的海量數(shù)據(jù)流至關(guān)重要，將電信號轉(zhuǎn)換為光子，在服務(wù)器機(jī)架間傳遞，并再轉(zhuǎn)化為電力。

這些光收發(fā)器的核心都是一個高性能數(shù)字信號處理器（DSP）。隨著AI訓(xùn)練和推理日益耗費(fèi)帶寬和功耗，芯片制造商正在升級這些光DSP，以實(shí)現(xiàn)更快更高效的運(yùn)行。

Marvell Technology 推出了一款 PAM4 DSP，能夠?qū)?1.6 Tb/s 光收發(fā)機(jī)的功耗降低超過 20%，部分原因是采用了更先進(jìn)的 3 nm 制造工藝。Ara 芯片集成了八條 200-Gb/s 電線和八條 200-Gb/s 光通道，實(shí)現(xiàn)高達(dá) 1.6 Tb/s 的吞吐量，且模塊體積緊湊且標(biāo)準(zhǔn)化。據(jù)公司介紹，它還集成了激光調(diào)制驅(qū)動器，以降低PCB設(shè)計(jì)復(fù)雜度、功耗和成本。

Marvell表示，基于其200 Gb/s SerDes技術(shù)，Ara設(shè)計(jì)用于八腳制小形態(tài)可插拔（OSFP）和四模小型可插拔雙密度（QSFP-DD）模塊，這些模塊廣泛應(yīng)用于以太網(wǎng)、InfiniBand及其他AI計(jì)算結(jié)構(gòu)中。

“Ara 通過利用先進(jìn)的 3nm 技術(shù)實(shí)現(xiàn)顯著功耗降低，樹立了行業(yè)新標(biāo)準(zhǔn)，推動了 AI 基礎(chǔ)設(shè)施中 1.6 Tb/s 連接技術(shù)的批量采用，”Marvell 光連接產(chǎn)品市場副習(xí)解釋道。

保持連接：可插拔光學(xué)在人工智能數(shù)據(jù)中心的作用

Marvell推出了Ara芯片，正值A(chǔ)I推動AI數(shù)據(jù)中心對高帶寬連接需求的推動。

為了訓(xùn)練最先進(jìn)的大型語言模型（LLM），超大規(guī)模化者和其他科技巨頭正在構(gòu)建由數(shù)千個圖形處理單元（GPU）或其他人工智能芯片組成的集群，以及大量內(nèi)存。因此，這些公司需要更快、更密集的連接方式，能夠傳輸生成式人工智能使用的大量數(shù)據(jù)——無論是在服務(wù)器機(jī)架內(nèi)部還是機(jī)架之間。

但由于將信號推送至數(shù)米銅纜中，每秒傳輸極多數(shù)據(jù)在這些服務(wù)器列之間傳輸極多數(shù)據(jù)并不切實(shí)際。由于電力傳輸距離越遠(yuǎn)，耗電越多，保持冷卻成本也會很高。因此，光互連被廣泛用于數(shù)據(jù)中心的機(jī)架對機(jī)架和服務(wù)器到交換機(jī)的連接，利用可插拔的收發(fā)器將電信號轉(zhuǎn)換為光，Marvell表示。

雖然通過光傳輸數(shù)據(jù)比用電更高效，但這些可插拔模塊核心的數(shù)字信號處理器需要相對較大的功率才能在高帶寬下運(yùn)行。例如，NVIDIA估計(jì)，擁有40萬塊GPU的數(shù)據(jù)中心中所有光收發(fā)器將消耗多達(dá)40兆瓦的電力。在這些熱量對系統(tǒng)性能造成影響之前散發(fā)這些熱量并非易事。

通過升級到3納米工藝節(jié)點(diǎn)并將激光驅(qū)動器直接集成在芯片上，Marvell表示，Ara DSP相比上一代光DSP可實(shí)現(xiàn)每個可插拔模塊的功耗節(jié)省超過20%。

Ara DSP支持八個200-Gb/s PAM4電氣接口和八個200-Gb/s光接口，總吞吐量為1.6 Tb/s。

Marvell表示，這些改進(jìn)降低了散熱問題和系統(tǒng)級散熱成本，而這些成本正成為更重要的技術(shù)挑戰(zhàn)，因?yàn)檫@些模塊需要采用與USB棒相似的形態(tài)。ARA設(shè)計(jì)用于驅(qū)動網(wǎng)絡(luò)交換機(jī)前面板上的800 Gb/s和1.6 Tb/s端口，使用標(biāo)準(zhǔn)PCB走線長度，無需特殊冷卻或PCB重新設(shè)計(jì)以保持信號完整性。

據(jù)Dell'Oro集團(tuán)介紹，可插拔式收發(fā)器市場正在快速增長。這家市場調(diào)研公司預(yù)計(jì)，截至2028年，800 Gb/s和1.6 Tb/s收發(fā)機(jī)的出貨量將以每年超過35%的速度增長。

Ara：應(yīng)對高帶寬AI連接的需求

Marvell表示，Ara DSP的能效使系統(tǒng)設(shè)計(jì)師能夠在保持對當(dāng)今數(shù)據(jù)中心至關(guān)重要的緊湊功耗范圍內(nèi)的同時，獲得高帶寬連接。

該芯片設(shè)計(jì)支持網(wǎng)絡(luò)交換機(jī)、網(wǎng)卡（NIC）和處理器內(nèi)的高密度200 Gb/s I/O接口，同時確保與前一代的向后兼容性。PAM4光DSP支持多種光模塊格式，包括1.6T DR8、DR4.2、2xFR4、FR8和LR8，使其能夠適應(yīng)多種不同的數(shù)據(jù)中心拓?fù)浜虯I計(jì)算節(jié)點(diǎn)互連。

Ara 采用串接前向糾錯（FEC），符合最新的以太網(wǎng)和 Infiniband 標(biāo)準(zhǔn)，提升了在惡劣鏈路條件下的比特錯誤率（BER）容忍度。它還支持 8 × 8 任意到任一的交叉開關(guān)，實(shí)現(xiàn)高速 I/O 的路由靈活性。此外，Marvell表示，他們共同設(shè)計(jì)了一款超阻抗放大器（TIA）芯片，以補(bǔ)充Ara DSP，為高達(dá)200 Gb/s的光傳輸通道提供更好的信噪比和線性度。

Ara 處理器還具備實(shí)時診斷功能，包括信噪比（SNR）監(jiān)測、眼圖分析以及主機(jī)端和線路端接口的回環(huán)功能。

市場調(diào)研公司LightCounting的特約分析師Bob Wheeler估計(jì)，這些光互連核心的PAM4 DSP將在2029年前增長三倍，達(dá)到每年1.27億臺。他表示，這些光DSP“在可預(yù)見的未來仍將是連接數(shù)據(jù)中心內(nèi)資產(chǎn)的主要光學(xué)技術(shù)。”他補(bǔ)充說，Marvell的Ara芯片表明“PAM4技術(shù)持續(xù)發(fā)展以應(yīng)對AI基礎(chǔ)設(shè)施的挑戰(zhàn)。”

鑒于數(shù)據(jù)中心對高帶寬連接需求的不斷增長，Ara 有潛力成為 AI 熱潮的關(guān)鍵構(gòu)建模塊。但光連接領(lǐng)域的其他創(chuàng)新也在籌備中。

Marvell及其半導(dǎo)體行業(yè)的許多競爭對手也在開發(fā)“共封光學(xué)”技術(shù)，這些技術(shù)可以集成在與其網(wǎng)絡(luò)交換芯片相同的基板上，從而消除了對可插拔光學(xué)的需求。

公司還計(jì)劃將硅光子芯片聯(lián)合封裝為GPU及其他AI芯片，利用高速SerDes、芯片對芯片以及2.5D和3D先進(jìn)封裝技術(shù)。

通過將光學(xué)元件直接置于封裝內(nèi)部，GPU和其他AI芯片可以在更高的帶寬和更遠(yuǎn)距離下相互連接。因此，不同服務(wù)器機(jī)架中的AI芯片能夠以最佳的延遲和功耗進(jìn)行通信，相較于連接同一機(jī)架芯片和PCB銅線的被動銅纜。