根據(jù)商業(yè)與技術(shù)洞察公司Gartner的最新預(yù)測(cè)，到 2028 年，中國(guó) 70% 的大型企業(yè)將為大語(yǔ)言模型在 AI 基礎(chǔ)設(shè)施上的部署建立完善的治理框架，而2025 年這一比例不足10% 。

Gartner分析師們將在5月26-27日于上海舉行的Gartner2026大中華區(qū)高管交流大會(huì)上進(jìn)一步深入探討塑造AI基礎(chǔ)設(shè)施未來(lái)的主要技術(shù)趨勢(shì)。

Gartner研究副總裁周玲表示：“中國(guó)目前正在快速推進(jìn)生成式 AI 能力，包括大語(yǔ)言模型、軟件、生態(tài)集成與硬件革新等。2025 年 Gartner CIO 和技術(shù)高管調(diào)研顯示， 2025 年中國(guó)企業(yè)計(jì)劃增加生成式AI 和 AI 領(lǐng)域的技術(shù)投資，平均增幅分別為 40.3% 和 33.3% （見(jiàn)圖 1），將進(jìn)一步推動(dòng)相關(guān)技術(shù)的發(fā)展和使用。”

 然而，要成功實(shí)現(xiàn)大語(yǔ)言模型在 AI 基礎(chǔ)設(shè)施中的生產(chǎn)部署并非易事，需統(tǒng)籌協(xié)調(diào)技術(shù)、運(yùn)維與治理策略，確保模型達(dá)成性能指標(biāo)的同時(shí)，保障數(shù)據(jù)安全與合規(guī)性。因此，Gartner提出三大關(guān)鍵要素，以幫助企業(yè)確保大語(yǔ)言模型在生產(chǎn)環(huán)境中安全有效運(yùn)行的基礎(chǔ)。

構(gòu)建全面的部署戰(zhàn)略

為推動(dòng)大語(yǔ)言模型在AI基礎(chǔ)設(shè)施上的高效部署，需制定一套全面穩(wěn)健的戰(zhàn)略布局，涵蓋AI基礎(chǔ)設(shè)施環(huán)境適配、場(chǎng)景化架構(gòu)設(shè)計(jì)、技術(shù)優(yōu)化實(shí)施，并嚴(yán)格遵循監(jiān)管合規(guī)要求。

Gartner研究副總裁周玲表示：“在大語(yǔ)言模型于AI基礎(chǔ)設(shè)施部署過(guò)程中，企業(yè)需制定與整體AI戰(zhàn)略高度契合的部署方案。這包括識(shí)別高價(jià)值A(chǔ)I應(yīng)用場(chǎng)景，權(quán)衡通用基礎(chǔ)模型與行業(yè)專屬模型的適用性，并聯(lián)合業(yè)務(wù)與AI團(tuán)隊(duì)，明確商用方案、基礎(chǔ)設(shè)施容量、數(shù)據(jù)管道及高度定制化部署的操作指引。”

制定穩(wěn)健的部署治理流程

為了成功將大語(yǔ)言模型部署到 AI 基礎(chǔ)設(shè)施的生產(chǎn)環(huán)境中，中國(guó)的 I&O 部門必須建立一套穩(wěn)健的治理流程，采取切實(shí)可行的步驟促進(jìn)資源管理、持續(xù)監(jiān)控以及敏捷更新。

Gartner研究副總裁周玲表示：“構(gòu)建穩(wěn)健的大語(yǔ)言模型部署與治理流程至關(guān)重要。這應(yīng)涵蓋部署環(huán)境與架構(gòu)的科學(xué)選擇、優(yōu)化硬件與容器化技術(shù)的應(yīng)用，以及基礎(chǔ)設(shè)施的監(jiān)控與可觀測(cè)性管理，從而全面提升I&O團(tuán)隊(duì)在AI基礎(chǔ)設(shè)施上部署大語(yǔ)言模型的能力。”

促進(jìn)關(guān)鍵利益相關(guān)方之間的緊密協(xié)作

部署大語(yǔ)言模型是一項(xiàng)高度復(fù)雜的工作，要求業(yè)務(wù)、法務(wù)、安全及AI與數(shù)據(jù)團(tuán)隊(duì)密切協(xié)作。以往各自為政的部門，如今需從項(xiàng)目啟動(dòng)之初就通力合作，確保技術(shù)開(kāi)發(fā)充分兼顧法律與安全需求。為此，建立涵蓋法務(wù)、安全、數(shù)據(jù)工程與數(shù)據(jù)科學(xué)、產(chǎn)品管理、軟件開(kāi)發(fā)及高管層代表的跨職能AI治理委員會(huì)，成為保障大語(yǔ)言模型合規(guī)、高效落地的關(guān)鍵舉措。

Gartner研究副總裁周玲表示：“治理委員會(huì)需要促成早期對(duì)話，使各方在風(fēng)險(xiǎn)評(píng)估、合規(guī)要求和運(yùn)營(yíng)標(biāo)準(zhǔn)方面達(dá)成一致。同時(shí)還需定期組織跨部門會(huì)議，并確保信息溝通充分且決策透明；此外培訓(xùn)計(jì)劃和文檔工作也發(fā)揮著至關(guān)重要的作用。”