如何讓邊緣AI變得更迅速?
AI應(yīng)用的快速升級(jí)讓感知AI與生成式AI不再是唯一主角,通過(guò)AI智能體對(duì)一項(xiàng)復(fù)雜工作從感知、生成到實(shí)踐成為了新的可能。但諸如機(jī)械臂、機(jī)器人等對(duì)現(xiàn)實(shí)世界進(jìn)行物理干預(yù)的AI智能體顯然不可能每一條指令都依靠遠(yuǎn)方的AI服務(wù)器提供算力支持,如果端側(cè)獲得毫米級(jí)響應(yīng)決策,并能很好的控制數(shù)據(jù)安全、優(yōu)化成本、降低對(duì)網(wǎng)絡(luò)依賴,對(duì)于AI應(yīng)用普及無(wú)疑可以更進(jìn)一步。這時(shí)候,邊緣AI自然變得愈發(fā)重要。
邊緣AI可以看成云端AI的補(bǔ)充。事實(shí)上,未來(lái)AI運(yùn)算將呈現(xiàn)出訓(xùn)練與迭代在云端,推理與內(nèi)容生產(chǎn)梯度分布在云、霧、邊緣的格局。復(fù)雜的模型訓(xùn)練仍在云端進(jìn)行,但實(shí)時(shí)的推理決策則下沉到邊緣。特別是近期諸如Panther Lake等SoC大幅度提升AI TOPS算力,優(yōu)秀的低功耗表現(xiàn)讓其不再限制應(yīng)用于筆記本電腦中,邊緣AI在現(xiàn)實(shí)世界中的推廣到了蓄勢(shì)待發(fā)的節(jié)點(diǎn)。

AI智能體則可以看成邊緣AI應(yīng)用中一個(gè)重要的賦能,在延遲、隱私和成本得到解決的同時(shí),也大幅降低了使用門檻。比如近端時(shí)間時(shí)常被提到的AI智能手機(jī)、AI機(jī)器人都正在向著這個(gè)方向發(fā)展,用戶只需要提出最終的目的,收集信息、整理素材、最終操作都會(huì)交給AI智能體完成。
舉個(gè)簡(jiǎn)單的例子,當(dāng)用戶希望在明天以優(yōu)惠的價(jià)格和最短的時(shí)間前往某個(gè)目的地,AI智能體可以做到整理機(jī)票、酒店等相關(guān)信息,總結(jié)出合理的解決方案,然后最終訂票的操作也由AI智能體完成。

正如開頭所言。如果僅依靠AI服務(wù)器的算力,是沒(méi)有辦法做到許多本地工作的毫秒級(jí)響應(yīng)和數(shù)據(jù)安全。通過(guò)邊緣AI硬件的解決方案,即使在弱網(wǎng)的狀態(tài)下,AI智能體也能很好的完成工作,甚至通過(guò)對(duì)本地信息的整理,獲得定制化的AI,即保護(hù)了數(shù)據(jù)安全,也能給用戶量身定制出效率更高的解決方案,讓AI具備持續(xù)學(xué)習(xí)以適應(yīng)環(huán)境變化的能力。
這并非天方夜譚的想象。以家庭網(wǎng)絡(luò)存儲(chǔ)為例,當(dāng)NAS運(yùn)算性能不斷提升,融入了高性能NPU、GPU處理單元,AI NAS的概念隨之誕生,通過(guò)本地?cái)?shù)據(jù)重力,幫助家庭內(nèi)多個(gè)AI終端設(shè)備就有了資源協(xié)同可能性。同樣的概念可以應(yīng)用到5G網(wǎng)絡(luò)、工業(yè)物聯(lián)網(wǎng)中,將生產(chǎn)數(shù)據(jù)、檢測(cè)模型和操作記錄整合到本地小型化的AI存儲(chǔ)管理作為數(shù)據(jù)中轉(zhuǎn),向不同的AI智能體分享結(jié)論,讓AI機(jī)械臂、AI機(jī)器人自動(dòng)提升效率也同樣變成了可能。
無(wú)論邊緣AI是以什么樣的形態(tài)運(yùn)行,本地構(gòu)建大容量、高并發(fā)、高可靠的數(shù)據(jù)存儲(chǔ)也愈發(fā)重要。例如AI邊緣服務(wù)器已經(jīng)開始承擔(dān)起關(guān)鍵角色,行業(yè)合作伙伴從M.2 SSD擴(kuò)展至U.2甚至EDSFF SSD,通過(guò)高效存儲(chǔ)尋找邊緣AI的更多可能性。
其中鎧俠CD9P系列最大容量可達(dá)61.44TB,每瓦功耗的性能表現(xiàn)出眾,順序讀取提升約60%,順序?qū)懭胩嵘s45%,隨機(jī)讀取提升約55%,隨機(jī)寫入提升約100%,也給本地化的邊緣AI存儲(chǔ)方案提供了另一種全新的可能。

另外,擁有245.76TB容量的鎧俠LC9系列SSD也提供了更多可能,憑借著行業(yè)最高的容量,讓單個(gè)存儲(chǔ)服務(wù)器僅利用4塊LC9 SSD就能實(shí)現(xiàn)PB級(jí)存儲(chǔ),為AI高速緩存、訓(xùn)練溫?cái)?shù)據(jù)提供源源不斷的空間。
在未來(lái),隨著AI智能體等AI應(yīng)用的不斷升級(jí),未來(lái)邊緣AI還將展現(xiàn)出更多可能。鎧俠將與合作伙伴一起共同努力,提供高效、穩(wěn)定、節(jié)能的存儲(chǔ)方案,創(chuàng)造AI解決方案的更多可能性。









評(píng)論