規(guī)劃與執(zhí)行之間往往橫亙著巨大的鴻溝。一個在理論上看似簡單明了的項目，即便預(yù)算可控、進度有序、技術(shù)可行，一旦落地卻會遇到重重阻礙。將構(gòu)想轉(zhuǎn)化為現(xiàn)實并非總是一帆風(fēng)順，成功很大程度上取決于我們預(yù)判并駕馭未知的能力。

在日新月異的邊緣人工智能（AI）領(lǐng)域，這種構(gòu)想與落地之間的差距尤為顯著。

邊緣AI的興起

隨著技術(shù)不斷向個性化與交互化發(fā)展，企業(yè)正在發(fā)掘更多的設(shè)備端智能應(yīng)用場景。不論是用來優(yōu)化工業(yè)流程和系統(tǒng)、增強汽車安全性能，還是打造更智能、響應(yīng)能力更強的消費產(chǎn)品，邊緣部署正從孤立的概念轉(zhuǎn)變?yōu)橹陵P(guān)重要的產(chǎn)品功能。

這需要開發(fā)并部署越來越多的邊緣AI解決方案，以支持近邊緣計算和處理任務(wù)，尤其是在人機界面（HMIs）領(lǐng)域。在某種程度上，這是AI滲透至各行各業(yè)以及不同學(xué)科領(lǐng)域的結(jié)果。誠然，AI確實為邊緣計算帶來了諸多關(guān)鍵優(yōu)勢。通過在傳感器內(nèi)部或傳感器附近進行本地化數(shù)據(jù)處理，開發(fā)人員能夠減少對云基礎(chǔ)設(shè)施的依賴、降低能耗并提升帶寬效率，同時增強離線功能、可靠性以及實時響應(yīng)能力。

即便如此，設(shè)計符合邊緣設(shè)備限制條件的AI模型仍非易事。傳統(tǒng)模型往往體積龐大且能耗驚人，根本無法匹配邊緣設(shè)備的低功耗和有限算力的需求。要從目前在邊緣端部署專用AI加速器的模型轉(zhuǎn)變?yōu)榉且蕾囋贫说某咝А敖鼈鞲衅鳌庇嬎慵軜?gòu)，實屬知易行難。這要求開發(fā)人員設(shè)計出更小巧的邊緣原生AI模型，既能精準(zhǔn)滿足特定邊緣應(yīng)用的需求，又不會耗盡本就不多的功率和空間。而從這些設(shè)計到實際部署的過程，正是從構(gòu)想到落地之間差距最為顯著的環(huán)節(jié)。

從概念驗證到投入生產(chǎn)所面臨的挑戰(zhàn)

雖然開發(fā)人員清楚他們需要設(shè)計高效、可靠的邊緣AI模型，但概念驗證（PoC）與模型部署之間的差距往往難以彌補。這個問題存在已久，只是換了一種說法：構(gòu)建一個PoC模型并不難，任何人都能進行設(shè)計，關(guān)鍵在于能否讓該模型落地，擴展為完整的生產(chǎn)級解決方案？

將邊緣AI的PoC原型引入真實應(yīng)用場景的過程通常會面臨諸多嚴(yán)峻挑戰(zhàn)，包括：

· 將數(shù)據(jù)導(dǎo)入/導(dǎo)出系統(tǒng)級芯片（SoC）。當(dāng)涉及各種不同的傳感器、通訊協(xié)議、接口以及引腳數(shù)量較多時，在邊緣組件與AI模型之間傳輸數(shù)據(jù)會變得十分復(fù)雜。要想將這些不同的數(shù)據(jù)源連接到邊緣計算模型，需要細致的規(guī)劃與執(zhí)行，而且還要能夠大規(guī)模復(fù)制。

· PoC與生產(chǎn)環(huán)境之間的顯著差異。PoC旨在驗證、測試和演示邊緣算法，因此會配置充沛的資源，包括算力、能源、資金和空間，而實際的邊緣設(shè)備并不一定具備這些資源。如果這些PoC依賴云端處理能力、超大體積的硬件或未優(yōu)化的模型，便難以成功轉(zhuǎn)換成具體的生產(chǎn)級解決方案。

· 實驗室數(shù)據(jù)難以反應(yīng)出真實場景的復(fù)雜性。除擁有額外的技術(shù)資源外，邊緣AI的PoC模型通常采用合成數(shù)據(jù)集、在模擬測試環(huán)境中進行訓(xùn)練。盡管這有助于應(yīng)對開發(fā)階段遇到的難題，但往往無法反映出現(xiàn)場的邊緣用例、傳感器噪聲以及整體差異性。以家庭安防系統(tǒng)為例，雖然模型經(jīng)過訓(xùn)練可以識別出合成的“玻璃破碎”聲，但真實環(huán)境中的聲音必然會比測試數(shù)據(jù)集更具多樣性。

構(gòu)建專用的AI解決方案

上述挑戰(zhàn)清晰地表明了：邊緣AI架構(gòu)必須從一開始就為最終部署而量身打造，而非在脫離實際的環(huán)境中進行設(shè)計，再懷揣僥幸進行部署。與通用AI模型不同，邊緣部署場景要求解決方案能夠針對其具體任務(wù)、運行條件和資源限制進行深度優(yōu)化。通過從零開始構(gòu)建而非簡單壓縮現(xiàn)有模型，開發(fā)團隊能夠有效節(jié)約時間、成本與開發(fā)資源，進而支持更具針對性、更貼合實際應(yīng)用場景的操作。 為了支持邊緣開發(fā)人員，萊迪思與合作伙伴攜手推出多項經(jīng)過預(yù)先驗證的解決方案，如萊迪思sensAI? 解決方案集合，其中包含經(jīng)過驗證的硬件、預(yù)先訓(xùn)練的模型以及實用的開發(fā)工具。這些解決方案為開發(fā)人員提供了可靠的構(gòu)建模塊，以便針對特定應(yīng)用場景進行搭建和定制，有助于加快開發(fā)進程并降低風(fēng)險。

賦能的專用邊緣HMI系統(tǒng)：

· tinyVision的智能眼鏡解決方案采用萊迪思CrossLink?-NX FPGA，在極其有限的空間內(nèi)實現(xiàn)攝像頭傳感器及抬頭顯示的橋接和同步。通過將FPGA設(shè)計為靈活、低成本的小尺寸聚合樞紐，這款智能眼鏡能夠在邊緣端執(zhí)行關(guān)鍵運算并支持傳感器融合，且無需占用極大功耗和/或物理空間。

· Aizip的語音識別系統(tǒng)同樣采用CrossLink-NX FPGA來支持個性化語音識別和處理。通過設(shè)計符合FPGA器件限制的AI模型，開發(fā)人員能夠銜接麥克風(fēng)傳感器和計算能力，從而實現(xiàn)諸如定制化車載人員識別等任務(wù)。

憑借小尺寸、低功耗以及部署前后的靈活性，CrossLink-NX等FPGA產(chǎn)品成為專用邊緣AI開發(fā)的重要組件。開發(fā)人員能夠輕松配置這些芯片，以適應(yīng)特定邊緣應(yīng)用的計算需求，融合來自不同傳感器的數(shù)據(jù)，加快處理速度，并以極低延遲處理自定義I/O協(xié)議。FPGA的并行處理能力有助于實現(xiàn)本地化處理，而且僅向顯示器或其他組件傳輸必要數(shù)據(jù)，有助于減少帶寬占用、提升整體的隱私安全性。

支持邊緣創(chuàng)新

要將邊緣AI模型從概念轉(zhuǎn)化為產(chǎn)品，僅靠可運行的原型還遠遠不夠。成功的關(guān)鍵在于，從初始階段就基于成熟的硬件與軟件進行設(shè)計，使方案能夠真正契合現(xiàn)實場景的需求與限制，而非事后對僅在實驗室驗證過的模型進行修補。憑借基于動態(tài)FPGA的專用邊緣AI解決方案，開發(fā)人員能夠獲得所需的靈活性和效率，從而設(shè)計出具備可靠性和可擴展性的邊緣AI應(yīng)用。

如需進一步了解邊緣設(shè)計，可觀看整場圓桌討論會。如果您想要探索面向下一代邊緣應(yīng)用的FPGA構(gòu)建模塊，請下載我們的HMI解決方案簡介或立即聯(lián)系我們。