智能邊緣:為下一代邊緣人工智能應(yīng)用賦能
隨著工業(yè)企業(yè)將重心轉(zhuǎn)向以人為本、以地球?yàn)橹行牡墓I(yè)5.0理念,邊緣人工智能(AI)技術(shù)正展現(xiàn)出變革性力量。這些解決方案將邊緣計(jì)算的強(qiáng)大能力與人工智能領(lǐng)域的最新進(jìn)展相結(jié)合,通過(guò)自動(dòng)化提升效率、敏捷性和安全性。同時(shí),它們減少了工業(yè)領(lǐng)域?qū)惺椒?wù)器的依賴,有助于控制延遲和成本。總體而言,邊緣人工智能助力團(tuán)隊(duì)實(shí)現(xiàn)工業(yè)5.0目標(biāo),減輕勞動(dòng)者負(fù)擔(dān),在尊重地球資源限制的同時(shí)支持經(jīng)濟(jì)增長(zhǎng)。這些解決方案的應(yīng)用將引領(lǐng)新一代人機(jī)界面(HMI)、工業(yè)機(jī)器人、視頻監(jiān)控等領(lǐng)域的發(fā)展。
盡管邊緣部署在工業(yè)環(huán)境變革方面潛力巨大,但要打造完全由邊緣技術(shù)驅(qū)動(dòng)的設(shè)施,仍需創(chuàng)造性地解決問(wèn)題。開(kāi)發(fā)能夠在邊緣運(yùn)行且支持工業(yè)級(jí)規(guī)模人工智能的設(shè)備,要求開(kāi)發(fā)者將創(chuàng)造力和技術(shù)發(fā)揮到極致,同時(shí)還要克服一個(gè)由來(lái)已久的障礙:空間限制。
尋找平衡
幾十年來(lái),追求小體積大功率一直是推動(dòng)技術(shù)進(jìn)步的關(guān)鍵因素。在數(shù)字革命進(jìn)程中,開(kāi)發(fā)者和設(shè)計(jì)師一直致力于尋找方法,將相當(dāng)?shù)挠?jì)算能力融入日益縮小的空間中。工業(yè)物聯(lián)網(wǎng)(IIoT)設(shè)備也不例外,它們克服了巨大的空間和計(jì)算挑戰(zhàn),才達(dá)到目前的運(yùn)行狀態(tài)。
要在邊緣運(yùn)行,工業(yè)物聯(lián)網(wǎng)設(shè)備必須在多樣化(有時(shí)甚至是極端)的環(huán)境中處理復(fù)雜且關(guān)鍵的任務(wù),而且往往無(wú)法可靠地接入外部電源。此外,這些分布式系統(tǒng)往往需要“始終在線”,并要求持續(xù)、實(shí)時(shí)的通信。再加上管理熱約束的挑戰(zhàn),構(gòu)建具備人工智能能力的工業(yè)物聯(lián)網(wǎng)設(shè)備的任務(wù)變得更加復(fù)雜。
雖然傳統(tǒng)的人工智能模型已經(jīng)為許多企業(yè)帶來(lái)了變革性的運(yùn)營(yíng),但其計(jì)算需求使得它們?cè)诖蠖鄶?shù)邊緣部署中并不實(shí)用。將大型人工智能模型的廣泛潛力與工業(yè)物聯(lián)網(wǎng)設(shè)備的專業(yè)操作相匹配,是一道難以逾越的障礙。為了在邊緣實(shí)現(xiàn)人工智能,開(kāi)發(fā)者開(kāi)始轉(zhuǎn)向更小、針對(duì)特定任務(wù)的人工智能模型,這些模型針對(duì)受限環(huán)境進(jìn)行了優(yōu)化。這些模型基于窄域數(shù)據(jù)集進(jìn)行訓(xùn)練,或使用剪枝、量化或蒸餾等技術(shù)進(jìn)行壓縮。盡管它們執(zhí)行的任務(wù)范圍較小,但比傳統(tǒng)的最先進(jìn)(SOTA)模型執(zhí)行這些功能時(shí)更加一致和高效。
當(dāng)然,隨著需求的變化、期望的提高以及邊緣人工智能設(shè)備變得更加復(fù)雜,僅靠壓縮不太可能確保可靠和最佳的性能。為了給邊緣生態(tài)系統(tǒng)提供人工智能解決方案,開(kāi)發(fā)者需要退一步思考,考慮硬件和軟件如何協(xié)同工作,以使空間、性能和效率達(dá)到最佳平衡。
從兩端進(jìn)行優(yōu)化
無(wú)論工程師在定制、優(yōu)化和改進(jìn)方面付出多少努力,人們始終期望系統(tǒng)能夠以相同(或更少)的資源實(shí)現(xiàn)更多功能。為此,在設(shè)計(jì)邊緣人工智能設(shè)備時(shí)采取多管齊下的方法,對(duì)于滿足工業(yè)企業(yè)的期望至關(guān)重要。
最終,工程師們需要重新審視為設(shè)備選擇底層硬件的策略。在為邊緣人工智能設(shè)備選擇組件時(shí),他們必須找到能夠優(yōu)先考慮以下方面的選項(xiàng):
o 降低延遲。速度是工業(yè)組織投資邊緣部署的主要驅(qū)動(dòng)力,因?yàn)檫@些邊緣系統(tǒng)往往比基于云的方案延遲更低。當(dāng)處理和分析在邊緣進(jìn)行(更接近數(shù)據(jù)收集的地方)時(shí),系統(tǒng)就不必浪費(fèi)時(shí)間在傳輸上。為了適應(yīng)不斷變化的需求,使實(shí)時(shí)響應(yīng)更加便捷和可靠,工程師可能還希望優(yōu)先考慮具有并行處理能力的設(shè)備,以確保隨著計(jì)算需求的增加,速度和可靠性得到保障。
o 提高能效。工業(yè)物聯(lián)網(wǎng)設(shè)備通常沒(méi)有太多空間使用電池或電源轉(zhuǎn)換組件,因此低功耗硬件對(duì)設(shè)計(jì)師來(lái)說(shuō)具有優(yōu)勢(shì)。然而,在考慮效率時(shí),我們需要從更宏觀的角度來(lái)看,因?yàn)槿藗儗?duì)人工智能和云計(jì)算能耗的擔(dān)憂不斷增加。數(shù)據(jù)量的增加意味著能源支出和碳排放的增加,不僅如此,本地和/或云系統(tǒng)給運(yùn)營(yíng)增加了額外的長(zhǎng)期成本。采用低功耗組件有助于確保小型設(shè)備按預(yù)期運(yùn)行,在冷卻成本不斷上升的情況下,這提供了一種更具性價(jià)比的選擇;許多組件甚至具備無(wú)風(fēng)扇計(jì)算功能。更理想的是,工程師可以選擇使用支持動(dòng)態(tài)電源管理(例如,睡眠/喚醒模式)的硬件,以進(jìn)一步緩解不斷增長(zhǎng)的功耗需求。
o 確保安全運(yùn)行。增強(qiáng)的安全性也是工業(yè)邊緣人工智能系統(tǒng)的一個(gè)吸引人的特點(diǎn)。所有行業(yè)都面臨著日益增長(zhǎng)的風(fēng)險(xiǎn),但關(guān)鍵基礎(chǔ)設(shè)施和重工業(yè)環(huán)境面臨的網(wǎng)絡(luò)物理威脅尤為嚴(yán)重。對(duì)于許多人而言,設(shè)備端處理是一個(gè)極具吸引力的選擇,因?yàn)樗芟拗茢?shù)據(jù)在傳輸至云端環(huán)境或從云端環(huán)境傳輸至設(shè)備端過(guò)程中所面臨的暴露風(fēng)險(xiǎn)。然而,緊湊型模型可能會(huì)犧牲傳統(tǒng)的軟件級(jí)安全協(xié)議。在開(kāi)發(fā)設(shè)備時(shí),開(kāi)發(fā)者需要優(yōu)先采用硬件級(jí)保護(hù)措施,例如加密、安全啟動(dòng)以及神經(jīng)網(wǎng)絡(luò)(NN)模型認(rèn)證,以便在不影響性能和效率的前提下彌補(bǔ)安全漏洞。
o 具備適應(yīng)性。工業(yè)物聯(lián)網(wǎng)(IIoT)系統(tǒng)屬于長(zhǎng)期投資,企業(yè)需要部署能夠隨其業(yè)務(wù)發(fā)展而變化的技術(shù)。選擇可重新編程、支持無(wú)線(OTA)更新和/或支持神經(jīng)網(wǎng)絡(luò)(NN)的設(shè)備,有助于在系統(tǒng)需要升級(jí)或變更時(shí)減少停機(jī)時(shí)間,因此具備這些功能的設(shè)備對(duì)企業(yè)頗具吸引力。對(duì)于工業(yè)物聯(lián)網(wǎng)設(shè)備開(kāi)發(fā)者而言,通用設(shè)備芯片也是一個(gè)不錯(cuò)的選擇,因?yàn)樗鼈兡軌蛱幚砀鞣N高性能計(jì)算任務(wù),為設(shè)計(jì)階段提供靈活性支持。
要兼顧上述所有方面是一項(xiàng)重大挑戰(zhàn),工程師們需考慮一系列選擇——每種選擇都有其自身的優(yōu)勢(shì)和局限性:
適應(yīng)性 | 可擴(kuò)展性 | 性能 | 效率 | 開(kāi)發(fā)周期 | 安全性 | |
ASIC | 低 | 低 | 高 | 高 | 長(zhǎng) | 強(qiáng) |
CPU | 高 | 中等 | 中等 | 中等 | 短 | 中等 |
GPU | 中等 | 中等 | 高 | 中等 | 短 | 有限 |
高 | 高 | 中等 | 高 | N/A | 強(qiáng) | |
MCU | 低 | 低 | 低 | 非常高 | 短 | 有限 |
NPU | 低/中等 | 高 | 高 | 高 | 中等 | 有限 |
SoC | 中等 | 高 | 中等/高 | 高 | 長(zhǎng) | 強(qiáng) |
雖然ASIC提供了卓越的性能和效率,但缺乏靈活性,使其更適合固定、大批量應(yīng)用,而非不斷發(fā)展變化的工業(yè)環(huán)境。同樣,CPU和GPU提供了快速的開(kāi)發(fā)周期和廣泛的兼容性,但往往在功耗和熱約束方面存在困難。MCU在超低功耗場(chǎng)景中表現(xiàn)出色,但在計(jì)算密集型人工智能任務(wù)上表現(xiàn)欠佳。雖然NPU和SoC為人工智能工作負(fù)載提供了更強(qiáng)的性能,但它們通常需要更長(zhǎng)的開(kāi)發(fā)周期,且適應(yīng)性有限。
在同類半導(dǎo)體器件中,現(xiàn)場(chǎng)可編程門陣列(FPGA)因其獨(dú)特優(yōu)勢(shì),最契合復(fù)雜且關(guān)鍵任務(wù)型設(shè)備的需求。它采用可重新編程架構(gòu),集高適應(yīng)性、強(qiáng)安全性和高效確定性性能于一身,使工程師無(wú)需更換設(shè)備即可更新神經(jīng)網(wǎng)絡(luò)(NN)模型或優(yōu)化硬件。這種靈活性對(duì)于關(guān)鍵任務(wù)型邊緣人工智能系統(tǒng)而言尤為寶貴,因?yàn)檫@類系統(tǒng)的需求會(huì)隨時(shí)間演變,且必須將停機(jī)時(shí)間降至最低。盡管這些專用芯片可能會(huì)給構(gòu)建過(guò)程帶來(lái)一定復(fù)雜性,但它們(以及其他同類芯片)在工業(yè)應(yīng)用領(lǐng)域具有巨大潛力。
在高風(fēng)險(xiǎn)環(huán)境中,哪怕節(jié)省幾秒鐘時(shí)間都可能對(duì)避免事故或故障起到至關(guān)重要的作用,而一旦開(kāi)發(fā)者掌握了FPGA的使用方法,F(xiàn)PGA便能被證明完全能夠勝任此類任務(wù)。目前,基于FPGA的構(gòu)建方案已為一些人工智能領(lǐng)域最熱門的應(yīng)用提供支持:從計(jì)算機(jī)視覺(jué)輔助的安全監(jiān)控到動(dòng)態(tài)電源管理,即便是在小型且電力受限的邊緣設(shè)備中應(yīng)用,F(xiàn)PGA也能助力維持系統(tǒng)正常運(yùn)行。
觸手可及
隨著工業(yè)設(shè)施不斷朝著以人為本、可持續(xù)發(fā)展的工業(yè)5.0愿景邁進(jìn),硬件與軟件的周密融合將成為實(shí)現(xiàn)這一愿景的關(guān)鍵。目前,在克服空間和電力限制方面已取得重大進(jìn)展,這使得許多曾經(jīng)遙不可及的應(yīng)用成為可能。但進(jìn)步永無(wú)止境,仍有提升空間。
展望未來(lái),成功將取決于一種整體性方法——即整合恰當(dāng)?shù)墓ぞ摺⒓夹g(shù)和設(shè)計(jì)策略,以確保邊緣人工智能系統(tǒng)具備高效性、適應(yīng)性,并契合長(zhǎng)期工業(yè)需求。












評(píng)論