Alif Semiconductor的Ensemble MCU新增對ExecuTorch Runtime的支持,助力其推動邊緣生成式AI發展
全球領先的安全、聯網、高能效人工智能與機器學習(AI/ML)微控制器(MCU)及融合處理器供應商Alif Semiconductor?今日宣布,開發者現可將PyTorch ML框架的量化擴展ExecuTorch Runtime,用于基于其Ensemble E4/E6/E8系列MCU及融合處理器開發的AI應用。

ExecuTorch擴展可幫助面向微控制器等資源受限硬件平臺的AI模型開發者,借助PyTorch框架打造輕量級模型,支持低延遲、高精度推理。由于Ensemble E4、E6和E8系列產品均搭載支持Transformer式ML網絡的Arm? Ethos?-U85 NPU,開發者如今可通過PyTorch與ExecuTorch Runtime,構建能在電池供電終端設備上本地運行的生成式AI應用,涵蓋智能眼鏡、人機交互設備、醫療健康與診斷設備、機器人、交通設備、益智玩具與教育產品、智能家居及智慧城市設備等場景。
在PyTorch大會(10月22-23日,美國加利福尼亞州舊金山市Moscone West)上,Arm展示了經ExecuTorch編譯、可在Alif Ensemble E8融合處理器上運行的生成式AI應用案例,包括:
● 一款運行于Ensemble E8的小型語言模型,可根據視覺提示生成適合兒童的故事,還可擴展至支持語音提示。
● 實時設備端語音轉文字模型,適用于集成到智能眼鏡等可穿戴設備,能實現語音實時轉錄以生成實時字幕。
Alif Semiconductor總裁Reza Kazerounian表示:“Alif通過持續創新始終處于邊緣AI領域的前沿,如今更延伸至生成式AI時代。我們的Ensemble系列微控制器對ExecuTorch Runtime的原生支持,進一步拓展了MCU級AI的應用邊界。對于致力于打造下一代智能產品的嵌入式設備制造商而言,Alif仍是將AI技術落地邊緣端的可靠引領者。”
Arm高級副總裁兼IoT業務總經理Paul Williamson表示:邊緣生成式AI正催生全新品類的智能電池供電設備,這類設備可實時理解并響應環境交互。借助ExecuTorch框架,開發者能高效地將PyTorch模型部署到Alif Ensemble MCU上,實現低功耗設備端推理。此次合作充分證明,統一生態系統可推動邊緣智能的規模化應用,加速實際場景中的AI創新。”
PyTorch大會演示中所用的Alif DK-E8開發板現已開放購買,該開發板支持整個E4/E6/E8系列的開發工作。













評論