標簽

推理技術社區

推理

推理技術社區為您提供最新的推理相關技術資訊、推理的技術資料、推理的電路設計方案、推理的視頻資料、推理的相關元器件資料以及推理的技術應用。

全部資訊論壇

推理資訊

國產GPU實現萬卡訓練與推理雙突破，摩爾線程發布“花港”新架構

2025年12月20日，北京——摩爾線程首屆MUSA開發者大會（簡稱：MDC 2025）在北京中關村國際創新中心正式開幕。作為國內首個聚焦全功能GPU的開發者技術盛會，大會系統展示了摩爾線程以自主MUSA統一架構為核心的...

國產GPU 萬卡 2025-12-20

將AI模型和推理引入物聯網

人工智能的實施正在從云轉向邊緣。帶寬和延遲是在邊緣云應用程序中進行推理時的關鍵問題，因此源推理對于許多物聯網應用程序至關重要。因此，邊緣對更多計算能力的需求也在上升。然而，邊緣是一個高度分散的領域，包括工業、智能手機、消...

AI模型推理 2025-11-04

使用Tensorflow訓練模型并且部署到ESP32S3進行推理

1? ?簡介最近這一段時間在學習機器學習，也嘗試將一個SkLearn的模型部署到了PocketBeagle 2 上（感謝論壇提供的試用機會），發現效果是真的不錯。所以我就在想有沒有什么便捷的方式能夠將一個簡單的模型部署到...

202509 Tensorflow 2025-09-28

如何在RK3576開發板上運行TinyMaix ：超輕量級推理框架

本文將介紹基于米爾電子MYD-LR3576開發平臺部署超輕量級推理框架方案：TinyMaix摘自優秀創作者-...

TinyMaix 超輕量級 2025-07-31

用 OpenVINO? GenAI解鎖 LLM 極速推理：推測式解碼讓 AI 爆發潛能

隨著 DeepSeek、 GPT 和 Llama 等大語言模型（LLMs）不斷推動人工智能的邊界，它們在高效部署方面也帶來了重大挑戰。這些模型在生成類似人類的文本方面具有革命性，但每生成一個 token 都需要...

OpenVINO GenAI 2025-03-26

Arm計算平臺加持，全新Llama 3.2 LLM實現AI 推理的全面加速和擴展

新聞重點：●? ?在Arm CPU上運行Meta最新Llama 3.2版本，其云端到邊緣側的性能均得到顯著提升，這為未來AI工作負載提供了強大支持●? ?Meta與Arm的合作加快了用例的創新速度，例如個性化的端側推薦以...

Arm Llama 3.2 LLM 2024-09-27

推理論壇

05-20 【昉·星光2RISC-V單板計算機】物體識別的板端推理

無垠的廣袤|瀏覽：853|回復：0| 無垠的廣袤 2025-05-20 14:16:57

02-03 rkllm板端推理

abgh668|瀏覽：526|回復：1| Hope2022 2025-02-04 17:53:41

10-01 搞懂三極管，其實可以從二極管推理！

huan2220|瀏覽：360|回復：1| Hope2022 2024-10-02 19:36:42

03-05 開發者實戰|速度起飛！AI大模型基于OpenVINO?優化初次推理啟動速度的小妙招

nakey|瀏覽：2749|回復：0| nakey 2024-03-05 15:30:39

01-12 在英特爾AI開發板上用OpenVINO?NNCF優化YOLOv7，2.15倍性能提升

nakey|瀏覽：2885|回復：2| 蔣洪濤 2024-02-05 11:20:14

11-07 知識圖譜：技術成熟度飛速躍升，與產業互聯結合更加緊密

龍騰AI技術|瀏覽：1273|回復：4| xiongG 2022-11-29 20:17:56

04-20 在邊緣選擇機器學習處理器

basketj|瀏覽：1552|回復：2| 同煮山川 2021-05-15 23:50:55

06-26 測試與推理

skm2007|瀏覽：1679|回復：0| skm2007 2012-06-26 23:13:25

更多 技術趨勢

HBM4競爭格局生變

長江存儲進入加速期，三期項目計劃今年建成投產

國產半導體設備加速崛起

上調100%！存儲市場又一重磅調價信號

插混車型成為“突破口”：中國車企在歐洲市場的銷量再創新高

更多 最新動態

更多 培訓課堂

更多 資源下載

修改版的Factory固件

時間：: +立即下載2026-02-15

雙胞胎健康監測系統部署代碼和步驟

時間：: +立即下載2026-02-13

雙胞胎健康監測系統參考源碼

時間：: +立即下載2026-02-13

稱重輸出演示2

時間：: +立即下載2026-02-13

稱重輸出演示1

時間：: +立即下載2026-02-13

lulugl|瀏覽：32|回復：0

馬到成功收入多

xqh518|瀏覽：44|回復：0

【ArduinoGIGAR1WiFi-開發板測評】+數據采集與NTC溫度檢測

Lilyna|瀏覽：73|回復：0

ESP32-S3野牛/ESP32-S3KC通用操作步驟（ArduinoIDE）

丙丁先生1|瀏覽：100|回復：0

OpenClaw

丙丁先生|瀏覽：162|回復：0

【ESP-IDF】【微雪Epaper-esp32-S3】基于Factory的NTP和濕溫度卓搭

御坂美琴|瀏覽：91|回復：0

相關標簽

久久ER99热精品一区二区-久久精品99国产精品日本-久久精品免费一区二区三区-久久综合九色综合欧美狠狠

推理

國產GPU實現萬卡訓練與推理雙突破，摩爾線程發布“花港”新架構

將AI模型和推理引入物聯網

使用Tensorflow訓練模型并且部署到ESP32S3進行推理

如何在RK3576開發板上運行TinyMaix ：超輕量級推理框架

用 OpenVINO? GenAI解鎖 LLM 極速推理：推測式解碼讓 AI 爆發潛能

Arm計算平臺加持，全新Llama 3.2 LLM實現AI 推理的全面加速和擴展

ADI家庭總線數據線供電解決方案

EEPW 2025 年度產業技術回顧與展望直播——機器人專場

EEPW 2025 年度產業技術回顧與展望直播——智能工廠專場

EEPW 2025 年度產業技術回顧與展望直播——汽車電子專場