關鍵VSORA 開發了一種針對 AI 推理優化的新型架構,在延遲、吞吐量和能效方面實現了接近理論的性能。該架構通過使用帶有海量 SRAM 陣列的統一內存級來解決“內存墻”問題,從而促進更快的數據訪問并消除瓶頸。VSORA架構中的每個處理內核都具有1600萬個寄存器,并集成了高吞吐量MAC單元,可實現靈活的張量運算和高計算效率。VSORA 是一家開創性的高科技公司,設計了一種新穎的架構,專門設計用于滿足數據中心和邊緣 AI 推理的嚴格要求。VSORA 的架構在延遲、吞吐量和能效方面具有接近理論的性能,打破了