如果應用開發人員和OEM廠商想要利用智能手機應用處理器內部的神經引擎，他們需要一個與底層硬件掛鉤的軟件框架。“所有領先的移動處理器設計公司(高通、聯發科、華為、蘋果)現在都提供神經網絡SDK，”Demler觀察到。但他們都需要支持像Caffe和Torch這樣的流行培訓框架。

　　對聯發科來說，聯發科提供了被稱為NeuroPilot AI SDK的框架，該框架可以讓應用開發人員和OEM廠商“深入到硬件，看AI軟件如何在CPU、GPU和專用AI加速器上運行”，Moynihan這樣表示。

　　與此同時，應用開發人員和OEM廠商也需要能夠“查找并查看Android網絡API(Android NNAPI)的內容”，Moynihan補充道。Google為Android機器學習開發了Android NNAPI和運行時引擎。“聯發科的NeuroPilot SDK完全符合Android NNAPI，”Moynihan補充道。

　　Android Neural Networks API的系統架構(來源：Google)

　　在部署能夠讓智能手機處理器運行AI應用的方法中，高通的方法似乎有些不同。

　　McGregor說，高通的解決方案是不同的，因為“他們已經在芯片上使用了多種資源，包括Hexagon DSP、Adreno GPU和Kryo CPU內核。”

　　然而他補充說：“沒有可用的基準，不可能確定哪種方法更好，但高通模型確實提供了更高的靈活性。”

　　AI軟件之戰

　　無論底層硬件如何，畢竟最關鍵的還是能夠購在任何智能手機上體現AI體驗差異化的軟件。

　　McGregor說：“現在，這些應用正瞄準著手機上的常見功能，例如拍照和數字助理。但是，通常由第三方軟件開發人員來開發和訓練用于手機上的這種模型。”

　　他指出，“在有限的情況下，有些模型或庫是可用的。高通圍繞圖像識別開發了一些庫，三星主要圍繞拍照，我相信蘋果也正在開發自己的模型。“

　　在其他情況下，這取決于應用開發人員，這是一個很大的限制，McGregor指出。“很多應用開發人員并不習慣于使用深度學習，也無法訪問深度學習所需的大型數據中心，”他說。

　　Linley Group的Demler在他最近的微處理器報告中也對人工智能軟件開發提出了警告。 “處理器架構的多樣性給Android應用開發人員帶來了挑戰，因為即使在缺乏專用深度學習加速器的設備上，這些應用也必須能夠運行。”而另一方面，iOS應用開發人員只需要支持Apple設計的一些處理器就可以了。

　　Tirias Research首席分析師Kevin Krewell也警告說：“我看到的最大問題是，每個芯片和IP供應商都在以不同的方式做機器學習。ARM可能有最佳的機會，在一個IP上對多個廠商實施標準化。