驍龍AIE有什麼不一樣?看完你就知道

  對於人工智能你知道多少呢?會下棋的就是人工智能?會像人一樣與你對話的就是人工智能?能通過相機識別物體的就是人工智能?泛泛來說,讓機器(智能終端產品)做一些原本只有人類做得到的略帶思考性質的功能,都可以叫做人工智能。當然,這並非權威的解釋,只是想要說的通俗一點,讓人們更容易理解罷了。進入2018年以來,作為一個普通用戶而言,接觸到AI最多的地方,居然是在的諸多新品中。

搭載驍龍845移動平台的小米MIX 2S
搭載驍龍845移動平台的S

  從去年年底開始,AI智能這個新鮮卻又熟悉的詞語出現在消費者的眼中,尤其是進入2018年以來,原本搭載高通驍龍660移動平台的一些手機,在新版本發布後,消費者發現它們的處理器變成了高通驍龍660 AIE,究竟這後面的AIE是什麼呢?為什麼新加了這個後綴,這部手機就被叫做AI手機了呢?一連串的問題不禁從消費者的腦中閃過。今天,就讓筆者來告訴你究竟什麼是驍龍AIE。

什麼是驍龍AIE?

  究竟什麼是驍龍AIE呢?它是高通推出的一款終端側人工智能產品,全稱為「驍龍人工智能引擎」,英文名為「Snapdragon AIE」。它是幫助加速終端側人工智能用戶體驗實現的硬件與軟件組件的集合。簡單的說,增加了AIE後綴後,這款移動平台產品就不再是單一的硬件芯片,而是一個硬件芯片與軟件組件的組合,以便為用戶提供一個全方位的AI功能新體驗。

驍龍人工智能引擎 (Snapdragon AIE)
驍龍人工智能引擎 (Snapdragon AIE)

  那麼問題來了,驍龍人工智能引擎(Snapdragon AIE)的集合內究竟包含了哪些關鍵組件呢?

  硬件方面:硬件層面上,主要采用了異構運算,內部包含Hexagon 向量處理器、Adreno GPU 和 Kryo CPU 的人工智能優化組合。

  軟件工具和庫:軟件層面上,包含了驍龍神經處理 SDK、 NN 和 Hexagon NN。

  把上述信息進一步簡化一下,我們就可以得到這樣的一個公式:

  硬件 (Hexagon、Adreno、Kryo) + 軟件工具 (SNP SDK、 NN、Hexagon NN)=人工智能引擎 AI Engine

  從這一公式你就可以簡明扼要的了解到,高通的人工智能引擎(AIE)並非是一枚全新的芯片,也並不單單只是一個後綴名那麼簡單,它是一套完整的涵蓋硬件及軟件整體的人工智能解決方案。對於OEM廠商來說,可以實現拿來就用,直接的提升終端設備上人工智能相關功能的處理速度;對於一般用戶而言,只要看到AIE的標識,就意味著這台設備可以為你提供更加優質的人工智能功能體驗,從另一個層面來說,也可以理解為這就是一台AI手機。

  下面,讓我們進一步從硬件技術與軟件技術兩方面來詳細了解一下驍龍AIE的更多信息吧!

驍龍AIE的硬件技術解析

  在討論AIE的硬件技術前,你需要了解這樣一個概念——「異構運算」。異構運算是一種特殊形式的並行和分布式計算,它或是用能同時支持simd方式和mimd方式的單個獨立計算機,或是用由高速網絡互連的一組獨立計算機來完成計算任務。它能協調地使用性能、結構各異地機器以滿足不同的計算需求,並使代碼(或代碼段)能以獲取最大總體性能方式來執行。

  如果你覺得上面的話不太容易理解,筆者給你打個比方,采用異構運算的芯片就好比一個擁有多條產品線的工廠,其中每條產品線都有自己擅長生產的產品,比如一號產品線適合生產掃把、二號產品線適合生產拖把、三號產品線適合生產鐵鍬。在異構運算的條件下,在整個工廠進入生產前,工廠會自動對生產任務進行識別,提前確認該生產任務究竟是生產掃把、拖把還是鐵鍬。如果是掃把,工廠便會將任務自動分配給一號產品線進行生產。同理,如果任務是拖把或者鐵鍬,工廠也會自動將任務分配給二號和三號生產線。這樣便可以使整個工廠的生產力達到最大。

  高通AIE硬件技術內包含的Hexagon 向量處理器、Adreno GPU 和 Kryo CPU就好比是這三條生產線,它們各自有各自擅長的運算能力,異構運算使它們可以只進行自己擅長部分的數據運算,從而提升整體的運算效率。

  Hexagon 向量處理器:相較於 GPU 或 CPU,涉及向量數學的應用工作負載通常更適合在 Qualcomm 的向量處理器上運行。 Qualcomm Hexagon 向量處理器是向量處理器子系統中的加速引擎,支持實現以 8 位定點加速神經網絡運行。也就是說,該款處理器更擅長AI方面數據的計算與處理。

  Adreno GPU:具有龐大的並行數據集、需要大量的向量數學,尤其是對浮點精度有要求的應用工作負載, 都非常適宜在驍龍的 Adreno GPU 上運行。人工智能應用通常先使用 「GPGPU」(通用GPU) 建模,有的是全部建立在 GPU 上,有的則分布於 GPU 和向量處理器間。它更加擅長處理的則是精度較高的數據運算,以圖像和視頻為代表。

  Kryo CPU:神經網絡模型通常以 32 位浮點(高精度)在雲端完成訓練。它也可以在終端側的 CPU 上實現類似運行,但其成本較高,並需要終端在性能和功耗上作出一些犧牲。比如在驍龍 845 中, 在 Kryo CPU 上優化了對 8 位定點精度的支持,幫助支持包含較大內核、相對較少向量處理、非規則性數據結構和/或復雜流程控制的應用。它便更加擅長對常規數據的運算與處理。

  以此為基礎,Qualcomm 的異構運算方案便可以面向不同類的功能、基於不同類型的數據、在不同的計算精度水平上,可支持大量卷積或循環神經網絡。也就是說,其芯片內包含了Hexagon 向量處理器、Adreno GPU 和 Kryo CPU,有關人工智能的向量計算任務,這系統便會自動將任務分配給Hexagon 向量處理器,圖像的運算便會分給更加擅長的Adreno GPU,以此類推,讓整個采用了異構運算方案的硬件芯片無論面對怎樣的計算任務,都能時刻保持其最高的運算效率,進而提升設備的整體運算性能,從而提升在該設備上功能實現的效果。

驍龍AIE帶來2倍的用戶體驗增強
驍龍AIE帶來2倍的用戶體驗增強

驍龍AIE 的軟件技術解析

  在軟件層面上,驍龍AIE包含了驍龍神經處理 SDK、Android NN 和 Hexagon NN。分別針對不同的應用場景來滿足開發者和OEM廠商對AIE人工智能引擎進行定制化、個性化處理,使最終生產的出產品更具特色。

  驍龍神經處理 SDK:驍龍神經處理(SNP)SDK 旨在幫助開發者節省在驍龍終端上優化已訓練好的神經網絡運行的性能的時間和工作量。為了實現這一目的,Qualcomm 為模型轉換和操作提供工具,並為選擇具備特定功耗和性能組合的內核提供 API,以滿足所期望的用戶體驗。該 SNP SDK 支持 卷積神經網絡(CNN)、LSTM 與自定義層。

  ANDROID NN:Google 的全新 Android NN API,為手機帶來硬件加速的推理能力,可支持快速執行此前訓 練過的機器學習模型。通過降低時延和網絡側的加載,在邊緣側運行這些計算可為終端用 戶帶來極大的實用性,同時也可在終端側保存更敏感的數據。

  Hexagon NN:Hexagon NN 是幫助開發者在 Hexagon 向量處理器上直接運行其人工智能算法的庫。當在 Hexagon 向量處理器上運行時,Hexagon NN 為基礎性的機器學習模塊提供了優化的部署, 並顯著加速諸如卷積、池化和激活等人工智能運行。這個庫也可能被直接使用,在向 Hexagon 向量處理器卸載人工智能工作負載時,它也可以被 SNP SDK 和 Android NN 使用。

驍龍AIE可以讓人工智能無處不在
驍龍AIE可以讓人工智能無處不在

  簡而言之,軟件層面的配套組件主要作用在於讓開發者與OEM廠商可以更加容易的應用驍龍AIE人工智能引擎,以便在最短的產品研發周期中,第一時間推出自家定制化、個性化的AI智能終端產品。對於開發者與OEM廠商而言,一套解決方案最為重要的除了強大的功能外,易用性則是第二考慮因素。很顯然,驍龍AIE人工智能引擎很好的兼顧了這兩點。

哪些產品擁有驍龍AIE的支持呢?

  回到產品的層面,目前,高通旗下推出的驍龍845、驍龍835、驍龍820、驍龍821、驍龍700系列以及驍龍660移動平台均已支持驍龍AIE人工智能引擎。此外,在物聯網領域的Qualcomm視覺智能平台體系中,QCS605與QCS603也同樣支持驍龍AIE人工智能引擎。

驍龍AIE可以讓人工智能無處不在
驍龍AIE可以讓人工智能無處不在

  這裡需要重點講一下高通最新推出的驍龍700系列的首款產品——高通驍龍710移動平台。作為驍龍700系列的首款產品,驍龍710基於10納米制程工藝打造,內部采用了高通人工智能(AI)的高效架構(異構運算)。高通官方表示,推出該款產品的主要目的是為了通過它為更廣泛的用戶帶來部分頂級特性(旗艦機才擁有的特性),從而超越人們對目前高端移動體驗的期待。

驍龍710移動平台架構圖
驍龍710移動平台架構圖

  也就是說,驍龍710移動平台主要定位在驍龍845移動平台與驍龍660 AIE移動平台之間。之所以它沒有帶AIE的後綴,主要是因為700全系的產品都將是會是在驍龍AIE體系下的產品,所以,對於用戶而言,如果你買到的手機采用的是驍龍700系列移動平台,那你就可以簡單的認為它就是一部AI手機。

驍龍710移動平台測試對比成績
驍龍710移動平台測試對比成績

  對於OEM廠商而言,如果你想要推出的是一款次旗艦的產品,驍龍710移動平台無疑是一個不錯的選擇。在性能上,尤其是AI方面的運算能力上,遠高於驍龍660 AIE。其主要原因在於,驍龍710移動平台內的向量處理器采用了與驍龍845相同的Hexagon 685 DSP,可為產品提供媲美旗艦機的AI運算能力,這對於當下的AI智能手機整體性能的提升影響並非一星半點。

寫在最後

  當然,驍龍AIE人工智能引擎的應用范圍並不局限於手機,只是對於目前的消費者而言,AI智能手機是你最直接、最快速能夠接觸到、體驗到驍龍AIE人工智能引擎帶來的終端設備性能提升的途徑。在此之外,驍龍AIE人工智能引擎還廣泛的應用於物聯網終端以及汽車科技當中,這也正是高通AI無處不在戰略當中重要的組成部分。

  用最簡單的方式來介紹驍龍AIE人工智能引擎, 「對於OEM廠商來說,想要生產一款AI終端產品,驍龍AIE人工智能引擎體系下的產品是一個不錯的選擇;而對於最終用戶而言,想要購買AI終端設備,就請認准驍龍AIE人工智能引擎的標識吧!」

  現在,你是否對於驍龍AIE人工智能引擎有了更深一步的認識了呢?

小米人