終端與云端并進 高通人工智能AI探討

人工智能作為目前手機的最熱門功能,是可以與5G相媲美的未來手機發(fā)展趨勢。即使在我們目前所使用的4G手機中,人工智能也已經(jīng)比不可少,手機中的很多功能已經(jīng)要借助于人工智能性能來實現(xiàn),生物特征解鎖、拍照、語音助手、AR識別翻譯等功能都是如此。

人工智能離不開模型算法的優(yōu)化,同樣也離不開底層硬件所提供的性能支持。高通方面作為手機市場中最主要的供應商之一,對于人工智能方面也有著一套獨特的做法,高通在人工智能方面有哪些特色,高通產(chǎn)品市場總監(jiān)劉學徽就為我們進行了一番分享。

云端與終端缺一不可 終端側(cè)性能影響最終體驗

人工智能在近年的發(fā)展比較迅速,其主要有終端側(cè)與云端兩種不同的配備方案。兩種方式各有所長,云端的優(yōu)勢在于它的資源非常豐富,不管是計算資源、能效還是內(nèi)存,都可以通過強大的計算能力來實現(xiàn)相應的運算處理。終端側(cè)的限制條件較多,計算力、電池、存儲空間都會受到限制,更適合做一些快速的運算。

人工智能的運用,顯然是要通過云端與終端兩方面相結(jié)合才能夠獲得優(yōu)秀的體驗。目前的手機市場中,在云端方面大多負責AI模型的培訓,畢竟這方面所需要的大規(guī)模運算時,在終端側(cè)根本無法實現(xiàn)。另外云端側(cè)還要負載在終端側(cè)無法處理的信息。

終端側(cè)則使用云端已經(jīng)訓練好的模型,力圖以最小的功耗來提供最優(yōu)秀的性能表現(xiàn)。因此就實際的用戶體驗來說,終端側(cè)與用戶的聯(lián)系是遠遠超過云端的,而影響人工智能使用體驗的主要因素,也是在于我們手機終端側(cè)的性能表現(xiàn)上。

高通三代AI引擎迭代 打造生態(tài)推動AI發(fā)展

高通作為AI方面的主要推動者之一,十分注重終端側(cè)性能表現(xiàn),驍龍人工智能引擎(AIE)目前已經(jīng)發(fā)展到了第三代。高通早在2008年就開始涉足AI方面,在2015年開始推出產(chǎn)品,當時Facebook率先在AI方面定義了Caffe模型,高通驍龍820就在CPU上實現(xiàn)了Neon加速。

第二代支持AI的平臺驍龍835,已經(jīng)通過神經(jīng)處理SDK很好地支持了TensorFlow和Caffe兩大主流框架。CPU、GPU和DSP均可以支持運算,尤其是在GPU和DSP上,能夠讓AI運算的性能和功耗都得到顯著優(yōu)化。

隨著AI的興起以及整個市場規(guī)模的不斷壯大,在TensorFlow、Caffe之外,百度PaddlePaddle、商湯Parrots、Android NN等等模型的推出,對終端側(cè)提出了更高的要求。驍龍845平臺作為高通的第三代AI平臺,對上述模型有著全方位的支持。

人工智能AI方面除了硬件的基礎性能外,軟件優(yōu)化也能夠顯著的提升性能表現(xiàn)。基于高通方面的測試數(shù)據(jù),在硬件配置完全相同的情況下,對軟件方面的優(yōu)化能夠大幅提升性能表現(xiàn),在一年的時間里就能讓性能翻一番。因此,高通人工處理引擎AI Engine不僅是硬件上的提升,同時強調(diào)軟件對模型、算法的支持和優(yōu)化。

此外,高通方面還在與整個生態(tài)系統(tǒng)合作伙伴共同推動AI的發(fā)展。商湯、Face++、虹軟等廠商所推出的創(chuàng)新性的算法和應用在驅(qū)動高通方面不斷的進行改進。同時,高通也與騰訊等云端服務商合作,借助驍龍神經(jīng)處理SDK來進行終端側(cè)的實際應用。比如手機QQ的“高能舞室”功能,就是直接運行在手機上的人工智能神經(jīng)網(wǎng)絡,無需在云端進行處理。

AI性能衡量標準 要看模型與效率

在面對以往設備的性能問題上,往往都具備一個大家所公認的基準測試標準,也就是俗稱的跑分,但是AI所誕生的這三年時間里,卻并沒有一個所公認的標準,大家對于AI方面的性能描述,還要依靠實際的使用,這也導致用戶對于AI性能沒有一個衡量標準。

對于AI基準測試,高通方面認為有三個至關(guān)重要的指標:第一是準確率,第二是性能,第三是能效。上述三個重要指標的實現(xiàn),可以在真實使用環(huán)境中帶來很好的用例,而真實生活中的用例才應是衡量AI基準測試真正關(guān)鍵的指標,并不僅僅是網(wǎng)路,而是真正的通過神經(jīng)網(wǎng)絡帶來的用例。

現(xiàn)在市面上有很多基準測試工具,使用的模型不同、權(quán)重不同,那么測試結(jié)果也會不同。甚至有些模型完全沒有實際的應用落地,只是能夠進行壓力測試,而這樣的模型所表現(xiàn)出的性能基準測試成績,甚至可以說是毫無意義。高通方面對于目前主流的神經(jīng)網(wǎng)絡模型進行了一個曲線分析,ResNet50和Inception-V3是當下在終端側(cè)效率最高的,能夠讓用戶獲得最好的體驗,是高通方面認為基準測試應當最為看重的。

另外AI基準測試軟件的性能表現(xiàn),會受到測試機型驅(qū)動程序的影響,如果不使用最新的軟件版本的話,是無法啟用相應硬件的加速的。高通方面對于新版本系統(tǒng)的驅(qū)動程序已經(jīng)進行了跟進,最新的Android 9.0系統(tǒng)中,高通方面已經(jīng)開始了Adreno GPU的驅(qū)動程序更新,在運用新款驅(qū)動后,在AI基準性能測試中的成績會有很明顯的變化。

(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )

贊助商
2018-09-04
終端與云端并進 高通人工智能AI探討
人工智能作為目前手機的最熱門功能,是可以與5G相媲美的未來手機發(fā)展趨勢。

長按掃碼 閱讀全文