硬科技產(chǎn)業(yè)觀察之端側(cè)AI：AI算力隨身釋放千億價值

極客網(wǎng)·極客觀察（朱飛）11月14日 風(fēng)云變幻的國際局勢中，硬科技的價值日益凸顯。2024年10月22日，由E維智庫主辦的第12屆中國硬科技產(chǎn)業(yè)鏈創(chuàng)新趨勢峰會暨百家媒體論壇在深圳灣萬怡酒店成功舉行。峰會聚焦硬科技在產(chǎn)業(yè)發(fā)展中的驅(qū)動作用，匯聚眾多行業(yè)精英、專家學(xué)者以及百家媒體代表，共同探討硬科技產(chǎn)業(yè)鏈的創(chuàng)新趨勢與未來發(fā)展方向。

峰會上，來自艾邁斯歐司朗、Qorvo、RAMXEED（原富士通半導(dǎo)體）、飛凌微、安謀科技、清純半導(dǎo)體等知名科技企業(yè)的技術(shù)專家發(fā)表了精彩演講，內(nèi)容涵蓋LED技術(shù)、射頻技術(shù)、FeRAM技術(shù)、端側(cè)AI技術(shù)、NPU技術(shù)、SiC技術(shù)等多個領(lǐng)域，展示了硬科技在多個領(lǐng)域的技術(shù)發(fā)展及應(yīng)用情況。

這其中，端側(cè)AI作為硬科技領(lǐng)域的一個重要分支，涉及在設(shè)備端疊加AI算力、進(jìn)行數(shù)據(jù)處理和智能決策，以實現(xiàn)快速響應(yīng)和增強用戶體驗，成為峰會的一大焦點。飛凌微和安謀科技的技術(shù)專家均現(xiàn)身說法，分享了各家技術(shù)方案的發(fā)展以及在端側(cè)AI領(lǐng)域的最新應(yīng)用，令人印象深刻。

飛凌微邵科：以新一代端側(cè)SoC與感知融合方案，助力車載智能視覺升級

飛凌微首席執(zhí)行官兼思特威副總裁邵科在峰會上做了《新一代端側(cè)SoC與感知融合方案，助力車載智能視覺升級》的分享，結(jié)合端側(cè)AI發(fā)展趨勢介紹了端側(cè)視覺處理芯片及將端側(cè)SoC和圖像傳感器結(jié)合在車載應(yīng)用方案上面的落地應(yīng)用。

端側(cè)AI為何必要？邵科在演講中強調(diào)了端側(cè)AI處理的三大優(yōu)勢：低延遲、高可靠性以及數(shù)據(jù)安全和隱私保護(hù)。他指出，隨著圖像傳感器和AI算法的快速發(fā)展，端側(cè)AI在智能車載、智能家居、物聯(lián)網(wǎng)和機器視覺等領(lǐng)域的應(yīng)用越來越廣泛。

順應(yīng)市場需求，飛凌微今年推出了M1系列三款產(chǎn)品——高性能ISP和兩顆輕量級SoC，它們專為車載端側(cè)視覺感知預(yù)處理設(shè)計，具有業(yè)內(nèi)最小的BGA 7mm*7mm封裝，有助于實現(xiàn)更小型化的車載攝像頭模組。

其中，M1系列芯片的高性能ISP能夠處理高達(dá)800萬像素的圖像數(shù)據(jù)，具備高動態(tài)范圍和優(yōu)秀的暗光性能，滿足車載ADAS和影像類產(chǎn)品的需求。此外，M1系列芯片的輕量級SoC集成了輕量級的CPU和NPU，具備0.8TOPS的算力，能夠進(jìn)行人臉識別、姿態(tài)識別等輕量級AI應(yīng)用。

目前，飛凌微的產(chǎn)品方案已經(jīng)在車載視覺領(lǐng)域的多個應(yīng)用案例，包括DMS駕駛員監(jiān)控、OMS乘客監(jiān)控、電子后視鏡和后視攝像頭識別等。這些解決方案不僅提升了駕駛體驗，還增強了車輛的安全性和智能化水平。

在演講之后的問答環(huán)節(jié)中，邵科解釋了飛凌微的輕算力與市場上其他MCU的區(qū)別，并強調(diào)了輕算力在功耗、小型化方面的差異化優(yōu)勢。他還提到，飛凌微正在開發(fā)第二代產(chǎn)品，將支持多模態(tài)應(yīng)用，包括不同傳感器的輸入和語音與視覺的組合。

一言以蔽之，面對端側(cè)AI和SoC技術(shù)的新機遇及新挑戰(zhàn)，飛凌微計劃通過圖像傳感器與SoC的深度融合，以及采用更先進(jìn)的AI加速技術(shù)和提高圖像性能的技術(shù)，來更好地滿足客戶需求，讓端側(cè)AI綻放更大價值。

安謀科技：以“周易”NPU IP產(chǎn)品，加速終端AI算力升級

安謀科技產(chǎn)品總監(jiān)鮑敏祺在峰會期間做了《端側(cè)AI應(yīng)用“芯”機遇，NPU加速終端算力升級》的分享。他指出，隨著AIGC大模型帶來的算力提升，具備時效性和數(shù)據(jù)本地安全性優(yōu)勢的端側(cè)AI應(yīng)用正迎來新的增長點，其發(fā)展不僅僅局限于語言模型，而是將涵蓋圖片、音頻、視頻等多種輸入方式，滿足多樣化的應(yīng)用場景。

當(dāng)然機遇背后也有挑戰(zhàn)。鮑敏祺提到，端側(cè)AI的挑戰(zhàn)主要集中在成本、功耗和生態(tài)系統(tǒng)上。他解釋說，用戶實時體驗的需求要求大模型在2秒內(nèi)響應(yīng)，而端側(cè)設(shè)備的存儲容量、帶寬限制了大模型的部署。為此，安謀科技推出“周易”NPU，通過優(yōu)化架構(gòu)、提升算力，有效應(yīng)對這些挑戰(zhàn)。

比如，“周易”NPU保留了一部分本來的CNN能力，同時對Transformer大模型進(jìn)行了增強；又如，“周易”NPU更注重數(shù)據(jù)的本地化，減少數(shù)據(jù)搬運；此外，“周易”NPU針對大模型進(jìn)行了總線帶寬的擴展，以防止帶寬瓶頸出現(xiàn)。如此種種，通過增強算力、優(yōu)化數(shù)據(jù)流和提升效率，“周易”NPU IP產(chǎn)品能夠加速終端AI算力升級，滿足多樣化端側(cè)設(shè)備的AI計算需求。

而在應(yīng)對生態(tài)挑戰(zhàn)方面，移動時代一路主導(dǎo)下來的安謀科技更為輕車駕熟。鮑敏祺介紹，其“周易”NPU針對文心、Llama、GPT等主流模型均進(jìn)行了對應(yīng)部署，并對包括PAD、PC、Mobile、Automotive在內(nèi)的各類端側(cè)設(shè)備都進(jìn)行了覆蓋，根據(jù)實際場景需求去適配模型和算力。

在演講之后的問答環(huán)節(jié)，鮑敏祺還分享了“周易”NPU在智能汽車領(lǐng)域的應(yīng)用，包括ADAS、智能座艙和車載娛樂系統(tǒng)等。其中，搭載“周易”NPU的芯擎科技“龍鷹一號”已累計出貨超過40萬片，并成功應(yīng)用于吉利旗下的領(lǐng)克、銀河系列以及一汽紅旗等20余款主力車型中。

而面向未來，鮑敏祺透露下一代“周易”NPU將會繼承并顯著增強前代NPU的強算力、易部署以及可編程等特點和優(yōu)勢，并針對大模型的優(yōu)化做一些通用計算的能力優(yōu)化，圍繞精度、帶寬、調(diào)度管理、算子支持等多個方面持續(xù)進(jìn)行優(yōu)化，使得NPU能夠更好地滿足當(dāng)前及未來市場需求。

寫在最后：

無獨有偶，在近日舉行的2024全球移動寬帶論壇（MBBF 2024）上，端側(cè)AI也是焦點議題之一。在電信及其他產(chǎn)業(yè)人士看來，2024年是AI入端元年，將造就AI算力隨身，使能AI業(yè)務(wù)移動化，引領(lǐng)消費電子、智能汽車、具身智能機器人等新移動業(yè)態(tài)的發(fā)展，創(chuàng)造巨大的商業(yè)價值。

IDC預(yù)計，明年（2025年）全球端側(cè)AI市場的收入將達(dá)到59億美元。而Gartner的預(yù)測數(shù)據(jù)顯示，到2030年，全球端側(cè)AI市場將達(dá)到數(shù)千億美元的規(guī)模。這一預(yù)測基于端側(cè)AI技術(shù)在多個行業(yè)的深入應(yīng)用，包括智能制造、自動駕駛、智能家居、醫(yī)療健康等領(lǐng)域。

數(shù)據(jù)顯示，當(dāng)前具有AI功能的APP數(shù)量已達(dá)到300多萬款，超過了傳統(tǒng)應(yīng)用商店中所有其他APP數(shù)量的總和。AI業(yè)界認(rèn)為，未來5~10年，個人智能體（即各種Agents），將橫跨多應(yīng)用、多模態(tài)和多終端，成為移動新入口，影響每一個人。

毋庸諱言，端側(cè)AI大門已經(jīng)打開，未來更是星辰大海！從底層芯片到終端產(chǎn)品再到智能應(yīng)用，產(chǎn)業(yè)各界已經(jīng)形成高度共識并付諸行動，挖掘硬科技的巨大潛力，驅(qū)動更美好的智能未來！

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。