目標(biāo)檢測(cè)二十年間那些事兒:加速與優(yōu)化

在上一章中我們簡(jiǎn)短回顧了目標(biāo)檢測(cè)在過(guò)去的二十年中如何從傳統(tǒng)滑窗算法到基于深度神經(jīng)網(wǎng)絡(luò)的全新領(lǐng)域,點(diǎn)擊回顧。這次,我們來(lái)分享一些近年涌現(xiàn)的各類(lèi)優(yōu)化技術(shù),正是這些技術(shù)讓目標(biāo)檢測(cè)一再提速,從而能在工程上應(yīng)用到各類(lèi)設(shè)備中。

好快!比高鐵加速還快!

目標(biāo)檢測(cè)的加速技術(shù)

目標(biāo)檢測(cè)速度的提升一直是一個(gè)重要而又具有挑戰(zhàn)性的問(wèn)題。在過(guò)去的20年里,目標(biāo)檢測(cè)領(lǐng)域已經(jīng)發(fā)展了許多復(fù)雜的加速技術(shù)。接下來(lái)我們簡(jiǎn)要介紹“輕量化網(wǎng)絡(luò)設(shè)計(jì)”、“數(shù)值加速”、“特征檢測(cè)優(yōu)化”、“語(yǔ)義分割”等重要優(yōu)化方法。

輕量網(wǎng)絡(luò)設(shè)計(jì)

基于 CNN 檢測(cè)器的輕量化方法是直接設(shè)計(jì)一個(gè)輕量級(jí)的網(wǎng)絡(luò),而不是使用現(xiàn)成的檢測(cè)引擎。研究人員長(zhǎng)期以來(lái)一直在探索網(wǎng)絡(luò)的正確配置,以便在有限的時(shí)間成本下獲得準(zhǔn)確性。一個(gè)通用的設(shè)計(jì)原則是“更少的通道,更多的層(fewer channels and more layers)”[1]。

此外,近年來(lái)也有一些新的技術(shù),見(jiàn)下圖:

分解卷積

群卷積

深度可分離卷積

瓶頸設(shè)計(jì)

神經(jīng)結(jié)構(gòu)搜索

分解卷積

分解卷積是構(gòu)建輕量級(jí)CNN模型最簡(jiǎn)單、最直接的方法,有兩類(lèi)分解方法。

第一類(lèi)方法是將一個(gè)大的卷積濾波器分解成一組空間維數(shù)較小的卷積濾波器[2],如上圖(b)所示。例如,可以將一個(gè)7x7過(guò)濾器分解為三個(gè)3x3過(guò)濾器,它們共享相同的接收域,但是后者效率更高。另一個(gè)例子是將 k×k 濾波器分解為k×1濾波器和1×k濾波器,這對(duì)于非常大的濾波器來(lái)說(shuō)可能更有效,比如15x15。該思想最近被用于目標(biāo)檢測(cè)。

第二類(lèi)方法是將一大組卷積分解為信道維數(shù)較小的兩組[3],如上圖(c)所示。例如,可以用 d個(gè)濾波器近似卷積層,用d'個(gè)濾波器 + 一個(gè)非線性激活 + 另外d個(gè)濾波器 (d'<d)近似有c個(gè)通道的特征圖。在這種情況下,原始層的復(fù)雜度

可以降低到

。

123下一頁(yè)>

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )

贊助商
2020-08-21
目標(biāo)檢測(cè)二十年間那些事兒:加速與優(yōu)化
在上一章中我們簡(jiǎn)短回顧了目標(biāo)檢測(cè)在過(guò)去的二十年中如何從傳統(tǒng)滑窗算法到基于深度神經(jīng)網(wǎng)絡(luò)的全新領(lǐng)域,點(diǎn)擊回顧。

長(zhǎng)按掃碼 閱讀全文