當(dāng)AI實(shí)現(xiàn)多任務(wù)學(xué)習(xí)，它究竟能做什么？

原標(biāo)題：當(dāng)AI實(shí)現(xiàn)多任務(wù)學(xué)習(xí)，它究竟能做什么？

提到AI領(lǐng)域的多任務(wù)學(xué)習(xí)，很多人可能一下子就想到通用人工智能那里了。通俗意義上的理解，就像《超能陸戰(zhàn)隊(duì)》里的大白這樣一種護(hù)理機(jī)器人，既能進(jìn)行醫(yī)療診斷，又能讀懂人的情緒，還能像陪伴機(jī)器人一樣完成各種復(fù)雜任務(wù)。

不過大白畢竟只是科幻電影當(dāng)中的產(chǎn)物，現(xiàn)有的AI技術(shù)大多還處于單體智能的階段，也就是一個機(jī)器智能只能完成一項(xiàng)簡單任務(wù)。工業(yè)機(jī)器人中做噴漆的就只能用來噴漆，做搬運(yùn)的只能用來搬運(yùn)；識別人臉的智能攝像頭只能進(jìn)行人臉，一旦人類戴上口罩，那就要重新調(diào)整算法。

當(dāng)然，讓單個智能體實(shí)現(xiàn)多種任務(wù)也是當(dāng)前AI領(lǐng)域研究的熱點(diǎn)。最近，在強(qiáng)化學(xué)習(xí)和多任務(wù)學(xué)習(xí)算法上成績最好的是DeepMind公司的一款名為Agent57的智能體，該智能體在街機(jī)學(xué)習(xí)環(huán)境（ALE）數(shù)據(jù)集所有57個雅達(dá)利游戲中實(shí)現(xiàn)了超越人類的表現(xiàn)。

當(dāng)然，多任務(wù)學(xué)習(xí)不止用在游戲策略上。相對于現(xiàn)階段的AI，我們?nèi)祟惒攀悄軌蜻M(jìn)行多任務(wù)學(xué)習(xí)的高手。我們既不需要學(xué)習(xí)成千上萬的數(shù)據(jù)樣本就可以認(rèn)識某類事物，我們又不用針對每一類事物都從頭學(xué)起，而是可以觸類旁通地掌握相似的東西。

AI在單體智能上面確實(shí)可以輕松碾壓人類，比如可以識別成千上萬的人臉；但AI在多任務(wù)學(xué)習(xí)上面就要向人類的這種通用能力看齊了。

什么是多任務(wù)學(xué)習(xí)？

多任務(wù)學(xué)習(xí)（Multi-Task Learning，MTL），簡單來說，就是一種讓機(jī)器模仿人類學(xué)習(xí)行為的一種方法。人類的學(xué)習(xí)方式本身就是泛化的，也就是可以從學(xué)習(xí)一種任務(wù)的知識遷移到其他的相關(guān)的任務(wù)上，而且不同的任務(wù)的知識技能可以相互幫助提升。多任務(wù)學(xué)習(xí)涉及多個相關(guān)的任務(wù)同時并行學(xué)習(xí)，梯度同時反向傳播，利用包含在相關(guān)任務(wù)訓(xùn)練信號中的特定領(lǐng)域的信息來改進(jìn)泛化能力。

（單任務(wù)學(xué)習(xí)和多任務(wù)學(xué)習(xí)的模型對比示意）

做一個形象的類比。我們知道人類不如虎豹擅跑，不如猿猴擅爬，也不如鯨豚擅游，但是人類是唯獨(dú)可以同時做到奔跑、攀援和游泳的。用在人工智能和人類智能上，我們通常認(rèn)為AI更擅于在單一任務(wù)上表現(xiàn)優(yōu)異并超越人類專家，如AlphaGo一樣；而人類則可能在各種任務(wù)上都能勝任。

MTL正是要讓人工智能來實(shí)現(xiàn)人類的這種能力。通過在多個任務(wù)的學(xué)習(xí)中，共享有用的信息來幫助每個任務(wù)的學(xué)習(xí)都得到提升的一個更為準(zhǔn)確的學(xué)習(xí)模型。

這里需要注意的是多任務(wù)學(xué)習(xí)和遷移學(xué)習(xí)的區(qū)別。遷移學(xué)習(xí)的目標(biāo)是將知識從一個任務(wù)遷移到另一個任務(wù)，其目的是使用一個或多個任務(wù)來幫助另一個目標(biāo)任務(wù)提高，而 MTL 則是希望多個任務(wù)之間彼此能相互幫助提升。

這里我們就要搞清楚MTL的兩個特征：

一、是任務(wù)具有相關(guān)性。任務(wù)的相關(guān)性是說幾種任務(wù)的完成模式是存在一定的關(guān)聯(lián)性的，比如，在人臉識別中，除了對人臉特征的識別，還可以進(jìn)行性別、年齡的估算識別，或者，在不同的幾類游戲中識別出共通的一些規(guī)則，這種相關(guān)性會被編碼進(jìn) MTL 模型的設(shè)計(jì)當(dāng)中。

二、是任務(wù)有不同的分類。MTL的任務(wù)分類主要包括監(jiān)督學(xué)習(xí)任務(wù)、無監(jiān)督學(xué)習(xí)任務(wù)、半監(jiān)督學(xué)習(xí)任務(wù)、主動學(xué)習(xí)任務(wù)、強(qiáng)化學(xué)習(xí)任務(wù)、在線學(xué)習(xí)任務(wù)和多視角學(xué)習(xí)任務(wù)，因此不同的學(xué)習(xí)任務(wù)對應(yīng)于不同的MTL設(shè)置。

共享表示和特征泛化，理解MTL 優(yōu)勢的兩個關(guān)鍵

為什么在一個神經(jīng)網(wǎng)絡(luò)上同時訓(xùn)練多個任務(wù)的學(xué)習(xí)效果可能會更好？

我們知道，深度學(xué)習(xí)網(wǎng)絡(luò)是具有多個隱層的神經(jīng)網(wǎng)絡(luò)，逐層將輸入數(shù)據(jù)轉(zhuǎn)化成非線性的、更抽象的特征表示。而各層的模型參數(shù)不是人為設(shè)定的，而是給定學(xué)習(xí)器的參數(shù)后在訓(xùn)練過程中學(xué)到的，這給了多任務(wù)學(xué)習(xí)施展拳腳的空間，具備足夠的能力在訓(xùn)練過程中學(xué)習(xí)多個任務(wù)的共同特征。

例如在上面的MTL的網(wǎng)絡(luò)中，后向傳播并行地作用于4個輸出。由于4個輸出共享底部的隱層，這些隱層中用于某個任務(wù)的特征表示也可以被其他任務(wù)利用，促使多個任務(wù)共同學(xué)習(xí)。多個任務(wù)并行訓(xùn)練并共享不同任務(wù)已學(xué)到的特征表示，這樣多任務(wù)信息就有助于共享隱層學(xué)到更好的內(nèi)部表示，這成為多任務(wù)學(xué)習(xí)的關(guān)鍵。

那么MTL是如何產(chǎn)生效果的？

MTL的方法中引入了歸納偏置（inductive bias）。歸納偏置有兩個效果，一個是互相促進(jìn)，可以把多任務(wù)模型之間的關(guān)系看作是互相先驗(yàn)知識，也稱歸納遷移（inductive transfer），有了對模型的先驗(yàn)假設(shè)，可以更好的提升模型的效果；另外一個效果是約束作用，借助多任務(wù)間的噪聲平衡以及表征偏置來實(shí)現(xiàn)更好的泛化性能。

首先，MTL的引入可以使得深度學(xué)習(xí)減少對大數(shù)據(jù)量的依賴。少量樣本的任務(wù)可以從大樣本量的任務(wù)中學(xué)習(xí)一些共享表示，以緩解任務(wù)數(shù)據(jù)的稀疏問題。

其次，多任務(wù)直接的相互促進(jìn)，體現(xiàn)在：①多個模型特性互相彌補(bǔ)，比如在網(wǎng)頁分析模型中，改善點(diǎn)擊率預(yù)估模型也同時能促進(jìn)轉(zhuǎn)化模型學(xué)習(xí)更深層的特征；②注意力機(jī)制，MTL可以幫助訓(xùn)練模型專注在重要特征上面，不同的任務(wù)將為這種重要特征提供額外證據(jù)；③任務(wù)特征的“竊聽”，也就是MTL可以允許不同任務(wù)之間相互“竊聽”對方的特征，直接通過“提示”訓(xùn)練模型來預(yù)測最重要的特征。

再次，多任務(wù)的相互約束可以提高模型的泛化性。一方面多任務(wù)的噪聲平衡。多任務(wù)模型的不同噪聲模式可以讓多個任務(wù)模型學(xué)到一般化的表征，避免單個任務(wù)的過度擬合，聯(lián)合學(xué)習(xí)能夠通過平均噪聲模式獲得更好的表征；另一方面，表征偏置。MTL的表征偏好會造成模型偏差。但這將有助于模型在將來泛化到新任務(wù)。在任務(wù)同源的前提下，可以通過學(xué)習(xí)足夠大的假設(shè)空間，在未來某些新任務(wù)中得到更好的泛化表現(xiàn)。

行業(yè)場景落地，MTL如何解決現(xiàn)實(shí)問題

由于MTL具有減少大數(shù)據(jù)樣本依賴和提高模型泛化表現(xiàn)的優(yōu)勢，MTL正被廣泛應(yīng)用到各類卷積神經(jīng)網(wǎng)絡(luò)的模型訓(xùn)練當(dāng)中。

首先，多任務(wù)學(xué)習(xí)可以學(xué)到多個任務(wù)的共享表示，這個共享表示具有較強(qiáng)的抽象能力，能夠適應(yīng)多個不同但相關(guān)的目標(biāo)，通常可以使主任務(wù)獲得更好的泛化能力。

其次，由于使用共享表示，多個任務(wù)同時進(jìn)行預(yù)測時，減少了數(shù)據(jù)來源的數(shù)量以及整體模型參數(shù)的規(guī)模，使預(yù)測更加高效。

我們以MTL在諸如目標(biāo)識別、檢測、分割等場景為主的計(jì)算機(jī)視覺的應(yīng)用為例。

比如臉部特征點(diǎn)檢測。因?yàn)槟槻刻卣骺赡軙艿秸趽鹾妥藙葑兓葐栴}的影響。通過MTL能夠提高檢測健壯性，而不是把檢測任務(wù)視為單一和獨(dú)立的問題。

多任務(wù)學(xué)習(xí)希望把優(yōu)化臉部特征點(diǎn)檢測和一些不同但細(xì)微相關(guān)的任務(wù)結(jié)合起來，比如頭部姿勢估計(jì)和臉部屬性推斷。臉部特征點(diǎn)檢測不是一個獨(dú)立的問題，它的預(yù)測會被一些不同但細(xì)微相關(guān)的因素影響。比如一個正在笑的孩子會張開嘴，有效地發(fā)現(xiàn)和利用這個相關(guān)的臉部屬性將幫助更準(zhǔn)確地檢測嘴角。

如上圖人臉特征點(diǎn)檢測（TCDCN）模型，除了檢測特征點(diǎn)任務(wù)，還有識別眼鏡、笑臉、性別和姿態(tài)這四個輔助任務(wù)，通過與其它網(wǎng)絡(luò)的對比，可以看出輔助任務(wù)使主任務(wù)的檢測更準(zhǔn)確。

MTL在不同領(lǐng)域有不同應(yīng)用，其模型各不相同，解決的應(yīng)用問題也不盡相同，但在各自的領(lǐng)域都存在著一些特點(diǎn)，除上面介紹的計(jì)算機(jī)視覺領(lǐng)域，還有像生物信息學(xué)、健康信息學(xué)、語音、自然語言處理、網(wǎng)絡(luò)垃圾郵件過濾、網(wǎng)頁檢索和普適計(jì)算在內(nèi)的很多領(lǐng)域，都可以使用 MTL 來提升各自的應(yīng)用的效果和性能。

比如，在生物信息學(xué)和健康信息學(xué)中，MTL被應(yīng)用于識別治療靶點(diǎn)反應(yīng)的特征作用機(jī)制，通過多個群體的關(guān)聯(lián)性分析來檢測因果遺傳標(biāo)記，以及通過稀疏貝葉斯模型的自動相關(guān)性特征，來預(yù)測阿爾茨海默病的神經(jīng)成像測量的認(rèn)知結(jié)果。

在語音處理上的應(yīng)用。2015年，有研究者在國際聲學(xué)、語音與信號處理會議（ICASSP）上分享了一篇《基于多任務(wù)學(xué)習(xí)的深度神經(jīng)網(wǎng)絡(luò)語音合成》的論文，提出一種多任務(wù)疊層深層神經(jīng)網(wǎng)絡(luò)。它由多個神經(jīng)網(wǎng)絡(luò)組成，前一個神經(jīng)網(wǎng)絡(luò)將其最上層的輸出作為下一個神經(jīng)網(wǎng)絡(luò)的輸入，用于語音合成，每個神經(jīng)網(wǎng)絡(luò)有兩個輸出單元，通過共享兩個任務(wù)之間的隱藏層，一個用于主任務(wù)，另一個用于輔助任務(wù)，從而更好地提升語音合成的準(zhǔn)確度。

在網(wǎng)絡(luò)Web應(yīng)用程序中，MTL可以用于不同任務(wù)共享一個特征表示，學(xué)習(xí)web搜索中的排名提升；MTL可以通過可擴(kuò)展分層多任務(wù)學(xué)習(xí)算法，用于找到廣告中轉(zhuǎn)換最大化的層次結(jié)構(gòu)和結(jié)構(gòu)稀疏性等問題。

總體上來說，在這些MTL的應(yīng)用領(lǐng)域中，特征選擇方法和深度特征轉(zhuǎn)換方法得到研究者的普遍應(yīng)用。因?yàn)榍罢呖梢越档蛿?shù)據(jù)維數(shù)并提供更好的可解釋性，而后者通過學(xué)習(xí)強(qiáng)大的特征表示可以獲得良好的性能。

MTL正在越來越多的領(lǐng)域作為一種提高神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)能力的手段被廣泛應(yīng)用。這其實(shí)正是AI在眾多行業(yè)實(shí)際應(yīng)用中的常態(tài)化場景。

我們可以最終溯源反思一下，人類之所以能夠具有多任務(wù)學(xué)習(xí)的靈活應(yīng)用的能力，恰恰是因?yàn)樗幁h(huán)境正是處在多特征、多噪聲的狀況之下，這樣必然要求我們?nèi)祟惐仨毮軌蛴|類旁通地進(jìn)行先驗(yàn)的學(xué)習(xí)能力的遷移。而如果人工智能僅僅停留在單體智能上面，為每一類知識或任務(wù)都建立一套單獨(dú)的模型，最后可能仍然只是一套“人工智障”的機(jī)械系統(tǒng)，鬧出“白馬非馬”這類的笑話來。

當(dāng)AI未來真正既能在融會貫通的方面像人類一樣熟練，又能克服人類認(rèn)知帶寬和一些認(rèn)知偏見，那通向AGI的前路才可能迎來一絲曙光。當(dāng)然這條路還相當(dāng)遙遠(yuǎn)。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。