深度學(xué)習(xí)已成強(qiáng)弩之末?Bengio等大牛NeurlPS2019上支招

局面越來(lái)越清楚:

靠增加算力、更多數(shù)據(jù),并不能解決AI面臨的挑戰(zhàn)。

NeurlPS 2019上,多位專家討論到AI的未來(lái),認(rèn)為深度學(xué)習(xí)算法的瓶頸已經(jīng)出現(xiàn)。

有人覺(jué)得深度學(xué)習(xí)方法可以進(jìn)化,有人則期待新的方法出現(xiàn)。

相通的是,專家都紛紛把目光轉(zhuǎn)向生物,希望能在自然智能身上獲得靈感。

深度學(xué)習(xí)的局限

來(lái)自谷歌的Aguera y Arcas說(shuō):

我們有點(diǎn)像趕上班車的狗

他表示,深度學(xué)習(xí)已搞定了AI方面的一些長(zhǎng)期挑戰(zhàn),但是,還有許多存在的挑戰(zhàn),目前無(wú)法解決。

涉及推理或社會(huì)智能的問(wèn)題,比如,想用AI來(lái)衡量潛在雇員,仍然遙不可及。

而且目前所有訓(xùn)練的模型只是通過(guò)一個(gè)測(cè)試,或者贏得一個(gè)有評(píng)分的比賽。但是人類這樣的智能可以做的事情遠(yuǎn)遠(yuǎn)超出這種有規(guī)則的模式。

深度學(xué)習(xí)三巨頭之一、圖靈獎(jiǎng)得主Yoshua Bengio在接受Spectrum采訪時(shí)表示:

現(xiàn)在的深度學(xué)習(xí)還無(wú)法達(dá)到一個(gè)兩歲孩子的智商,完成一項(xiàng)任務(wù)需要很多的數(shù)據(jù),而且還會(huì)犯很多愚蠢的錯(cuò)誤。

從公司落地的層面而言,對(duì)于技術(shù)實(shí)現(xiàn)的預(yù)測(cè)也表現(xiàn)得謹(jǐn)慎起來(lái)。

Google對(duì)自動(dòng)駕駛出租車實(shí)現(xiàn)的預(yù)測(cè),已經(jīng)改變了原來(lái)的樂(lè)觀態(tài)度,變得充滿克制。

Facebook的AI副總裁Jerome Pesenti最近表示,他的公司和其他公司不應(yīng)該期待僅通過(guò)開(kāi)發(fā)具有更多計(jì)算能力和數(shù)據(jù)的更大的深度學(xué)習(xí)系統(tǒng)來(lái)繼續(xù)在AI方面取得進(jìn)步。

對(duì)創(chuàng)新的呼吁

面對(duì)這一現(xiàn)狀,人們提出了自己的建議。

Arcas和Bengio都希望與會(huì)者多考慮自然智能的生物學(xué)根源。

Arcas展示了一項(xiàng)模擬細(xì)菌的試驗(yàn)。這些細(xì)菌通過(guò)人工進(jìn)化的方式進(jìn)行覓食和交流。

而Yoshua Bengio認(rèn)為深度學(xué)習(xí)這個(gè)方法行得通,他正在往工具箱里增加更多的東西。

他在會(huì)議上做了主題為從深度學(xué)習(xí)系統(tǒng)1到深度學(xué)習(xí)系統(tǒng)2的演講,提出軟注意力和深度強(qiáng)化學(xué)習(xí)方式能夠促進(jìn)解決推理、計(jì)劃、捕獲因果關(guān)系等問(wèn)題。

他的新方法受到了自然智能的啟發(fā)。根據(jù)意識(shí)的先驗(yàn)性進(jìn)行相關(guān)假設(shè),許多高級(jí)依賴關(guān)系可以通過(guò)稀疏因子圖近似地捕獲。軟注意力機(jī)制構(gòu)成了一個(gè)關(guān)鍵因素,它可以一次將計(jì)算集中于幾個(gè)概念(“意識(shí)思維”)。

蒙特利爾大學(xué)副教授Irina Rish則希望能夠出現(xiàn)新想法:

深度學(xué)習(xí)很棒,但是我們需要一個(gè)不同的工具箱。

他回憶起2006年的一次非正式深度學(xué)習(xí)研討會(huì),比喻就像“宗教聚會(huì)”,組織者拒絕接受邊緣的技術(shù)想法。

雖然在今年的大會(huì)上,深度學(xué)習(xí)是主流,他希望自己的發(fā)言能夠支持新的想法出現(xiàn)。

元學(xué)習(xí)

新的出路也被談及。

Uber研究員Jeff Clune已經(jīng)表示明年會(huì)加入Open AI 。他還是新興領(lǐng)域元學(xué)習(xí)metalearning的成員。這一領(lǐng)域希望實(shí)現(xiàn)AI自己設(shè)計(jì)學(xué)習(xí)算法。

在演講中,他介紹了POET成對(duì)結(jié)合開(kāi)放式開(kāi)拓者,讓AI掌握自我進(jìn)化來(lái)變得更聰明。這一方法的靈感之一是自然進(jìn)化。他給了一個(gè)例子,動(dòng)畫(huà)中的一雙腿可以自動(dòng)學(xué)習(xí)在更復(fù)雜的地形上走路。

場(chǎng)景的多樣性和復(fù)雜度會(huì)自動(dòng)增加

最終可以自己學(xué)會(huì)下樓梯

不知道你有沒(méi)有想過(guò),AI的發(fā)展將怎樣實(shí)現(xiàn)下一個(gè)突破呢?

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )

贊助商
2019-12-17
深度學(xué)習(xí)已成強(qiáng)弩之末?Bengio等大牛NeurlPS2019上支招
靠增加算力、更多數(shù)據(jù),并不能解決AI面臨的挑戰(zhàn)。NeurlPS 2019上,多位專家討論到AI的未來(lái),認(rèn)為深度學(xué)習(xí)算法的瓶頸已經(jīng)出現(xiàn)。

長(zhǎng)按掃碼 閱讀全文