深度學(xué)習(xí)“奠基人”科倫斯：人腦中的一片黑暗才是“黑匣子”

隨著AlphaGo、無人駕駛、智能翻譯的橫空出世，“人工智能”這個已經(jīng)存在60多年的詞語，突然來到人們面前釋放出奪目的光彩。同時被科技圈和企業(yè)界廣泛提及的還有機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)……但事實(shí)是，如此喧囂熱烈的氣氛之下，大部分人對這一領(lǐng)域仍是一知半解。

如果說誰有資格談?wù)撃壳罢谶M(jìn)行的人工智能革命，特倫斯·謝諾夫斯基(Terry Sejnowski)無疑是其中一個，特倫斯是20世紀(jì)80年代挑戰(zhàn)構(gòu)建人工智能主流方法的重要研究人員之一。

這些研究人員認(rèn)為，受大腦生物學(xué)啟發(fā)的、那些被稱為神經(jīng)網(wǎng)絡(luò)、連接主義和并行分布處理的AI實(shí)現(xiàn)方法，會最終解決困擾基于邏輯的AI研究難題，從而提出了使用可以從數(shù)據(jù)中學(xué)習(xí)技能的數(shù)學(xué)模型。

正是這些研究人員，證明了基于大腦式的全新計算方法是可行的，從而為“深度學(xué)習(xí)”的發(fā)展奠定了基礎(chǔ)。

深度學(xué)習(xí)路徑的由來

經(jīng)歷過20世紀(jì)前期關(guān)于發(fā)展路徑的分歧和摸索后，科學(xué)家們終于意識到，基于腦科學(xué)的研究，將成為AI的助推器。

近年來，包括中國、美國、歐盟、日韓等國家和經(jīng)濟(jì)體正將這作為重要工程推進(jìn)。

特倫斯表示，相比AI，人腦被頭骨層層包裹，里面一片黑暗，才是真正的“黑盒子”，但AI背后的算法框架其實(shí)可為數(shù)學(xué)家們掌控。

現(xiàn)代科學(xué)家們正在研究，在未來十年一個周期的時間內(nèi)，如何借助對腦科學(xué)的研究，更好讓AI落地。

人工智能技術(shù)的誕生要追溯到20世紀(jì)50年代，當(dāng)時學(xué)界對于如何構(gòu)建人工智能產(chǎn)生了兩種路徑分歧。

一類觀點(diǎn)主張基于邏輯和計算機(jī)程序，另一類則主張直接從數(shù)據(jù)中學(xué)習(xí)。前者曾主導(dǎo)AI發(fā)展早期的數(shù)十年間研究和應(yīng)用，但后者才是目前大眾所知曉的AI技術(shù)實(shí)現(xiàn)路徑。

到今天，我們從AlphaGo兩次對戰(zhàn)世界級冠軍選手中了解到其得以發(fā)展下來的原委。

Google旗下團(tuán)隊通過讓機(jī)器學(xué)習(xí)圍棋的多樣化棋局?jǐn)?shù)作為基礎(chǔ)數(shù)據(jù)，AlphaGo除了具備評估盤局的深度學(xué)習(xí)網(wǎng)絡(luò)，還有解決時間信用分配問題的系統(tǒng)，通過這些得以評估落子的行動順序。

深度學(xué)習(xí)是一類模式分析方法的統(tǒng)稱，就具體研究內(nèi)容而言，主要涉及三類方法：

(1)基于卷積運(yùn)算的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，即卷積神經(jīng)網(wǎng)絡(luò)(CNN)。

(2)基于多層神經(jīng)元的自編碼神經(jīng)網(wǎng)絡(luò)，包括自編碼(Auto encoder)以及近年來受到廣泛關(guān)注的稀疏編碼兩類(Sparse Coding)。

(3)以多層自編碼神經(jīng)網(wǎng)絡(luò)的方式進(jìn)行預(yù)訓(xùn)練，進(jìn)而結(jié)合鑒別信息進(jìn)一步優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值的深度置信網(wǎng)絡(luò)(DBN)。

通過多層處理，逐漸將初始的“低層”特征表示轉(zhuǎn)化為“高層”特征表示后，用“簡單模型”即可完成復(fù)雜的分類等學(xué)習(xí)任務(wù)。由此可將深度學(xué)習(xí)理解為進(jìn)行“特征學(xué)習(xí)”(Feature Learning)或“表示學(xué)習(xí)”(Representation Learning)。

以往在機(jī)器學(xué)習(xí)用于現(xiàn)實(shí)任務(wù)時，描述樣本的特征通常需由人類專家來設(shè)計，這成為“特征工程”(Feature Engineering)。

眾所周知，特征的好壞對泛化性能有至關(guān)重要的影響，人類專家設(shè)計出好特征也并非易事；特征學(xué)習(xí)（表征學(xué)習(xí)）則通過機(jī)器學(xué)習(xí)技術(shù)自身來產(chǎn)生好特征，這使機(jī)器學(xué)習(xí)向“全自動數(shù)據(jù)分析”又前進(jìn)了一步。

與傳統(tǒng)的學(xué)習(xí)方法相比，深度學(xué)習(xí)方法預(yù)設(shè)了更多的模型參數(shù)，因此模型訓(xùn)練難度更大，根據(jù)統(tǒng)計學(xué)習(xí)的一般規(guī)律知道，模型參數(shù)越多，需要參與訓(xùn)練的數(shù)據(jù)量也越大。

近年來，研究人員也逐漸將這幾類方法結(jié)合起來，如對原本是以有監(jiān)督學(xué)習(xí)為基礎(chǔ)的卷積神經(jīng)網(wǎng)絡(luò)結(jié)合自編碼神經(jīng)網(wǎng)絡(luò)進(jìn)行無監(jiān)督的預(yù)訓(xùn)練，進(jìn)而利用鑒別信息微調(diào)網(wǎng)絡(luò)參數(shù)形成的卷積深度置信網(wǎng)絡(luò)。

面對人工智能

人類還只是“小學(xué)生”

縱觀科學(xué)技術(shù)的發(fā)展歷程，從基礎(chǔ)科學(xué)，到真正實(shí)現(xiàn)商業(yè)化，都至少經(jīng)歷了50年時間。

而目前人工智能的應(yīng)用還是基于30年前完成的基礎(chǔ)研究而來，這意味著我們處在人工智能時代非常初級的階段，也被稱為是“弱人工智能時期”。

初級階段的人工智能相關(guān)技術(shù)仍面臨著諸多挑戰(zhàn)，特倫斯表示，不太可能存在“深度神經(jīng)網(wǎng)絡(luò)”之外的其他人工智能技術(shù)框架。

自1956年人工智能誕生之日起，其目標(biāo)就是要模仿人工的智能并在機(jī)器上實(shí)現(xiàn)，但目前人類遠(yuǎn)遠(yuǎn)沒有達(dá)到這個程度。

不過目前，AI在場景中的應(yīng)用已經(jīng)可以帶來一些驚喜，比如智能翻譯。五年前，Google將深度學(xué)習(xí)相關(guān)技術(shù)應(yīng)用到翻譯軟件中，幾乎一夜之間，過往幾千年來的文化壁壘就此被打破了。

如今，人工智能正朝著兩個方向發(fā)展。第一是利用原有的框架，借助大數(shù)據(jù)應(yīng)用解決各種問題；第二是研究人員在嘗試突破各種邊界和限制。

新技術(shù)的發(fā)展往往是以十年為一個周期計算，可能AI在未來20-30年才會顯示出它的潛力。包括自動駕駛技術(shù)的發(fā)展，也是需要經(jīng)過十幾年甚至幾代人的努力來實(shí)現(xiàn)。

人工智能技術(shù)尚處在發(fā)展的第一個階段，科學(xué)家們在嘗試?yán)斫飧鼜?fù)雜的內(nèi)涵并解釋它。比如科學(xué)家們研究人類的大腦運(yùn)作機(jī)制，包括大腦是如何從經(jīng)驗中得出推論。

但有時人類得出的結(jié)論并不總基于邏輯，未來研究人的大腦神經(jīng)科學(xué)和人工智能的交融將是推進(jìn)人工智能向更高層級發(fā)展有著重要作用。

腦科學(xué)研究對于

人工智能有何啟示？

實(shí)際上，深度學(xué)習(xí)框架的靈感也正來自對人類大腦運(yùn)作機(jī)制的研究。大腦中有上千億個神經(jīng)元，其中有很多彼此相連的突觸，科學(xué)家在學(xué)習(xí)它的框架，并且用里面的一些一般性原則進(jìn)行簡化用于深度學(xué)習(xí)框架的發(fā)展。

比如卷積神經(jīng)網(wǎng)絡(luò)是用來處理視覺信號，把視覺輸入變成神經(jīng)信號作為輸出，去識別圖像以及和各種事物做聯(lián)結(jié)。

世界各國對于腦科學(xué)的研究在近年來正成為一個重要工程在推進(jìn)。2013年，美國提出“BRAIN計劃”，目的就是創(chuàng)造新的神經(jīng)技術(shù)，以加速對大腦功能和障礙的進(jìn)一步了解。

關(guān)于腦科學(xué)要探知的話題有很多，比如人腦對信息的處理和傳輸速度是毫秒級，遠(yuǎn)比電腦要慢。

但大腦中的信息傳遞是非常復(fù)雜的過程，了解信息如何儲存和處理后，才是人類有效改良AI的關(guān)鍵。

還有一些挑戰(zhàn)，假如神經(jīng)元中的突觸連接有所改變，是否會改變信息的輸入和輸出強(qiáng)度，需要多久才能發(fā)現(xiàn)信息傳遞帶來的影響等。

最近，埃隆·馬斯克宣布旗下公司Neuralink項目推出侵入式腦機(jī)接口方案；Facebook團(tuán)隊也宣布能夠通過讀取腦損傷參與者的大腦，做到實(shí)時解碼一小部分對話中的口語單詞和短語，這都是對人腦研究的最新重大進(jìn)展。

通過腦機(jī)接口，可以提取到人類的感官信息，一旦這項技術(shù)成功，人類在未來就不需要用鍵盤打字，可以直接提取大腦信息，用意念進(jìn)行谷歌或者百度搜索，這將帶來一個全新的世界和聯(lián)結(jié)方式。

當(dāng)然，對于腦科學(xué)的研究并不只是為了促成人工智能這類基礎(chǔ)技術(shù)的發(fā)展，這將衍生出對更多行業(yè)領(lǐng)域的新變革。

微信公眾賬號：科技云報道

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。