原標(biāo)題:光速運(yùn)算的突破,將為人工智能帶來(lái)哪些可能
文 | 顏璇
來(lái)源 | 智能相對(duì)論(ID:aixdlun)
1956年,“人工智能”這一概念被首次提出,自此以后,歷經(jīng)六十多年沉浮至今,人工智能一共經(jīng)歷了兩次浪潮。
第一次浪潮基于“if- then”結(jié)構(gòu),建立在人工設(shè)定的形式邏輯基礎(chǔ)上;第二次浪潮則是我們現(xiàn)在比較常見(jiàn)的,基于大數(shù)據(jù)驅(qū)動(dòng),借助統(tǒng)計(jì)學(xué)方法、模擬神經(jīng)網(wǎng)絡(luò)等來(lái)實(shí)現(xiàn)計(jì)算機(jī)的自主學(xué)習(xí)。
從這兩波浪潮的轉(zhuǎn)變中,我們發(fā)現(xiàn),AI的本質(zhì)就是計(jì)算,算法控制著數(shù)據(jù)的流動(dòng)并實(shí)現(xiàn)所謂的“智能”。計(jì)算,無(wú)疑是人工智能發(fā)展中最為重要的一環(huán)。而現(xiàn)在,人工智能的計(jì)算走到哪里了呢?
光速運(yùn)算,解決AI訓(xùn)練的成本難題
近日,OpenAI對(duì)不同時(shí)期最大型的AI試驗(yàn)所消耗的計(jì)算量進(jìn)行了調(diào)查分析。結(jié)果發(fā)現(xiàn),跟6年前相比,AI訓(xùn)練所需的計(jì)算量整整增長(zhǎng)了30倍,相當(dāng)于每3.5月就翻番。
圖為AI訓(xùn)練所需的計(jì)算量(單位千億次浮點(diǎn)運(yùn)算)
圖片來(lái)源:OpenAI分析報(bào)告
計(jì)算量不斷增加,其實(shí)并不是一件壞事,因?yàn)檫@代表著AI 的能力也在與日俱增,但是,計(jì)算力的提升也讓AI的訓(xùn)練成本不斷增加。拿目前大家都知道的AlphaGo Zero舉例,這是目前最大規(guī)模的AI實(shí)驗(yàn),其成本可能是1000萬(wàn)美元。如果試驗(yàn)計(jì)算量持續(xù)增長(zhǎng),其成本每1.1-1.4年就會(huì)增加一個(gè)數(shù)量級(jí)。按照這個(gè)趨勢(shì),在5-6年的時(shí)間內(nèi),這個(gè)實(shí)驗(yàn)的成本將達(dá)到2000萬(wàn)美元。
除非存在有一些非常強(qiáng)大的AI技術(shù)能帶來(lái)大規(guī)模的經(jīng)濟(jì)回報(bào),否則,要想維持AI的計(jì)算趨勢(shì),保證下一個(gè)“阿爾法狗”能被“喂養(yǎng)”出來(lái),經(jīng)濟(jì)產(chǎn)出就要以每年一個(gè)數(shù)量級(jí)的速度來(lái)增長(zhǎng)。這還只是就目前的情況而言,誰(shuí)也無(wú)法保證AI計(jì)算趨勢(shì)在未來(lái)不會(huì)上漲得更快。
所以,目前擺在企業(yè)和政府面前的難題是,如何加快AI運(yùn)算速度,滿足人工智能研究中日益增長(zhǎng)的計(jì)算量。
談起速度,目前宇宙中最快的速度是光速,光的傳播速度是 30 萬(wàn)公里每秒,如果可以讓AI的深度神經(jīng)網(wǎng)絡(luò)中的信號(hào)以光速傳播,運(yùn)算速度是否也能相應(yīng)提高呢?
近日,來(lái)自加州大學(xué)洛杉磯分校(UCLA)的研究人員利用 3D 打印技術(shù)打印出了固態(tài)的神經(jīng)網(wǎng)絡(luò),并且利用層級(jí)傳播的光衍射來(lái)執(zhí)行計(jì)算,并達(dá)到了圖像識(shí)別手寫(xiě)數(shù)字的效果。
圖為衍射深度神經(jīng)網(wǎng)絡(luò)(D^2NN)架構(gòu)
圖片來(lái)源:《science》
用光來(lái)執(zhí)行運(yùn)算其實(shí)與機(jī)器學(xué)習(xí)的經(jīng)典算法之一——線性回歸算法有著某種天然的合契,線性回歸一般是根據(jù)連續(xù)變量來(lái)估計(jì)實(shí)際數(shù)值,而光的振幅、相位都屬于可以調(diào)整的變量,這也是AI光速運(yùn)算與傳統(tǒng)計(jì)算機(jī)電路中電場(chǎng)傳播所區(qū)別的地方。該項(xiàng)技術(shù)的發(fā)展,相信能為AI計(jì)算成本的不斷降低和量產(chǎn)化目標(biāo)帶來(lái)助力。
用光執(zhí)行運(yùn)算,意味著什么?
隨著技術(shù)落地,當(dāng)光速運(yùn)算技術(shù)被真正應(yīng)用,會(huì)對(duì)人工智能有哪些改變呢?智能相對(duì)論(ID:aixdlun)分析師顏璇認(rèn)為,其在以下兩個(gè)方面會(huì)有較大突破。
“黑匣子”成為了陽(yáng)光下的“玻璃箱”
如果說(shuō)人類(lèi)是AI的“上帝”, 那么人類(lèi)給AI的只是“生命”組合的規(guī)則,而真正的演化卻是由AI自己完成的。
在初始階段,AI的認(rèn)知是十分有限的,它在不斷地試錯(cuò)中尋求最佳結(jié)果,從而涌現(xiàn)出某種程度的智能。從人類(lèi)的角度來(lái)講,我們?cè)贏I認(rèn)知的過(guò)程中是缺席的,在深度學(xué)習(xí)的框架下,我們“知其然而不知其所以然”,這就是著名的“黑匣子”問(wèn)題。
AI預(yù)測(cè)你將在50年后死亡,你卻不知道它運(yùn)作的原理;無(wú)人駕駛的汽車(chē)撞上公路旁的護(hù)欄,你也不知道問(wèn)題究竟出在哪里,只能送回原廠,修改全盤(pán)的算法。
讓AI擁有了光,“黑匣子”的問(wèn)題或許就能迎刃而解了。要知道,AI運(yùn)算雖然是看不見(jiàn)摸不著的數(shù)字,但光的衍射卻是實(shí)實(shí)在在的物理現(xiàn)象,如果將模型的預(yù)測(cè)過(guò)程固化為物理表示,就可以清楚地觀察到人工智能運(yùn)算的過(guò)程。
在用光執(zhí)行運(yùn)算的實(shí)驗(yàn)中,UCLA 的研究人員研發(fā)出了一個(gè) 3D 打印 AI 分析系統(tǒng)。這一系統(tǒng)可以通過(guò)光線的衍射來(lái)分析人工智能。研究人員也表示,通過(guò)改變相位和振幅,人工智能中每個(gè)“神經(jīng)元”都將是可調(diào)的。
2. AI 的“養(yǎng)成”游戲:強(qiáng)人工智能的開(kāi)啟
強(qiáng)人工智能(有知覺(jué)和自我意識(shí),且能推理和解決問(wèn)題的智能機(jī)器)究竟能否實(shí)現(xiàn)?
有人預(yù)測(cè),在21世紀(jì)內(nèi)將出現(xiàn)能夠與人類(lèi)智能水平相當(dāng)?shù)腁I。而這種預(yù)測(cè)的立場(chǎng)來(lái)源于一種建立在還原論基礎(chǔ)上的計(jì)算主,其基本觀點(diǎn)是認(rèn)為物理世界、生命過(guò)程甚至人類(lèi)心智都是算法可計(jì)算的。
人類(lèi)的大腦就像一臺(tái)計(jì)算機(jī)在運(yùn)作,只要能夠模擬出人類(lèi)大腦的計(jì)算規(guī)則,我們就能夠建立至少與人類(lèi)水平相當(dāng)?shù)闹悄軝C(jī)器。當(dāng)然了,這里面暗藏一個(gè)假設(shè),即人類(lèi)的全部意識(shí)均是大腦的計(jì)算產(chǎn)物。
如何創(chuàng)造出一個(gè)強(qiáng)人工智能, 我們或許就可以從人腦的計(jì)算量入手。這里有一個(gè)自然的假設(shè),就是如果我們創(chuàng)造出一個(gè)AI,從零歲起就能夠有足夠的計(jì)算能力去模擬人類(lèi)大腦運(yùn)行18年,并以足夠細(xì)的顆粒度去捕捉大腦的智力表現(xiàn),這個(gè)AI能否像一位18歲的成年人一樣解決問(wèn)題?
而這個(gè)計(jì)算量有多大呢?模擬大腦一秒鐘所需的每秒峰值速度(FLOPS,也稱(chēng)作“每秒浮點(diǎn)運(yùn)算次數(shù)”)有很多測(cè)算,比如AI Impact收集的數(shù)據(jù)得出的中位數(shù)是1018 FLOPS,范圍在3×10^13FLOPS與1×10^25FLOPS之間。運(yùn)行這樣的模擬18年相當(dāng)于700萬(wàn)Petaflop。
而AI技術(shù)不斷發(fā)展,其顆粒度只會(huì)更加細(xì)微,計(jì)算量也會(huì)更加大。如果能用光執(zhí)行運(yùn)算,無(wú)疑是為這一暢想提供了一項(xiàng)可行的技術(shù)。
光速運(yùn)算的“硬傷”
用光來(lái)執(zhí)行運(yùn)算固然是革新了神經(jīng)網(wǎng)絡(luò)的計(jì)算方式,但是,這種方法本身還是有著一些問(wèn)題。
首先,在上文提到的實(shí)驗(yàn)中,光的運(yùn)算是建立在固化的神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上,因此,當(dāng)深度學(xué)習(xí)已經(jīng)完成訓(xùn)練,并且將所有參數(shù)的值都確定下來(lái),繼而利用3D打印技術(shù)進(jìn)行固化,打印出的神經(jīng)網(wǎng)絡(luò)就不能再被編程。
其次,打造一個(gè)能實(shí)現(xiàn)按需處理任務(wù)的超高精度衍射板是非常困難的,在解決了計(jì)算訓(xùn)練成本的難題時(shí),很難說(shuō)這個(gè)新技術(shù)不會(huì)帶來(lái)硬件研發(fā)的成本難題。除了制作工藝外,還有硬件安裝和環(huán)境穩(wěn)定性的難題。
誠(chéng)然,新技術(shù)的應(yīng)用仍需要一段時(shí)間,用光來(lái)執(zhí)行運(yùn)算究竟能否滿足高速增長(zhǎng)的AI計(jì)算趨勢(shì),還需要我們積極探索。
隨著計(jì)算問(wèn)題的解決,人工智能也必將取得長(zhǎng)足發(fā)展。
【完】
智能相對(duì)論(微信id:aixdlun):深挖人工智能這口井,評(píng)出咸淡,講出黑白,道出vb深淺。重點(diǎn)關(guān)注領(lǐng)域:AI+醫(yī)療、機(jī)器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開(kāi)發(fā)者以及背后的芯片、算法、人機(jī)交互等。
- 美媒聚焦比亞迪“副業(yè)”:電子代工助力蘋(píng)果,下個(gè)大計(jì)劃瞄準(zhǔn)AI機(jī)器人
- 微信零錢(qián)通新政策:銀行卡轉(zhuǎn)入資金提現(xiàn)免手續(xù)費(fèi)引熱議
- 消息稱(chēng)塔塔集團(tuán)將收購(gòu)和碩印度iPhone代工廠60%股份 并接管日常運(yùn)營(yíng)
- 蘋(píng)果揭秘自研芯片成功之道:領(lǐng)先技術(shù)與深度整合是關(guān)鍵
- 英偉達(dá)新一代Blackwell GPU面臨過(guò)熱挑戰(zhàn),交付延期引發(fā)市場(chǎng)關(guān)注
- 馬斯克能否成為 AI 部部長(zhǎng)?硅谷與白宮的聯(lián)系日益緊密
- 余承東:Mate70將在26號(hào)發(fā)布,意外泄露引發(fā)關(guān)注
- 無(wú)人機(jī)“黑科技”亮相航展:全球首臺(tái)低空重力測(cè)量系統(tǒng)引關(guān)注
- 賽力斯發(fā)布聲明:未與任何伙伴聯(lián)合開(kāi)展人形機(jī)器人合作
- 賽力斯觸及漲停,汽車(chē)整車(chē)股盤(pán)初強(qiáng)勢(shì)拉升
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。