人工智能正滲透到我們現(xiàn)代生活的每一個(gè)角落，人工智能可以在Facebook上給你發(fā)布的圖片上的朋友貼上名字的標(biāo)簽，或者幫你選擇在Instagram上看到的圖片，而材料科學(xué)家和NASA研究人員也開始使用人工智能來(lái)幫助發(fā)現(xiàn)新科學(xué)和太空探索。
但這一技術(shù)存在一個(gè)核心問(wèn)題，無(wú)論是在社交媒體上還是在火星漫游車中使用過(guò)程中，因?yàn)榻ㄔ焖某绦騿T都不知道人工智能做出每一個(gè)決定的原因。
現(xiàn)代人工智能仍是一種新事物，在過(guò)去的5年，大型科技公司對(duì)于人工智能的投資和研究才剛剛開始。而在此之前，已有幾十年歷史的關(guān)于人工智能的理論最終在2012年得到了證實(shí)。受人腦的啟發(fā)，一個(gè)人工神經(jīng)網(wǎng)絡(luò)依賴于“神經(jīng)元”之間的成千上萬(wàn)個(gè)微小的連接，或者是小范圍一串串的數(shù)學(xué)計(jì)算，這類似于大腦中神經(jīng)元的連接系統(tǒng)。但這種軟件架構(gòu)給我們帶來(lái)了一種新的權(quán)衡：由于數(shù)百萬(wàn)個(gè)連接的變化如此復(fù)雜和微小，研究人員無(wú)法準(zhǔn)確地確定正在發(fā)生的連接結(jié)果，他們只會(huì)得到一個(gè)輸出的結(jié)果。
“隨著機(jī)器學(xué)習(xí)在社會(huì)變得越來(lái)越普遍而且風(fēng)險(xiǎn)越來(lái)越高，人們開始意識(shí)到我們不能把這些系統(tǒng)當(dāng)作可靠和公正的保險(xiǎn)箱，”Hanna?Wallach在一封電子郵件中告訴Quartz，他是微軟的高級(jí)研究員，也是會(huì)議的發(fā)言人。“我們需要了解它們內(nèi)部發(fā)生了什么，以及它們是如何被使用的。”
執(zhí)行關(guān)鍵任務(wù)的人工智能
在美國(guó)國(guó)家航空航天局的噴氣推進(jìn)實(shí)驗(yàn)室中，人工智能能夠讓火星探測(cè)器在探索未知行星表面時(shí)能夠半自主地運(yùn)行。人工智能還被用于進(jìn)行梳理探測(cè)器在傳回地球時(shí)拍攝的數(shù)千張照片的過(guò)程中。
Kiri Wagstaff是JPL的一名人工智能研究人員和發(fā)言人，他說(shuō)，由于每一個(gè)決定都帶來(lái)了巨大的風(fēng)險(xiǎn)，在使用人工智能之前，我們需要完全理解它的每個(gè)決定。
“如果在火星軌道上有一艘宇宙飛船，這代表說(shuō)它就在2億英里之外，并且需要數(shù)億美元的費(fèi)用，甚至可能是十億美元。如果出了什么問(wèn)題，一切都難以挽救了。”Wagstaff說(shuō)：“不花費(fèi)大量的金錢的話是沒有辦法修復(fù)、訪問(wèn)、或者替換這些東西的。因此，如果我們想讓機(jī)器學(xué)習(xí)發(fā)揮作用，那么讓機(jī)器執(zhí)行這些任務(wù)的人需要了解它需要做什么，為什么要去做這個(gè)行為，因?yàn)槿绻麢C(jī)器人不知道自己為什么要做出選擇，人們?yōu)槭裁磿?huì)信任它來(lái)控制他們昂貴的火星探測(cè)器或軌道飛行器呢？”
Wagstaff正致力于通過(guò)NASA的各種航天器在太空中捕捉到的圖像建造人工智能對(duì)它們進(jìn)行分類，由于這些圖片的數(shù)量可以達(dá)到數(shù)百萬(wàn)，所以如果人工智能在這龐大的數(shù)據(jù)庫(kù)中識(shí)別出有趣的照片，那么我們可以節(jié)省很多時(shí)間來(lái)找到我們想要看到的這些照片——但前提是人工智能知道一個(gè)“有趣”的圖像是什么樣的。
對(duì)Wagstaf而言，他覺得理解人工智能的目的是實(shí)現(xiàn)特定算法的關(guān)鍵。如果執(zhí)行機(jī)器學(xué)習(xí)過(guò)程中在如何使用圖像方面存在計(jì)算錯(cuò)誤，那就意味著數(shù)據(jù)轉(zhuǎn)移的任務(wù)成本價(jià)值數(shù)百萬(wàn)美元以上。
Wagstaff說(shuō)：“當(dāng)你看到一個(gè)電腦說(shuō)‘這很有趣，讓我看一看這張圖片’時(shí)，你就會(huì)處于不確定的狀態(tài)，因?yàn)槟阕约簺]有完整的看過(guò)這百萬(wàn)張照片，你不知道這些哪些是有趣的，或者為什么這是有趣的。”“圖片有趣是因?yàn)樗念伾?，因?yàn)樗男螤?，或者因?yàn)閳?chǎng)景中物體的空間排列順序嗎？”
隱藏的知識(shí)
2007年，康奈爾大學(xué)的人工智能教授安德魯·戈登·威爾遜與一個(gè)團(tuán)隊(duì)合作開發(fā)了一種新型PET掃描機(jī)。由于某些粒子在這臺(tái)機(jī)器上與像其他一般的粒子表現(xiàn)的不一樣，他的任務(wù)是追蹤某個(gè)粒子穿過(guò)一盒氙氣的過(guò)程。
他的顧問(wèn)建議嘗試使用神經(jīng)網(wǎng)絡(luò)來(lái)進(jìn)行監(jiān)測(cè)，而神經(jīng)網(wǎng)絡(luò)在當(dāng)時(shí)還是一種比較模糊的概念。利用這種技術(shù)，威爾遜能夠利用粒子發(fā)出的光將其定位在該盒氙氣中。
當(dāng)他得到了他想要的答案之后，威爾遜表示利用該算法用來(lái)理解光如何表示粒子位置的內(nèi)部規(guī)則之后，可能將會(huì)為接下來(lái)的研究開辟了一條新的道路。
威爾遜說(shuō)：“在某種程度上，一個(gè)模型是我們觀察得出的理論，我們不僅可以利用模型進(jìn)行預(yù)測(cè)，還可以更好地理解為什么這種預(yù)測(cè)方向是正確的，以及這些自然過(guò)程是如何運(yùn)作的。”
解讀能力
不過(guò)微軟研究人員Wallach說(shuō)，要在解釋性語(yǔ)言能力上開辟新領(lǐng)域，最大的挑戰(zhàn)之一就是怎樣簡(jiǎn)單地定義它。
解讀能力是否意味著人工智能專家知道為什么Facebook數(shù)據(jù)的算法會(huì)向每個(gè)人展示一個(gè)特定的帖子，或者說(shuō)，這是一種能讓你了解自己的方式？使用人工智能治療推薦系統(tǒng)的醫(yī)生是否需要知道為什么采用特定的建議治療方案，或者說(shuō)我們還需要在醫(yī)院里創(chuàng)建另一個(gè)角色——人工智能監(jiān)測(cè)人員？
Wallach稱解讀能力是一種潛在的構(gòu)想：一種無(wú)法察覺的東西，但卻被測(cè)試了真實(shí)的人們?nèi)绾握_或錯(cuò)誤地使用人工智能系統(tǒng)。這不僅僅是提升算法觀察以及引擎運(yùn)行的方式。
了解一種算法并不僅僅是為了防止局限性或確保你的火星漫游者不會(huì)從太空懸崖上掉下來(lái)，而是可能可以幫助人工智能研究人員建立更精確的系統(tǒng)。
優(yōu)步公司的Yosinski說(shuō)：“如果你不知道這個(gè)系統(tǒng)不工作的原因，要提高它的性能是相當(dāng)困難的。”“通常情況下，如果你知道它為什么會(huì)工作失敗的話，最后必然會(huì)找到一個(gè)解決方案。”
為了弄清楚其中一種算法是如何思考的，谷歌正試圖對(duì)每次通過(guò)算法處理圖像時(shí)進(jìn)行的數(shù)百萬(wàn)次計(jì)算過(guò)程進(jìn)行層層篩選研究。在NIPS大會(huì)上發(fā)表的一篇論文中，通過(guò)觀察樹皮和鳥的互動(dòng)聯(lián)系，谷歌研究人員Maithra Raghu展示了她修復(fù)的之前有問(wèn)題的啞鈴與機(jī)器人手臂之間的聯(lián)系。
當(dāng)人工智能研究鳥類的圖像時(shí)，我們可以觀察到人工智能網(wǎng)絡(luò)中哪些神經(jīng)元被激活，而Raghu能夠通過(guò)這些數(shù)據(jù)確定哪些神經(jīng)元專注于鳥的叫聲或者集中在樹皮上，最后再把樹皮神經(jīng)元關(guān)掉看看會(huì)有什么結(jié)果。取得這一成功意味著盡管人工智能是一個(gè)復(fù)雜的產(chǎn)物，但將神經(jīng)網(wǎng)絡(luò)的工作轉(zhuǎn)化為人類所理解的東西并非是不可能的事情。
Wagstaff說(shuō)：“在學(xué)校里，我們要求學(xué)生用自己的理解來(lái)證明他們學(xué)到的東西，并展示這些來(lái)證明他們的理解是正確的。”“現(xiàn)在我們希望機(jī)器也能做同樣的事情。”
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
