現(xiàn)如今人類對于AI的應用，就好像帶媽媽去外面的餐廳吃飯，媽媽們不光要吃，還總想弄明白這些菜是怎樣做成的。就如同神經(jīng)網(wǎng)絡越是高效，我們就越好奇黑箱里究竟發(fā)生了什么。
一直以來我們對于AI可解釋性的追求可以被分為兩層，一是從技術角度探尋神經(jīng)網(wǎng)絡黑箱的運行機制；二是從社會角度將AI技術原理更多地解釋給各個行業(yè)。
雖然計算機科學家們一直沒有停止對神經(jīng)網(wǎng)絡黑箱突破的探索，但也有人曾經(jīng)明確地表示過，追求AI的可解釋性并不是什么好主意。
去年年底，谷歌大腦負責人Geoff Hinton就曾在接受媒體采訪時說過若干“AI不可解釋”的理由。其中很重要的一點是，他認為大多數(shù)人也沒法很好地解釋自己做出一種決策的理由，如果強迫人類對自己的行為做出解釋，結果很可能就是讓人類說出違心的謊言。AI也是一樣，也許強行在AI算法中加入可解釋性，得出的結果很可能只是一種“針對于解釋需求的答案”，并不能發(fā)揮出人們所期望的作用。Geoff Hinton可以說是一位堅定的“AI不可知論”支持者。
讓AI模型說人話
不過在幾天前，佐治亞理工學院就推出了一種讓AI用人類語言解釋自己行為的模型。整個模型的訓練過程，建立在一款“小青蛙過馬路”的古老游戲上。游戲中玩家要操控著小青蛙前后左右躲避來往車輛，成功到達馬路對岸。
佐治亞理工學院先是收集了大量的人類樣本，讓人類實驗員玩一遍游戲，然后再回溯整個游戲過程，解釋出自己的每一步動作有哪些意圖。例如向左走是想躲避開后方來車，向前跳躍是因為漂浮的荷葉剛好來到自己面前。
這樣一來，可以將自然語言與游戲控制結合在一起建立映射。將這一模型遷移到AI的訓練中，最終結果是AI在每進行一步動作時，都會用自然語言解釋出自己的意圖。
實驗者可以再根據(jù)四個維度對AI的行為和解釋進行評分，這四個維度分別是“信任（認為AI的這一步行動是正確的）”、“人性化（認為這是人類采取的行動）”、“理由充分（語言解釋和行為動作有相關性）”、“可理解性（能看懂所給出的自然語言解釋）”。由此以來，就可以對AI的游戲能力和自我解釋能力進行共同訓練。
佐治亞理工學院研發(fā)的這一模型，為AI的可解釋性帶來不少全新角度的突破。當AI進行錯誤決策時，我們可以清晰地看到AI究竟錯在哪了。比如在游戲中小青蛙被路過的汽車撞死導致游戲失敗，通過自然語言解釋，我們可以看到可能是AI沒有“想到”要躲避汽車而導致失敗，還是已經(jīng)“想到”了，卻因想法和行為沒能成功匹配而導致失敗。在后期進行參數(shù)調(diào)整時可以更加有的放矢，明確地找到問題所在。
更重要的是，這一過程完全是由人類的自然語言所表達的，普通人也能看到并理解問題發(fā)生的整個過程。技術的可解釋權不再受信息科技知識基礎的限制，甚至可以讓更多人參與到AI訓練的過程中來。
AI可知論，是在開技術的倒車嗎？
然而，“小青蛙模型”并不能解決Geoff Hinton提到的“AI不可知論”的很多問題。
首先，讓人類描述自身行為，然后再將語言和行為建立對應關系的玩法適用度并不高。在小青蛙過馬路這樣簡單的游戲中，人類可以清晰明了地解釋自己的行為。但換個場景，很多時候我們就像Geoff Hinton所說的，自己也說不清自己做出決策的原因。尤其在一些場景，例如行車時是撞到馬路上的動物還是撞到其他車輛，人們自身的選擇常常陷入道德困境而不能統(tǒng)一，和AI的決策模式有著天然的差異，就無法形成語言解釋和行為之間的映射。
另一點則是，讓AI“自我解釋”這種行為，投入和產(chǎn)出比究竟如何？我們知道自然語言處理是AI領域中一塊相當難啃的硬骨頭，如果“AI說人話”這種模式成為標配，結果恐怕就是讓所有領域的AI模型都要進行相關的訓練。也就是說，未來一家做智能客服產(chǎn)品的企業(yè)，為了AI的可解釋性，需要招聘NLP領域人才；未來一家做人臉識別產(chǎn)品的企業(yè)，為了AI的可解釋性，同樣也需要招聘NLP領域人才……NLP專業(yè)學子或成最大贏家。如此為AI產(chǎn)業(yè)帶來的巨大成本，又將怎樣被覆蓋呢？
世界在等待AI＋X
在Geoff Hinton發(fā)表過那番“AI不可知論”后，有不少社會學專家進行了相關反駁。其中劍橋智能未來中心的研究員就提出，AI在事物效率上的提升和對于社會的影響，本來就不能分開討論，Geoff Hinton這樣的科學家，如果認為自己脫離了社會語境和政策語境，那么很可能在研究過程的一開始就走錯了方向。
其實AI的可知論和不可知論之間，最核心的問題就是“AI出現(xiàn)了問題該怎么辦？”。不可知論者認為，當AI出現(xiàn)了問題，我們就應該像算法訓練過程一樣，在發(fā)現(xiàn)問題后立刻進行針對性的訓練和矯正。但可知論者認為，如果我們等到AI在現(xiàn)實場景中出現(xiàn)問題再進行改善，一切就已經(jīng)晚了。當前的要務是讓更多社會角色參與到AI的研發(fā)過程中來，在廣泛的現(xiàn)實應用之間就能夠從多種角度發(fā)現(xiàn)問題。
正因如此，才會出現(xiàn)佐治亞理工學院這種“讓AI說人話”的項目出現(xiàn)。而在AI學會說人話之前，AI與人之間、AI專家與其他專家之間，仍然會呈現(xiàn)出嚴重的溝通斷層。在相當長的一段時間內(nèi)，AI＋X的跨領域人才都將炙手可熱。（作者：腦極體）
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
