credit: 銳景創(chuàng)意
去年，一輛奇怪的自動駕駛汽車被投放到新澤西州蒙茅斯縣安靜的道路上。由芯片制造商Nvidia(英偉達)的研究人員開發(fā)的這輛實驗車看似與其他無人駕駛汽車并沒有什么不同，但與Google，特斯拉或通用汽車公司所展示的車輛相比，它顯示了人工智能能力的升級。這輛車并沒有遵循由工程師或程序員提供的指令。相反，它完全依賴于一套通過觀察人類來教導自己駕駛的算法來完成學習。
讓一輛車如此行駛是一個令人印象深刻的壯舉，但這也有點令人不安，因為人類并不完全清楚汽車如何做出各項駕駛操作的決定。在機器學習的過程中，來自車輛傳感器的信息直接進入人造神經(jīng)元的巨大網(wǎng)絡，處理數(shù)據(jù)，然后傳遞操作方向盤，制動器和其他系統(tǒng)所需的命令給車輛。結(jié)果似乎與人類駕駛員的預期反應相匹配。但是，如果有一天它做了一些意想不到的事情——例如，撞倒一棵樹，或者停在綠燈前呢？根據(jù)現(xiàn)有的技術(shù)，可能很難找出原因。由于該系統(tǒng)非常復雜，即使是設計它的工程師也很難提取出單一車輛動作的原因。并且你不能向控制系統(tǒng)提問：目前，還沒有合適的方法可以設計一個總能解釋為什么的人工智能系統(tǒng)。
這輛車的神秘“思想”指出人工智能一個迫在眉睫的問題。被稱為深度學習的底層AI技術(shù)，近年來已經(jīng)被證明在解決問題上非常給力。它已被廣泛應用于字幕處理，語音識別和語言翻譯等任務。現(xiàn)在，人類寄希望于同樣的技術(shù)來診斷致命的疾病，做出價值百萬美元的交易決定，和其他無數(shù)的事情來改變整個行業(yè)。
但這不會發(fā)生，或者不應該發(fā)生。除非我們找到方法，使深入深度學習的技術(shù)更容易被創(chuàng)造者所理解，并對其用戶負責。否則，難以預測何時會發(fā)生故障，而且一旦發(fā)生，后果將無法避免，甚至不堪設想。 因此，Nvidia的自動駕駛汽車仍處于試驗階段。
credit: 煎蛋畫師seηz
數(shù)學模型已經(jīng)被用來幫助決定誰被假釋，誰被批準貸款，以及誰被聘請工作。如果我們知曉這些數(shù)學模型，可能可以理解決策背后的原因。但是銀行，軍方，雇主等等正在將注意力轉(zhuǎn)向更復雜的機器學習方法，使自動化決策完全無法解釋。深入深度學習作為一種常見的機器學習方法，代表了一種從本質(zhì)上不同的計算機程序。麻省理工學院教授塔米·賈科科拉(Tommi Jaakkola)說：“這是一個已經(jīng)(和人類)息息相關(guān)的問題，未來關(guān)系將會更加密切。無論是投資決定，醫(yī)療決定還是軍事決定，人類都不希望只依靠黑箱算法?！?/p>
能夠詢問人工智能系統(tǒng)如何達成結(jié)論似乎應是一項基本的法律權(quán)利。從2018年夏天開始，歐盟可能要求公司能夠給用戶提供自動化系統(tǒng)決策背后的解釋。即使對于看似相對簡單的系統(tǒng)，例如使用深度學習來投放廣告或推薦歌曲的應用程序和網(wǎng)站，這或許也是不可能的。運行這些服務的計算機已經(jīng)利用程序以我們無法理解的方式完成了這些。即使是構(gòu)建這些應用程序的工程師也無法完全解釋程序的行為。
這引起了令人難以置信的問題。隨著技術(shù)的進步，我們可能很快會越過一個門檻——超過這個閾值，使用AI需要一次觀念的飛躍。誠然，我們?nèi)祟愐膊荒芸偸钦嬲亟忉屛覀兊乃枷脒^程，但是我們可以直觀地信任和衡量人們。對于與人類作出決定方式不同的機器人來說，這現(xiàn)實嗎？我們從未建造以造物者不明白的方式運作的機器，卻又如何與這些不可預知和難以置信的機器溝通交流？
為了探索這些形而上學的概念，我去了塔夫茨大學，與著名的研究意識和心靈的哲學家和認知科學家丹尼特(Daniel Dennett)會面。丹尼特最新的一本書《從細菌到巴赫，再反回來》(From Bacteria to Bach and Back)，一本關(guān)于意識的百科全書式論文，表明智力發(fā)展的一個自然部分是發(fā)明能使其創(chuàng)造者無法解釋的系統(tǒng)。 “問題是，我們?nèi)绾蚊髦堑貏?chuàng)造出這樣一套系統(tǒng)？對于機器和我們自己，分別有什么標準？”他在他那坐落于田園詩般的校園內(nèi)，但是雜亂無章的辦公室里告訴我。
他還有一個關(guān)于追求可解釋性的警告。 “我認為，如果我們要使用這些東西并依靠它們，那么讓我們盡可能地掌控機器如何以及為什么給我們答案?！彼f。但由于可能沒有完美的答案，我們應該像對待人類彼此一樣謹慎的面對AI的決策——無論機器看起來有多聰明。他說：“如果機器不能比人類更好地解釋其行為背后的原因，那就不能予以信任?！?/p>
本文譯自MIT Tech Review，由譯者 雁洲向北 基于創(chuàng)作共用協(xié)議(BY-NC)發(fā)布。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
