劉興亮 ｜人工智能的黑匣子：生活在不通人情的世界中

01

記得小時候看過一個笑話，一個代表團蒞臨某地，當(dāng)?shù)亟M織開歡迎會，領(lǐng)導(dǎo)念發(fā)言稿：歡迎某某代表團長途跋涉來到我市。結(jié)果念成了「歡迎某某代表團長‘途跋涉’來到我市?！怪粴g迎了團長，團長名叫途跋涉。

我覺得這位念發(fā)言稿的領(lǐng)導(dǎo)很像人工智能，在對數(shù)據(jù)進行分析時做出了變量之間不恰當(dāng)?shù)年P(guān)聯(lián)。

02

人類生活在一個可感知的世界里，用「規(guī)定性」的動作為這個無邊無際的混沌世界劃分經(jīng)緯，給自身一個相對確定的觀察位置后，尋求主客體之間的相互關(guān)系。這種關(guān)系意味著一套建立在數(shù)學(xué)、物理等方法上的觀察模式，以及改善這種模式的心理學(xué)探索。

人首先生活在更真實、更自然的物理世界中，同時又生活在對這個世界的抽象中，后者是扭曲、變形、充滿人為因素的。

人工智能將要引發(fā)的那個更高階的世界脫離不開上述邏輯關(guān)系，只不過它的「人為因素」更深、更復(fù)雜、更高效。

人們擔(dān)憂人工智能比過去的科技產(chǎn)品更具有「黑匣子」的效應(yīng)，因而讓范圍廣闊的受眾生活在被操作的危險中。

深度學(xué)習(xí)建模通常通過黑箱開發(fā)進行：算法將數(shù)量巨大的數(shù)據(jù)點作為輸入，并將特定數(shù)據(jù)特征關(guān)聯(lián)起來進行分析以產(chǎn)生輸出。這一過程的背后不是一個或數(shù)個程序員，而是AI自我指導(dǎo)的。它在簡化復(fù)雜流程、增強決策模式和發(fā)現(xiàn)有價值見解方面的潛力毋庸置疑。

但這同時讓人想起黑箱模型：模型的輸入和操作對用戶或其他相關(guān)方是不可見的。其實多數(shù)人生活在無數(shù)黑箱外邊，身邊的電腦、電視、乃至一塊手表的運行，他們都不可能了解背后的秘密。

03

人工智能對人類來說是黑匣子的原因在于，它依賴于機器學(xué)習(xí)算法，這些算法以人類不易審計或理解的方式內(nèi)化數(shù)據(jù)，它缺乏可視化并容易被理解的透明度。

我們知道人工智能已經(jīng)為人類看病開了先河，假如未來進入醫(yī)院選擇科室看病，面對的不是一位真正的大夫，而是一臺電腦，輸入一堆數(shù)據(jù)后面對它給出的「診斷和處方」，患者敢于接受嗎？它會不會算錯？出了醫(yī)療事故連個訴訟對象都沒有。

我想讓它給我解釋一下：它怎么決策，為什么決策和決策了什么。

我不想一頭霧水毫無芥蒂地接受與自身關(guān)系重大又來歷不明的任何東西。何況我病了，身上每個部位都不舒服，被強烈的不安全感籠罩著。

人工智能是否可以保證它的道德有效性和整體公平性？我們可以容忍機器沒有理由地給我們錯誤推薦了一部毫不喜歡的影視劇，但是把炒股、投資、尋求人生伴侶、生產(chǎn)決策或者醫(yī)療建議乃至于臨終關(guān)懷方案交由機器決定的時候，人當(dāng)然希望可以得到充分的解釋說明，以便我們有足夠的信心按照它的指示去執(zhí)行。

04

你可能會說，科學(xué)只講求效率、正確的方向和可參考的意見，它既不愛人類，也不恨人類，給出的答案是基于數(shù)據(jù)和算法的客觀結(jié)果，并不存在需要被衡量的道德因素。

事實上，就跟所有普通人一樣，人工智能背后的科學(xué)家和工程師們的許多決定是基于判斷和經(jīng)驗做出的，這些都是他們自己 「深度學(xué)習(xí)」 的結(jié)果。

道理我都懂，可就是感覺這樣的世界非常可怕。仿佛內(nèi)心深處的什么東西被觸動了。它太不通人情了，讓人感覺涼颼颼的。

05

有人說，人工智能就兩大特征：黑匣子和不確定性。

它的缺點讓人如此害怕以至于人們忘記了它的任何優(yōu)點。黑匣子問題對使用者和監(jiān)管者都帶來了很大挑戰(zhàn)。

人工智能流程的不透明性會使監(jiān)管機構(gòu)難以評估這些系統(tǒng)是否符合現(xiàn)有規(guī)則和準則。缺乏透明度會使監(jiān)管者開發(fā)新框架以應(yīng)對人工智能應(yīng)用帶來的風(fēng)險和挑戰(zhàn)的能力復(fù)雜化，無法見招拆招，仿佛對面是一位無形的隱身對手。

這樣的話，也難以評估人工智能系統(tǒng)的公平性、偏見和數(shù)據(jù)隱私做法，以及它們對消費者權(quán)利和市場穩(wěn)定性的潛在影響。等等。

06

然而，AI的好處也顯而易見。

盡管其思維過程受到數(shù)據(jù)限制，甚至存在算法固有的偏見，也可能引發(fā)錯誤，但AI由于其算法和對海量數(shù)據(jù)的分析能力，可能揭示新的聯(lián)系和方法。

這一方法可以為科學(xué)、技術(shù)、工程和數(shù)學(xué)的進步做出實質(zhì)性、富有成效的貢獻，提供意見，優(yōu)化結(jié)果，更重要的是能夠激發(fā)人類的靈感。

AI擅長于歸納性推理，迅速找出事物幕后蘊藏的規(guī)律性。對于沒有經(jīng)歷過的未知事物通常是無法理解和判斷的。人工智能更不可能擁有關(guān)于未來可變事物的數(shù)據(jù)，對中長期的事物變遷的預(yù)測能力卻相當(dāng)孱弱。

這些未知的、未來變遷的不確定的部分，是AI不擅長的。我們不能全無防備地依賴人工智能的黑匣子來尋找生活、工作、技術(shù)上的因果關(guān)系。

黑匣子不會告訴任何人一株植物如何長得歪歪扭扭，一條道路何以從花壇上被踩出。它不會造出永動機，發(fā)現(xiàn)永生的秘密。但是它可以輔助人類研究這個可規(guī)定的，在一定范圍內(nèi)能夠被抽象和解釋的世界。

只不過，在建立AI模型的時候，應(yīng)該考慮融合提高透明度、可解釋性和問責(zé)制的方法，制作可解釋的開源模型。

?07

AI仍然是人類解決自身面臨問題的一套工具。它不是萬能的，有利也有弊。

如果人工智能發(fā)展到相對完美的那一步，電腦把一切都算得準確無疑，毫無出入，在面對任何問題都能給出最佳解決方案，所有人都生活在無比正確的道路上。

這樣的世界還有勁嗎？

還是那個真實的自然世界嗎？

它豈不是建立起一個更同質(zhì)化、更無法逃脫的精神牢籠？

難道科學(xué)的盡頭等待人類的真的是作繭自縛？

我不得其解。如此看來，人工智能的不完美，正是它值得信賴的地方。它不通人情，但是也因此少了人類固有的人情世故和由此引發(fā)的不良作風(fēng)。

生成海報

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。