出品 | 網(wǎng)易智能（公眾號 smartman163）
作者 | 丁廣勝
我們對于AI威脅的擔(dān)憂從未停歇，但這并不妨礙威脅不斷加劇。
事實上，不論專家們?nèi)绾涡沟桌锏睾粲?，很多人工智能武器和國防項目都在快馬加鞭地推進(jìn)，美國作為人工智能的橋頭堡，這個棘手的問題很快擺在了決策者的辦公桌上，谷歌、微軟、亞馬遜等科技巨頭無一幸免……
那么，到底是誰出了錯？科技巨頭遭到連環(huán)抵制又將對AI行業(yè)帶來哪些影響？面臨挑戰(zhàn)的AI道德又將何去何從？
1
首先引起員工強(qiáng)烈反彈的是“不作惡”的谷歌，谷歌云首席科學(xué)家李飛飛在政府AI項目簽訂之初就擔(dān)心：這是媒體損壞谷歌聲譽的絕佳機(jī)會，你們大概聽說過伊隆·馬斯克的評論，他認(rèn)為人工智能可能引發(fā)第三次世界大戰(zhàn)，我不知道如果媒體開始渲染谷歌秘密開發(fā)人工智能武器，或者用人工智能為國防行業(yè)開發(fā)武器會發(fā)生什么事情。
然而，令谷歌管理層揪心的事情還是發(fā)生了。從今年三月份開始，就有媒體曝出谷歌參與政府的AI項目訂單，將人工智能技術(shù)應(yīng)用于戰(zhàn)爭中的無人機(jī)控制，彼時引發(fā)了數(shù)千名谷歌員工的聯(lián)名上書，谷歌云CEO戴安·格林（Diane Greene）為了安穩(wěn)員工情緒，試圖敷衍過去，表示合同其實只有900萬美金。她希望大家心里明白，900萬美金的小項目對于谷歌這樣的龐然大物來說確實不值一提了。
The Intercept于3月7日報道了谷歌悄悄獲得國防部的新算法戰(zhàn)爭試驗項目
不過，隨著The Intercept的爆料，谷歌管理層的敷衍做法沒有得逞，爆料顯示，谷歌預(yù)計的項目收入從開始的15000美金增加到了2.5億美金，如果900萬是小項目，那2.5億美金的項目則牽動了整個谷歌。
接下來發(fā)生的事情大家應(yīng)該知道了，這件事在谷歌內(nèi)部迅速蔓延，隨即爆發(fā)了更大規(guī)模的抗議，更有很多員工以離職相威脅。
眼看事態(tài)無法控制，谷歌管理層終于在事情爆發(fā)的三個月后作出讓步，谷歌CEO皮查伊在官網(wǎng)發(fā)布了一篇名為《Google人工智能：我們的原則》的文章，并宣布不再與國防部續(xù)約合同。
皮查伊表示，人工智能技術(shù)的應(yīng)用目標(biāo)應(yīng)該是：對社會有益；避免制造或加劇偏見；提前測試以保證安全；由人類擔(dān)責(zé)；保證隱私；堅持科學(xué)高標(biāo)準(zhǔn)。
而不應(yīng)該將人工智能技術(shù)應(yīng)用于：制造整體傷害之處，如一項技術(shù)可能造成傷害，我們只會在其好處大大超過傷害的情況下進(jìn)行研發(fā)，并提供安全保護(hù)措施；武器或其他用于直接傷害人類的產(chǎn)品；收集使用信息，以實現(xiàn)違反國際規(guī)范的監(jiān)控的技術(shù)；目標(biāo)違反被廣泛接受的國際法與人權(quán)原則的技術(shù)。
他們希望以這些框架為準(zhǔn)繩，避免谷歌的人工智能技術(shù)再次觸碰紅線。
2
無獨有偶，另一位巨頭亞馬遜的政府人臉識別項目同樣遭到抵制。
據(jù)Futurism的報道，早在2016年亞馬遜就推出了Rekognition，它是一種人工智能驅(qū)動的面部識別軟件 ，掃描視頻或照片來檢測人或物體，該技術(shù)可以分析一個人的臉部以確定他的情緒，還可以在一張照片中識別出100張臉孔，并在整個視頻中跟蹤一個人，即使他們離開并重新進(jìn)入視野。
亞馬遜官網(wǎng)對于 Rekognition 技術(shù)的介紹，圖為人臉識別
換句話說，這是一個強(qiáng)大的監(jiān)控工具，政府機(jī)構(gòu)和執(zhí)法機(jī)構(gòu)顯然是亞馬遜的目標(biāo)客戶，如今，在美國反對科技公司參與政府AI項目的浪潮下，亞馬遜的項目也不可避免的卷了進(jìn)來。
目前，美國公民自由聯(lián)盟（ACLU）華盛頓基金會的署名信和亞馬遜19位股東的簽署信已經(jīng)呈上亞馬遜CEO貝索斯的辦公桌。
但這位被稱為世界上“最糟糕”的老板還沒有表態(tài)。
3
當(dāng)然，這樣的糟心事兒也被剛從“失去移動互聯(lián)網(wǎng)”中緩過勁來的微軟趕上了，而且微軟的AI項目抵制危機(jī)來的更加直接。
事件起因是在美國當(dāng)?shù)貢r間6月24日，美國總統(tǒng)特朗普發(fā)推：我們不能讓這些人侵入我們的國家，當(dāng)有人來了，我們必須立即在沒有法院和立案的情況下，把他們送回他們來的地方。
“零容忍”大棒之下，美國國土安全部證實，在4月19日到5月31日期間，美國邊境巡邏隊已經(jīng)把近2000名非法移民兒童從他們的父母身邊帶走，而子女與父母走的是完全截然不同的兩種程序——對兒童提供必要的幫助，成人則關(guān)押起來等待被直接遣返。
《時代》周刊雜志封面：“零容忍”邊境政策下哭泣的兩歲孩子和特朗普
事件發(fā)生后，指責(zé)甚至謾罵鋪天蓋地，最引人關(guān)注的是五位前第一夫人的發(fā)聲，她們紛紛指責(zé)特朗普政府的不人道行徑，更有很多州政府宣布不會向美國西南邊境派駐國民警衛(wèi)隊。
截止目前，雖然特朗普簽署了不再將兒童從非法移民手中奪走的政府文件，但該事件還在持續(xù)發(fā)酵，民眾憤怒的對象燒向了為政府提供AI技術(shù)的微軟公司，資料顯示，微軟為移民和海關(guān)執(zhí)法局（ICE）提供云服務(wù)和人臉識別技術(shù)，他們被指是ICE的幫兇。
同樣，微軟的員工也不買帳，他們紛紛站出來發(fā)聲指責(zé)，并且有人說：是時候認(rèn)真考慮離職的事情了。
面對壓力，微軟官方的回應(yīng)顯得拖泥帶水，沒有谷歌那樣果斷，微軟在針對該事件的聲明中表示，我們不知道政府用我們的技術(shù)干了這樣的事情，我們也沒有和ICE合作破壞別人的家庭，發(fā)生這樣的事我們也很驚訝。
4
你可能不清楚人工智能技術(shù)，但你一定聽說過AI威脅論，霍金、馬斯克們的預(yù)言和警醒以及《西部世界》這類AI倫理電影都輸出著這樣的觀點，他們擔(dān)憂人類被人工智能替代、統(tǒng)治甚至消滅。
人工智能威脅真的到了最緊迫的時候？
上文提到的擔(dān)憂應(yīng)該是AI威脅的2.0版本了，其實，在更多時候大家討論的是AI如果奪取我們工作應(yīng)該怎么辦，據(jù)布魯金斯學(xué)會（the Brookings Institution）研究人員進(jìn)行的一項調(diào)查顯示，52%的被調(diào)查者相信，30年內(nèi)機(jī)器人將進(jìn)化到可以完成目前人類大部分活動的階段。民意調(diào)查還發(fā)現(xiàn)，對于美國政府是否應(yīng)該設(shè)立一個聯(lián)邦機(jī)器人委員會（Federal Robotics Commission）來管理機(jī)器人的開發(fā)和使用，有29%至32%的人持支持態(tài)度。
如果說1.0版本的AI威脅大家還可以坐下來心平氣和的爭論，那現(xiàn)在美國討論的AI威脅則是真正意義上的威脅，它運用到戰(zhàn)爭和統(tǒng)治當(dāng)中，進(jìn)而威脅人類的生命權(quán)以及自由權(quán)，后果不堪設(shè)想。
你可能不禁要問，谷歌、亞馬遜、微軟發(fā)生這樣的事情，到底是誰錯了？我們看看，其中的參與方包括政府、AI巨頭、員工、普通民眾，仔細(xì)琢磨好像都沒有錯——政府出于安全目的（侵略行為另當(dāng)別論）；AI巨頭出于商業(yè)利益目的；員工和普通民眾出于擔(dān)憂AI技術(shù)泛濫，保護(hù)人類不受AI技術(shù)侵犯目的。
筆者認(rèn)為，這里的關(guān)鍵是美國政府的意志，他們在制定國防戰(zhàn)略和商業(yè)訂單的時候，需要在頂層設(shè)計時將AI倫理問題考慮進(jìn)去，讓AI技術(shù)在合理的地方發(fā)揮價值，如果微軟的技術(shù)沒有幫助政府將偷渡者“骨肉分離”，而是進(jìn)行城鎮(zhèn)布控和抓捕逃犯，那民眾的反彈一定會微小很多。
同樣，如果谷歌的技術(shù)沒有用于無人機(jī)攻擊而是民用領(lǐng)域，那員工肯定舉雙手贊成，而谷歌的AI項目事件特殊性還在于，戰(zhàn)爭是有原罪的，它一定是建立在流血的基礎(chǔ)上。
畢竟，任何的AI威脅言論都是危言聳聽，除非有人故意指使，將AI武器嚴(yán)格管控起來，就像核武器那樣，人類還需要一點時間。
在此之前，我們就寄希望于人類社會的容錯機(jī)制吧。
關(guān)注網(wǎng)易智能公眾號（smartman163），為你解讀AI領(lǐng)域大公司大事件，新觀點新應(yīng)用。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
