全球首例自動駕駛車禍判決，愿景與現(xiàn)實之間的裂痕如何彌補？

近日，美國國家運輸安全委員會(NTSB)正式公布去年三月Uber自動駕駛車禍事件的原因，這是全球首例也是目前唯一一例自動駕駛車禍原因正式確認。NTSB認為，車禍主要原因在人，而非技術(shù)。

因為Uber淡薄的安全意識，導(dǎo)致車輛沒有開啟緊急制動系統(tǒng)，沒有及時對安全員進行監(jiān)督，事故發(fā)生時，車上安全員仍在看視頻而非及時采取措施。

因?qū)ψ詣玉{駛的安全問題處理不當(dāng)，Uber受到NTSB主席羅伯特·薩姆沃特批評，同時自動駕駛系統(tǒng)的失控和安全員的不當(dāng)行為指向一個更深層次問題——Uber的無效安全文化。

這堪稱是自動駕駛短暫發(fā)展史上的一個里程碑式事件，這一事件將為此后如何避免類似事故提供了前車之鑒。

自動駕駛車禍

敲響Uber安全文化的警鐘

2018年3月，在美國亞利桑那州坦佩市，搭載了Uber自動駕駛系統(tǒng)的測試車正在以70km/h的速度行駛，行駛中不幸與過馬路的49歲女子伊萊恩·赫茲伯格相撞，導(dǎo)致該女子身亡。

該事件后，NTSB公布了Uber去年自動駕駛車禍事件中的一些細節(jié)，以及Uber自動駕駛以往的一些碰撞事故。文件顯示，Uber的自動駕駛汽車在發(fā)生撞擊前5.6秒鐘就檢測到了行人，但將其錯誤識別為汽車，撞擊前5.6秒時又將其歸類為其他物體。

此后系統(tǒng)對物體的分類發(fā)生了混亂，在“汽車”和“其他”之間搖擺不定，浪費了大量寶貴時間，車輛也因此沒有及時剎車。加之當(dāng)時車上的安全員正在觀看電視節(jié)目，并未采取措施，最終導(dǎo)致事故發(fā)生。

NTSB報告還指出，造成事故的關(guān)鍵問題是，軟件無法正確預(yù)測受害者的類別和運動軌跡。如果系統(tǒng)可以及早正確地識別出前方物體是行人，就可能會大幅放慢速度，或者設(shè)法繞開避讓。

但是Uber汽車沒有預(yù)料到這起碰撞，系統(tǒng)在很長一段時間里把行人當(dāng)做是某個未知的物體，認為它并不妨礙行駛。

Uber自動駕駛汽車在識別到行人后1秒才開始制動，此時距離碰撞只有0.2秒，事故已經(jīng)無法避免。自動駕駛系統(tǒng)之所以行動如此遲緩，是因為Uber認為緊急制動系統(tǒng)會造成車輛的不穩(wěn)定，所以關(guān)閉了該系統(tǒng)。

如果Uber從一開始就選擇開啟緊急制動系統(tǒng)，那么類似的悲劇則很有可能不會發(fā)生。此外，NTSB報告還顯示，在2016年9月至2018年3月之間，Uber的自動駕駛汽車共發(fā)生37起碰撞事故，有兩起事故是車輛撞到了路邊的物體，其他的事故則都是追尾和車輛刮蹭。

事故發(fā)生后，Uber踩下自動駕駛“剎車鍵”，重新思考安全問題：此事發(fā)生一個月多后，Uber關(guān)閉亞利桑那州無人駕駛測試中心，并裁掉300名員工；

同年7月，其無人卡車研發(fā)業(yè)務(wù)也被關(guān)停；沉寂大半年后，這家公司才帶著更新后的軟件，以及新增加的限制與安全保障措施，于年底恢復(fù)路測。

技術(shù)本無對錯

避免掉進技術(shù)編織的美好陷阱

Uber公司忽視安全的嚴重性更在于，既停用了該輛沃爾沃汽車的自動緊急制動系統(tǒng)，同時Uber自己的系統(tǒng)也沒有自動剎車的能力，僅僅依靠一名人類安全員來剎車。

同時，Uber也沒有及時監(jiān)測安全員的工作狀況。因為，Uber車內(nèi)裝有攝像頭主要是監(jiān)控司機，但沒有監(jiān)控到安全員的行為，以確保他們對車輛的行駛狀況保持警惕。這等于多重安全防線的失守。

Uber對安全文化的淡漠，導(dǎo)致員工也可能無法得到安全文化的培訓(xùn)，這體現(xiàn)在車上的安全員并沒有注意車輛行駛的情況，而是放心大膽地在車上看視頻，以為把一切交給智能機器就能高枕無憂。

這種情況不只是出現(xiàn)在Uber公司，可以說，在世界上研發(fā)、使用機器的所有工廠、公司和所有地方，都或多或少存在這種情況，把一切放心地交付給機器，認為機器和AI比人更可靠，既能預(yù)測事故，又能避免事故。

然而，這是一種非常離譜的思維，尤其在進入AI時代，如果把一切交由AI來判斷和執(zhí)行，終將釀成大錯。

劉易斯·芒福德的《技術(shù)與文明》一書曾提出，人類發(fā)明和依靠機器，實際上也深深地改變甚至強制了人類自己。

如果說，人類依靠機器和技術(shù)擺脫了自然的完全控制，卻反過來掉入了機器和技術(shù)的控制之中，把一切都交由機器和技術(shù)來操作和控制。機器和技術(shù)取決于人對其利用的好壞，如果利用得好，是造福人類，如果利用不好，則會禍害社會。

過去只是認為，讓技術(shù)，如武器不分青紅皂白地殺人，是壞的利用。但殊不知，放心地把一切交由技術(shù)來控制其實也是技術(shù)壞的利用的一個方面。

Uber和安全員把操控汽車的所有權(quán)都交與自動駕駛軟件，并由此引發(fā)致人死亡的車禍就一個明證。

如今，Uber正逐漸走出全球首例自動駕駛致行人死亡事故的“陰霾”。其表示，將在自動駕駛方面再投資10億美元。如此龐大的支出，賭的是不確定的未來。Uber自身也表示，自動駕駛技術(shù)的研發(fā)耗資大、難度高，并不能保證這一投資能夠達到預(yù)期效果。

對這項技術(shù)未來的不確定，也使摩根士丹利將自動駕駛“領(lǐng)頭羊”Waymo的估值下調(diào)了40%。今年9月，該公司將Waymo的估值從1750億美元下調(diào)至1050億美元。

對于下調(diào)原因，摩根士丹利分析師稱，自動駕駛行業(yè)的發(fā)展速度慢于預(yù)期，同時預(yù)計Waymo未來一段時間內(nèi)對安全員具有持續(xù)需求，該公司的虧損將繼續(xù)擴大。

除科技公司外，車企也愈發(fā)謹慎。沃爾沃原計劃在2017年推出100輛自動駕駛的SUV ，后延期至2021年；福特CEO吉姆·哈克特也公開承認公司高估了自動駕駛汽車的到來，自家“2021年推出全自動駕駛汽車”的計劃可能有所推遲；

通用旗下自動駕駛公司Cruise CEO丹·阿曼甚至專門為此發(fā)布了一篇長文博客，暗示公司將推遲今年年底推出無人駕駛出租車的計劃。

雖然車禍的余波已經(jīng)過去，但這場車禍調(diào)查結(jié)果同時也指出了一個問題，現(xiàn)在的自動駕駛技術(shù)并非此前所認為的那樣，已趨于成熟和安全。

即便自動駕駛技術(shù)能過關(guān)，也能完全識別路上的行人，我們同樣要強調(diào)安全文化，把人的安全放在第一位，而且不能把一切全部交給AI來控制和執(zhí)行。在研發(fā)相關(guān)技術(shù)的同時，更要注重相關(guān)的安全風(fēng)險管理，只有從意識上加以重視，才能真正防患于未然。

微信公眾賬號：科技云報道

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。