你如果想打我，AI可不一定答應(yīng)

原標(biāo)題：你如果想打我，AI可不一定答應(yīng)

文|柯鳴

來(lái)源|智能相對(duì)論（aixdlun）

如果有一天，你想打我（賤兮兮），你以為一拳頭揮過(guò)來(lái)就完事了嗎？

現(xiàn)在可不那么簡(jiǎn)單了。現(xiàn)在你如果想要打我，不僅要問(wèn)問(wèn)我爸媽同不同意，還得問(wèn)問(wèn)AI答不答應(yīng)，可能你還沒(méi)動(dòng)手，就已經(jīng)被我的AI所攔截下來(lái)了。

沒(méi)錯(cuò)，“暴力檢測(cè)”成為了當(dāng)下的一個(gè)熱門。在人群中實(shí)時(shí)檢測(cè)“暴力行為”成為了現(xiàn)實(shí)，如果你想打架，最好先看看AI同不同意。

“檢測(cè)暴力”的AI

這種能夠檢測(cè)“暴力行為”的AI系統(tǒng)由英國(guó)劍橋大學(xué)、印度國(guó)家技術(shù)研究院和印度科學(xué)理工學(xué)院的研究人員研發(fā)，此類AI技術(shù)利用懸停式四軸飛行器上的攝像頭來(lái)檢測(cè)每個(gè)人的身體動(dòng)作。然后，當(dāng)系統(tǒng)識(shí)別出攻擊性的行為，如拳打、腳踢、刺殺、射擊、掐脖子等時(shí)，它就會(huì)發(fā)出警報(bào)，準(zhǔn)確率達(dá)到85%。它不識(shí)別人臉——只是監(jiān)測(cè)人們之間可能的暴力行為。

借由無(wú)人機(jī)實(shí)現(xiàn)AI“暴力檢測(cè)”

這個(gè)系統(tǒng)可以擴(kuò)展到自動(dòng)識(shí)別非法越境的人，在公共場(chǎng)所發(fā)現(xiàn)綁架事件，并在發(fā)現(xiàn)暴力行為時(shí)發(fā)出警報(bào)。因此，在某種程度上，這種自主間諜無(wú)人機(jī)可以幫助警察壓制犯罪，或幫助士兵在無(wú)辜群眾中找出敵人。

AI在檢測(cè)暴力動(dòng)作時(shí)，主要分為五個(gè)類型：扼殺、拳打、踢踹、槍擊，以及刺傷。系統(tǒng)先用FPN(特征金字塔網(wǎng)絡(luò))檢測(cè)在場(chǎng)的所有人類，并標(biāo)記出頭、上肢、下肢三個(gè)部分的14個(gè)重要位點(diǎn)，畫(huà)出人體的骨架。然后，SHDL網(wǎng)絡(luò)可以分析四肢朝向等數(shù)據(jù)，判斷那些人是不是在使用暴力。

可用于檢測(cè)公共區(qū)域或大型聚會(huì)中的暴力分子姿態(tài)估計(jì)pipeline

當(dāng)然，AI暴力檢測(cè)的效果也與數(shù)據(jù)處理人數(shù)有著很大關(guān)系。一般來(lái)說(shuō)，系統(tǒng)需要處理的人數(shù)更少時(shí)，準(zhǔn)確率會(huì)更高。如只需處理一人時(shí)，系統(tǒng)準(zhǔn)確率可以達(dá)到94.1%，如果人數(shù)超過(guò)了十人，準(zhǔn)確率下降到僅79.8%。同樣，其在檢測(cè)扼殺、拳打、踢踹、槍擊，以及刺傷五種暴力行為時(shí)，也存在著準(zhǔn)確率差異。

檢測(cè)不同暴力行為的準(zhǔn)確率

檢測(cè)不同人數(shù)時(shí)的準(zhǔn)確率

另一方面，無(wú)人機(jī)的應(yīng)用也存在著一定的使用條件限制問(wèn)題。在真正應(yīng)用場(chǎng)景中，無(wú)人機(jī)無(wú)法直接靠近斗毆人群，只能實(shí)行高空檢測(cè)，而這一定程度上降低了能見(jiàn)度和檢測(cè)準(zhǔn)確度。

AI檢測(cè)暴力，依然存在著眾多問(wèn)題

AI檢測(cè)在人工智能領(lǐng)域早已經(jīng)不是新鮮事。不論是此前的Dextro公司利用機(jī)器學(xué)習(xí)來(lái)解讀視頻的聲音和圖象信息，還是谷歌解決雞尾酒會(huì)問(wèn)題，并成功推出新一代Google Assistance，AI檢測(cè)一直是各領(lǐng)域應(yīng)用的重要方式。

在云端執(zhí)行推理有潛在的安全和隱私風(fēng)險(xiǎn)，因?yàn)橐獙⑷藗兊囊曨l傳輸?shù)降谌接?jì)算系統(tǒng)中。當(dāng)AI滲入日常生活的監(jiān)測(cè)過(guò)程之中，智能相對(duì)論（aixdlun）分析師柯鳴認(rèn)為，其依然就幾個(gè)問(wèn)題“有待解決”。

1.泛濫的用戶信息泄露

2017年，是數(shù)據(jù)泄露極為猖獗的一年。根據(jù)金雅拓（Gemalto）近期發(fā)布的一份報(bào)告“2017 Poor International Security Practices Take a Toll”顯示，2017年僅上半年被盜的數(shù)據(jù)，就已超過(guò)2016年全年被盜數(shù)據(jù)的總量。

2017年1月到6月，平均每天有1050萬(wàn)條記錄被盜。盡管很多數(shù)據(jù)泄露來(lái)自于外部黑客攻擊所致，但所造成的記錄被盜或遺失，僅占13%；相比之下，內(nèi)部惡意泄露、員工疏忽無(wú)意泄露等造成的卻占19億被盜數(shù)據(jù)中的86%。

早在此前的Cambridge Analytica丑聞造成了8700萬(wàn)人的信息泄露，并且對(duì)2016年唐納德·特朗普參與美國(guó)總統(tǒng)競(jìng)選的結(jié)果造成了影響。Facebook數(shù)據(jù)泄露事件再次向人們展現(xiàn)了信息泄露的危害，“被行為”或是“誘導(dǎo)行為”成為許多數(shù)據(jù)公司利用用戶信息進(jìn)行的不良操作。

可想而知，如果當(dāng)AI監(jiān)測(cè)暴力系統(tǒng)被惡意使用，其帶來(lái)的風(fēng)險(xiǎn)更是相當(dāng)嚴(yán)重。諸如此類的面部識(shí)別技術(shù)，如亞馬遜的Rekognition服務(wù)，已經(jīng)被美國(guó)警方采用。這些系統(tǒng)經(jīng)常受到高誤報(bào)率的困擾，或者根本就不準(zhǔn)確，所以像這樣的技術(shù)要和無(wú)人機(jī)結(jié)合還需要一段時(shí)間。

2.“大數(shù)據(jù)殺熟”

從目前眾多AI應(yīng)用的表現(xiàn)來(lái)看，隱私數(shù)據(jù)的泄露所導(dǎo)致的“大數(shù)據(jù)殺熟”是一個(gè)不容忽視的問(wèn)題。

信息泄露不僅會(huì)威脅到一個(gè)普通用戶的網(wǎng)絡(luò)賬戶安全，更會(huì)直接影響到其現(xiàn)實(shí)生活中的方方面面。最近鬧得沸沸揚(yáng)揚(yáng)的Facebook用戶數(shù)據(jù)泄露更是讓全球用戶紛紛自危，不少知名人士更是宣布從Facebook退出，揚(yáng)言保護(hù)自身隱私數(shù)據(jù)安全。

在前段時(shí)間，滴滴被曝光對(duì)用戶進(jìn)行大數(shù)據(jù)殺熟，一時(shí)之間輿論紛紛，顯然被人區(qū)別對(duì)待的感受不是每個(gè)人都喜歡，尤其是在加價(jià)的情況下。雖然之后滴滴很快對(duì)其進(jìn)行了澄清，但大數(shù)據(jù)殺熟這種方式卻已經(jīng)被世人獲知。

那么什么是大數(shù)據(jù)殺熟，通常而言，這種行為指的是通過(guò)大數(shù)據(jù)來(lái)判斷用戶消費(fèi)潛力，當(dāng)判斷用戶為高消費(fèi)者時(shí)，則會(huì)對(duì)用戶進(jìn)行區(qū)別對(duì)待，提高其消費(fèi)價(jià)格，比其他用戶花費(fèi)更多資金才能享受到相同的商品及服務(wù)。

互聯(lián)網(wǎng)上的殺熟早就不是什么新鮮的事情，自互聯(lián)網(wǎng)誕生以來(lái)，這種行為便一直存在。而在2000年，也發(fā)生了一件令人矚目的殺熟事件。有亞馬遜用戶反映，在其刪除瀏覽器cookies之后，之前瀏覽過(guò)的DVD商品售價(jià)從26.24美元降至22.74美元。

此消息一出，備受輿論壓力的亞馬遜只能出來(lái)解釋，稱這項(xiàng)功能只是向不同顧客展示的差別定價(jià)實(shí)驗(yàn)，絕對(duì)與客戶數(shù)據(jù)沒(méi)有關(guān)系。最后也只能努力公關(guān)，才度過(guò)了這個(gè)信任危機(jī)。如今的一些互聯(lián)網(wǎng)公司，顯然已經(jīng)忘記了亞馬遜當(dāng)年的遭遇，試圖重蹈覆轍。

3.AI監(jiān)測(cè)恐侵犯主體的“知情權(quán)”

在AI監(jiān)測(cè)的過(guò)程中，“知情”確實(shí)成為了一個(gè)倫理爭(zhēng)論的焦點(diǎn)?！叭绾伪O(jiān)測(cè)”、“是否知情”爭(zhēng)議不斷。誠(chéng)然，隨著行為識(shí)別技術(shù)的不斷發(fā)展，許多識(shí)別技術(shù)都可以實(shí)現(xiàn)“非受控性”：即主體無(wú)需配合，依然可以實(shí)現(xiàn)精準(zhǔn)識(shí)別。

這無(wú)疑將AI倫理提到了一個(gè)新的高度。信息不再為我所有，確實(shí)讓人細(xì)思極恐。那么，在公安與刑偵領(lǐng)域，AI監(jiān)測(cè)尚可讓人信服，但在其他民用甚至是商用領(lǐng)域，如何平衡好“獲取信息”與保障和滿足受眾基本的知情權(quán)將會(huì)成為一個(gè)重點(diǎn)和難點(diǎn)。

顯然，許多大公司在此類“獲取信息”與“保障隱私”兩者中積極尋求平衡。Facebook首席運(yùn)營(yíng)官雪莉·桑德伯格(Sheryl Sandberg)宣布為了響應(yīng)歐盟即將于五月份生效的新隱私法規(guī)，F(xiàn)acebook將讓其20億用戶更容易地管理自己的個(gè)人數(shù)據(jù)。

在歐盟，將于今年五月份實(shí)施的《通用數(shù)據(jù)保護(hù)條例》(General Data Protection Regulation，GDPR)是自互聯(lián)網(wǎng)誕生以來(lái)對(duì)個(gè)人隱私數(shù)據(jù)法規(guī)的最大一次修訂。該條例旨在給予歐盟成員國(guó)內(nèi)居民更多管理自身信息的權(quán)限，并規(guī)定了公司使用用戶數(shù)據(jù)的方法。

總的來(lái)說(shuō)，AI監(jiān)測(cè)暴力的出現(xiàn)，為安防與刑偵領(lǐng)域提供了一個(gè)便捷之道。但是，作為極為敏感的領(lǐng)域，精確性的問(wèn)題依然是不可忽視的。畢竟，冤枉一個(gè)好人永遠(yuǎn)都不是一件好事。

智能相對(duì)論（微信id:aixdlun）：深挖人工智能這口井，評(píng)出咸淡，講出黑白，道出深淺。重點(diǎn)關(guān)注領(lǐng)域：AI+醫(yī)療、機(jī)器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開(kāi)發(fā)者以及背后的芯片、算法、人機(jī)交互等。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。