AI的張良計(jì)與過(guò)墻梯：3·15智能騷擾電話下的冰山脈絡(luò)

原標(biāo)題：AI的張良計(jì)與過(guò)墻梯：3·15智能騷擾電話下的冰山脈絡(luò)

在今年的3·15上，果不其然AI被點(diǎn)名了。拋去屬于“質(zhì)量問(wèn)題”的虛假智能產(chǎn)品以外，更引人關(guān)注還要數(shù)“智能騷擾電話”。相關(guān)報(bào)道提到，一些所謂的“大數(shù)據(jù)企業(yè)”通過(guò)WiFi探針識(shí)別到連接無(wú)限網(wǎng)絡(luò)的手機(jī)。然后，在用戶(hù)完全不知情的情況下獲取用戶(hù)的私人MAC信息，再將MAC轉(zhuǎn)換為手機(jī)號(hào)碼，與大數(shù)據(jù)相互“匹配”，再利用仿真人的AI機(jī)器人進(jìn)行外呼。

這其中，AI參與的環(huán)節(jié)其實(shí)只有最后的外呼一步。其原理和智能語(yǔ)音客服沒(méi)有差別，都是通過(guò)語(yǔ)音生成技術(shù)替代人力，實(shí)現(xiàn)廣泛的高效騷擾。

被曝光后，很多人開(kāi)始討論起AI的倫理問(wèn)題、AI的負(fù)面效應(yīng)等等。

可我們只想說(shuō)一句：這才哪兒到哪兒??！

AI技術(shù)有幾個(gè)顯著的特點(diǎn)，比如足以替代人類(lèi)的超高識(shí)別效率，又比如對(duì)于圖像、聲音強(qiáng)大的模仿能力和生成能力，加上日益提升的理解能力。這一切足以讓AI成為“天生的騙子”，這一次3·15所揭露出的，僅僅是冰山一角而已。

砍平門(mén)檻：AI如何讓我們的世界門(mén)戶(hù)大開(kāi)？

今天，我們就可以從AI的幾項(xiàng)能力上來(lái)看看，那些已經(jīng)出現(xiàn)在我們身邊，已經(jīng)即將到來(lái)的AI行騙方式。

首先是高效的識(shí)別能力。

利用機(jī)器識(shí)別出一段語(yǔ)音、一張圖片或是一張面孔，本來(lái)與行騙一事關(guān)聯(lián)不大。但這種能力破解的是一種以效率增加行騙作惡成本的保護(hù)機(jī)制。

就拿發(fā)騷擾郵件、騷擾短信這件事來(lái)說(shuō)，當(dāng)同一個(gè)IP的行為太過(guò)頻繁時(shí)，驗(yàn)證碼機(jī)制的加入可以拖緩發(fā)送效率，讓行騙者無(wú)法使用腳本進(jìn)行自動(dòng)發(fā)送。

而AI圖像識(shí)別的出現(xiàn)，就徹底破壞了這一機(jī)制。在2017年曝光過(guò)的“1·03”網(wǎng)絡(luò)“黑產(chǎn)”系列專(zhuān)案中，黑客就是用AI的圖像識(shí)別能力識(shí)別圖片驗(yàn)證碼，識(shí)別正確率高達(dá)95%以上。在此平臺(tái)被打掉的前3個(gè)月，已經(jīng)提供驗(yàn)證碼識(shí)別服務(wù)259億次。

如此一來(lái)，行騙成本和難易程度都被大大降低，為后續(xù)的行為創(chuàng)造了極大的空間。

信任崩塌：當(dāng)AI可以制造幻覺(jué)

在踩進(jìn)門(mén)檻之后，AI的學(xué)習(xí)能力便成為了最大的威脅。當(dāng)眼見(jiàn)不能為實(shí)，耳聽(tīng)也可能為虛時(shí)，我們?cè)灸軌驊?yīng)用上的驗(yàn)證方法便會(huì)立即失效。

這其中有最臭名昭著的AI換臉：去年曾經(jīng)有開(kāi)發(fā)者在社區(qū)中分享自己利用深度神經(jīng)網(wǎng)絡(luò)將影片中女主角臉部替換的過(guò)程，只需要在視頻網(wǎng)站上找到替換對(duì)象各個(gè)角度的照片和視頻，進(jìn)行數(shù)據(jù)標(biāo)注，再利用TensorFlow上模型對(duì)原視頻女主的表情、口型進(jìn)行學(xué)習(xí)，就可以在數(shù)據(jù)庫(kù)中找到對(duì)應(yīng)的圖像和視頻進(jìn)行替換。

前幾天驚艷四座的“楊冪換臉朱茵版黃蓉”，也應(yīng)用的是類(lèi)似的技術(shù)。這便意味著，也許很快在我們接到視頻電話時(shí)，連對(duì)方熟悉的相貌都不能相信。

也許大家會(huì)覺(jué)得，雖然AI能夠攻破內(nèi)容，但視頻、電話等等整個(gè)溝通過(guò)程還是相對(duì)安全的?？蓪?shí)際上，通過(guò)對(duì)語(yǔ)音的模仿在微信上進(jìn)行詐騙的事件已經(jīng)開(kāi)始發(fā)生在我們身邊。

去年的燕趙都市報(bào)曾經(jīng)報(bào)道過(guò)一樁案件，一位女士在微信上接到父親的微信消息，稱(chēng)需要借款，該女士要求父親發(fā)送語(yǔ)音驗(yàn)證，結(jié)果自己聽(tīng)到的卻是犯罪分子通過(guò)語(yǔ)音生成技術(shù)模仿的聲音。

而且語(yǔ)音模仿的門(mén)檻要比圖像模仿的門(mén)檻低很多，就拿科大訊飛曾在2018年展示過(guò)的聲紋技術(shù)識(shí)別來(lái)說(shuō)，只需要一分鐘的語(yǔ)料，就能夠惟妙惟肖的模仿出對(duì)方的聲音。

超能力之外：AI行騙的三個(gè)恐怖趨勢(shì)

AI在行騙這件事上，擁有的不僅僅是識(shí)別、模仿、生成這些能力天賦。更多的是簇生了很多令人膽寒的趨勢(shì)。

趨勢(shì)一：AI技術(shù)的易得性

上訴所提到的人臉替換、聲音模仿甚至圖像驗(yàn)證碼識(shí)別，因?yàn)檫@些技術(shù)本身是中立并且相對(duì)基礎(chǔ)的，所以獲取這些技術(shù)的途徑很多。很多技術(shù)代碼甚至被公開(kāi)在開(kāi)發(fā)者社區(qū)中，或者在開(kāi)發(fā)平臺(tái)上就能找到免費(fèi)API接口。

這便意味著，行騙者的技術(shù)升級(jí)將越來(lái)越容易、成本越來(lái)越低。

趨勢(shì)二：自我保護(hù)的困難性

以往面對(duì)很多詐騙方法時(shí)，我們是可以進(jìn)行自我保護(hù)的，例如不亂連接公用WiFi，或是在丟棄快遞包裹時(shí)涂黑自己的電話地址。但AI技術(shù)的一個(gè)特性就是，我們?cè)诨ヂ?lián)網(wǎng)上隨便遺留點(diǎn)什么，都能被犯罪分子利用。幾句音頻可能會(huì)讓AI合成自己的聲音去向親友借錢(qián)，幾張照片和視頻可能會(huì)被人臉替換到其他視頻上進(jìn)行勒索，甚至就連聊天記錄和朋友圈都可能成為AI的訓(xùn)練數(shù)據(jù)，用來(lái)模仿我們的說(shuō)話語(yǔ)氣。

防無(wú)可防，是AI行騙最令人無(wú)奈的一點(diǎn)。

趨勢(shì)三：AI效率的無(wú)限可能

但更令人擔(dān)心的，應(yīng)該還是AI的超高效率。在過(guò)去犯罪分子之間似乎還存有一定的“封閉性”，各自掌握的犯罪方法只在內(nèi)部小范圍傳播，也意味著受害者的范圍是有限的。但AI的高效特性，意味著騙術(shù)的受害范圍將不再受行騙者自身人力所限。

就拿上文提到的圖像識(shí)別破解驗(yàn)證碼來(lái)說(shuō)，幾百億次的驗(yàn)證碼破解，幾乎可以突破行業(yè)記錄。也同樣是這一組織，利用智能對(duì)話功能模擬了無(wú)數(shù)女性，通過(guò)聊天來(lái)誘導(dǎo)異性為自己發(fā)送紅包來(lái)獲利。這種過(guò)去可能要一個(gè)人負(fù)責(zé)十個(gè)微信號(hào)的騙術(shù)，如今在效率上可以實(shí)現(xiàn)N次方。

我們可以想象，在今天在某一領(lǐng)域出現(xiàn)了什么漏洞，AI騙術(shù)很可能快速鉆空子，造成極大范圍的損失。

AI的張良計(jì)與過(guò)墻梯

不過(guò)在詐騙這件事上，永遠(yuǎn)都是你有你的張良計(jì)，我有我的過(guò)墻梯。AI技術(shù)除了在被動(dòng)的被行騙者利用以外，更多的時(shí)候是在主動(dòng)行動(dòng)，改變現(xiàn)狀。

例如AI可以利用無(wú)監(jiān)督學(xué)習(xí)能力，無(wú)需數(shù)據(jù)標(biāo)注就可以進(jìn)行工作，恰好可以應(yīng)對(duì)行騙者不斷改頭換面逃避識(shí)別的心態(tài)，在海量數(shù)據(jù)中迅速挖掘，將IP地址、賬戶(hù)行為模式等等數(shù)據(jù)維度進(jìn)行關(guān)聯(lián)，識(shí)別出可疑行為。騰訊就曾經(jīng)利用類(lèi)似的方式，建立了用來(lái)尋找并精準(zhǔn)定位偽基站的“麒麟”系統(tǒng)。

而AI對(duì)于數(shù)據(jù)的廣泛應(yīng)用，不僅僅可以用來(lái)挖掘普通人的蛛絲馬跡，也可以通過(guò)對(duì)公開(kāi)數(shù)據(jù)進(jìn)行挖掘并建立管理，來(lái)保護(hù)大眾遠(yuǎn)離詐騙。英特爾就曾經(jīng)推出過(guò)反商業(yè)欺詐平臺(tái)Saffron，通過(guò)對(duì)保險(xiǎn)欺詐者以往與保險(xiǎn)企業(yè)的對(duì)話、文書(shū)數(shù)據(jù)收集起來(lái)進(jìn)行訓(xùn)練，得出可以識(shí)別商業(yè)欺詐謊言的模型，幫助企業(yè)減少被欺詐的幾率。

至于AI對(duì)于聲音和圖像的生成能力，也證明了AI對(duì)于聲音和圖像更強(qiáng)大的識(shí)別能力。例如能在1分鐘內(nèi)模仿他人聲音的科大訊飛，同樣也能聲紋精準(zhǔn)識(shí)破語(yǔ)音模仿騙局。據(jù)稱(chēng)這種技術(shù)已經(jīng)應(yīng)用到電話詐騙案件偵查上，效果顯著。而平安集團(tuán)則發(fā)布過(guò)微表情識(shí)別模型，通過(guò)皺眉、張嘴、挑眉等等表情識(shí)別出54種情緒，來(lái)識(shí)別用戶(hù)在線上申請(qǐng)貸款時(shí)有沒(méi)有撒謊。數(shù)據(jù)顯示，目前在線上貸款業(yè)務(wù)上，微表情欺詐識(shí)別準(zhǔn)確率已經(jīng)達(dá)到了80%。

其實(shí)不論“張良計(jì)”還是“過(guò)墻梯”，都是技術(shù)發(fā)展的正反面?；靵y無(wú)序與穩(wěn)定向好本來(lái)就是一體兩面，正因?yàn)橛兴鶝_撞，才能激發(fā)出更多能量，推動(dòng)技術(shù)不斷向前滾動(dòng)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。