警惕!AI換臉換聲 10分鐘騙走430萬

5月23日消息,和你視頻聊天借錢的,可能不是真的親戚朋友,而是用朋友“臉”的騙子。

近日,平安包頭官方微信號公布一項新型詐騙案件:

5月8日,包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進行電信詐騙的案件,警銀聯(lián)動成功緊急止付涉嫌電信詐騙資金330多萬元。

4月20日11時40分左右,福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他,兩人經(jīng)過短暫聊天后,好友告訴郭先生,自己的朋友在外地投標,需要430萬元保證金,且需要公對公賬戶過賬,所以想要借用郭先生公司的賬戶走一下賬。好友向郭先生要了銀行卡號,聲稱已經(jīng)把錢打到郭先生的賬戶上,還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生?;谝曨l聊天信任的前提下,郭先生沒有核實錢是否到賬,于11時49分先后分兩筆把430萬元給對方打了過去。錢款轉(zhuǎn)賬后,郭先生給好友微信發(fā)了一條消息,稱事情已經(jīng)辦妥。但讓他沒想到的是,好友回過來的消息竟然是一個問號。

郭先生撥打好友電話,對方說沒有這回事,他這才意識到竟然遇上了“高端”騙局,對方通過智能AI換臉技術(shù),佯裝成好友對他實施了詐騙。

“從頭到尾都沒有和我提借錢的事情,就說會先把錢給我打過來,再讓我給他朋友賬戶轉(zhuǎn)過去,而且當(dāng)時是給我打了視頻的,我在視頻中也確認了面孔和聲音,所以才放松了戒備”,郭先生說。

4月20日12時21分,包頭市電信網(wǎng)絡(luò)犯罪偵查局接到福建省福州市公安局刑偵支隊的外協(xié)請求,稱福建省一知名民營企業(yè)負責(zé)人被騙走430萬元,而涉案的銀行卡為包頭市蒙商銀行對公賬戶,希望包頭警方能夠幫忙進行緊急止付。

包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局立即啟動“包頭市警銀聯(lián)動綠色查詢機制”,當(dāng)班民警以最快速度完成核查、報審程序,第一時間將涉案卡的信息通報至蒙商銀行相關(guān)部門。在銀行的全力協(xié)助下,僅用時10分鐘,就將該詐騙賬戶內(nèi)的336.84萬元被騙資金成功攔截。同時,向福州市公安局警方提供了剩余款項93.16萬元資金流出信息,為深入突破該案剩余資金查找提供了突破方向。目前,福建警方與包頭警方對此資金正在全力追繳當(dāng)中。

*警方提示*:針對花樣翻新的智能AI詐騙,公眾要提高防范意識,不輕易提供人臉、指紋等個人生物信息給他人,不過度公開或分享動圖、視頻等;網(wǎng)絡(luò)轉(zhuǎn)賬前要通過電話等多種溝通渠道核驗對方身份,一旦發(fā)現(xiàn)風(fēng)險,及時報警求助。如果有人自稱“熟人”、“領(lǐng)導(dǎo)”通過社交軟件、短信以各種理由誘導(dǎo)你匯款,務(wù)必通過電話、見面等途徑核實確認,不要未經(jīng)核實隨意轉(zhuǎn)賬匯款,不要輕易透露自己的身份證、銀行卡、驗證碼等信息。

事實上AI換臉換聲技術(shù)早已不是“新聞”,隨著AI技術(shù)的快速迭代進化,“換臉換聲”的精準、仿真程度越來越高,甚至足以以假亂真!此前,就有用戶采用AI繪畫工具Midjourney繪制的“中國情侶”圖片在社交媒體上被廣泛轉(zhuǎn)發(fā),其逼真的視覺效果令不少網(wǎng)友感嘆:“已經(jīng)不遜于人類畫師了?!?/p>

國內(nèi)安全廠商發(fā)出提醒,當(dāng)前已經(jīng)出現(xiàn)攻擊者利用AI大模型快速構(gòu)建攻擊工具。在發(fā)展人工智能的同時,打好安全基礎(chǔ)尤其重要。

4月11日,國家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法(征求意見稿)》(下稱《辦法》),并向社會公開征求意見。其中,在與技術(shù)濫用問題相關(guān)的虛假信息管理和他人權(quán)益問題上,《辦法》規(guī)定“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準確,采取措施防止生成虛假信息。尊重他人合法利益,防止傷害他人身心健康,損害肖像權(quán)、名譽權(quán)和個人隱私,侵犯知識產(chǎn)權(quán)。禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密?!?/p>

極客網(wǎng)企業(yè)會員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

2023-05-23
警惕!AI換臉換聲 10分鐘騙走430萬
5月23日消息,和你視頻聊天借錢的,可能不是真的親戚朋友,而是用朋友“臉”的騙子。

長按掃碼 閱讀全文