一秒識(shí)破“AI換臉術(shù)”，RealAI煉就“火眼金睛”

常言道，眼見為實(shí)。然而，隨著人工智能的迅猛發(fā)展，一些使用Deepfake深度偽造技術(shù)制作的換臉視頻也在網(wǎng)絡(luò)上屢見不鮮。這項(xiàng)技術(shù)甚至被別有用心的人利用，成為詐騙、誣陷等罪惡勾當(dāng)?shù)墓ぞ撸o社會(huì)和個(gè)人帶來嚴(yán)重威脅。

魔高一尺，如何破解？

在2021WAIC世界人工智能大會(huì)上，依托清華大學(xué)人工智能研究院成立的產(chǎn)業(yè)化公司——北京瑞萊智慧科技有限公司（RealAI），發(fā)布了一款能夠一秒識(shí)別真?zhèn)蔚蔫b別神器——DeepReal深度偽造內(nèi)容檢測平臺(tái)，讓“假臉”無處遁形。

一、律之以法

幾十萬年以來，人臉都是識(shí)別人類身份信息最為顯著的特征。然而，隨時(shí)AI技術(shù)的飛速發(fā)展，這一切正在被深度偽造技術(shù)所瓦解。

近幾年來，非法利用AI技術(shù)偽造他人肖像吸引流量牟利，甚至從事侮辱、誹謗、網(wǎng)絡(luò)詐騙、色情宣傳等違法犯罪活動(dòng)的案例已屢見不鮮。據(jù)一家國外機(jī)構(gòu)監(jiān)測到的結(jié)果顯示：自2019年以來，深度偽造視頻的數(shù)量呈指數(shù)級(jí)增長。

深度偽造技術(shù)給國家、社會(huì)和個(gè)人帶來的風(fēng)險(xiǎn)，引起了世界各國的高度重視，我國也重拳出擊。2020年5月28日，十三屆全國人大三次會(huì)議表決通過了《中華人民共和國民法典》，其中第1,019條規(guī)定“任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開肖像權(quán)人的肖像，但是法律另有規(guī)定的除外”，總體要求了禁止利用信息技術(shù)手段偽造的方式侵犯他人的肖像權(quán)和聲音。

在法律層面，AI作惡要有“緊箍咒”來約束；在技術(shù)層面，“魔高一尺”還要有“道高一丈”來抗衡。

二、束之有“術(shù)”

“深度偽造技術(shù)正在不斷演進(jìn)迭代，亟需采用主動(dòng)技術(shù)防范及預(yù)警檢測手段。”在2021世界人工智能大會(huì)上，清華大學(xué)人工智能研究院的核心孵化企業(yè)北京瑞萊智慧科技有限公司副總裁唐家渝向記者介紹，該司已研發(fā)出了“AI換臉術(shù)”的克星——一款破解深度偽造內(nèi)容的檢測產(chǎn)品DeepReal深度偽造內(nèi)容檢測平臺(tái)。

“門檻低、影響大、變化快”是深度偽造技術(shù)的顯著特征，且肉眼難以識(shí)別，更無法大量檢測。

針對(duì)如上痛點(diǎn)，RealAI基于第三代人工智能技術(shù)研發(fā)出的DeepReal，能夠通過研究深度偽造內(nèi)容和真實(shí)內(nèi)容的表征差異性辨識(shí)、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問題，快速、精準(zhǔn)地對(duì)多種格式與質(zhì)量的圖像進(jìn)行真?zhèn)舞b別。

圖 ｜ DeepReal檢測結(jié)果展示：紅色框代表判斷為虛假人臉，綠色框代表判斷為真實(shí)人臉

三、檢測性能工業(yè)級(jí)

檢測準(zhǔn)確率無疑是衡量該平臺(tái)價(jià)值最為重要的指標(biāo)。

據(jù)唐家渝介紹，檢測效果主要受到兩個(gè)因素的影響：數(shù)據(jù)集多元化程度和算法可靠程度。DeepReal深度偽造檢測平臺(tái)算法基于大數(shù)據(jù)量進(jìn)行訓(xùn)練和測試，截至目前，數(shù)據(jù)量已達(dá)到千萬級(jí)，數(shù)據(jù)集已覆蓋三大類，包括：學(xué)術(shù)深偽數(shù)據(jù)集、網(wǎng)絡(luò)深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集。同時(shí)，通過結(jié)合貝葉斯學(xué)習(xí)框架和深度神經(jīng)網(wǎng)絡(luò)，來估計(jì)模型在預(yù)測新樣本時(shí)的不確定性。以上，有效保障了DeepReal深偽檢測算法的泛化能力。

在測試結(jié)果方面，DeepReal在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中，已達(dá)到99%以上的準(zhǔn)確率。而在實(shí)際應(yīng)用中，DeepReal的檢測準(zhǔn)確率也已達(dá)到業(yè)界頂尖水平，遠(yuǎn)超 Facebook此前舉辦的Deepfake檢測挑戰(zhàn)賽所公布的最好成績。

此前，RealAI團(tuán)隊(duì)在國際安全極客大賽 GeekPwn 2020 首屆 CAAD 虛假人臉 AI 識(shí)別大賽上，以絕對(duì)比分優(yōu)勢(shì)奪得冠軍；在網(wǎng)信辦與公安部共同指導(dǎo)的第二屆“中國人工智能·多媒體信息識(shí)別技術(shù)大賽”中，斬獲“創(chuàng)新之星”獎(jiǎng)以及深偽檢測競賽A類獎(jiǎng)。此外，DeepReal在深偽相關(guān)領(lǐng)域也已發(fā)表頂級(jí)會(huì)議和期刊論文十余篇。

天下武功，唯快不破。超高的準(zhǔn)確度，還需要速度來支撐。

DeepReal深度偽造內(nèi)容檢測平臺(tái)，可實(shí)現(xiàn)每幀畫面的檢測時(shí)間僅用時(shí)30毫秒。同時(shí)，還支持橫向拓展與集群部署。檢測完畢，平臺(tái)還支持生成檢測報(bào)告。

圖 ｜ DeepReal深度偽造內(nèi)容檢測平臺(tái)檢測報(bào)告示意圖

四、AI界的安全之盾

深度偽造技術(shù)的濫用，給個(gè)人生活、國家安全和社會(huì)穩(wěn)定帶來諸多問題和挑戰(zhàn)，而且隨著仿真精度的提升，這種問題有愈演愈烈的趨勢(shì)。

自成立以來，RealAI就致力于提供安全可控的第三代人工智能技術(shù)，從根本上增強(qiáng)人工智能的安全性、可靠性及可信性。據(jù)唐家渝透露，針對(duì)深度偽造技術(shù)的防范，RealAI目前已與工信部、公安部、國家互聯(lián)網(wǎng)應(yīng)急中心、工信安全中心、中國信通院、公安三所等多家機(jī)構(gòu)展開深入的項(xiàng)目合作。

一流企業(yè)做標(biāo)準(zhǔn)。此前，RealAI與國家工信安全中心聯(lián)合制定了我國人臉模型算法自身安全相關(guān)的第一個(gè)標(biāo)準(zhǔn)《信息安全技術(shù)人臉比對(duì)模型安全技術(shù)規(guī)范 》，作為第二編寫單位與信通院在工信部網(wǎng)安局指導(dǎo)下聯(lián)合編制了《人工智能安全框架（2020年）》藍(lán)皮書。此外，RealAI目前也參與包括機(jī)器學(xué)習(xí)算法安全相關(guān)的國家標(biāo)準(zhǔn)，以及人工智能合成音視頻、人工智能生物特征識(shí)別相關(guān)的行業(yè)標(biāo)準(zhǔn)等多項(xiàng)標(biāo)準(zhǔn)的制定工作中。

唐家渝表示，未來這款產(chǎn)品將在網(wǎng)絡(luò)虛假內(nèi)容甄別、人臉資料審核以及影像物證真實(shí)性檢驗(yàn)等實(shí)際應(yīng)用場景中發(fā)揮強(qiáng)大作用，RealAI也將持續(xù)迭代技術(shù)、打磨產(chǎn)品，和相關(guān)單位一起，全力以赴，確保在這場深度偽造的“攻防戰(zhàn)”中保持始終立于不敗之地。

補(bǔ)充資料：

關(guān)于瑞萊智慧RealAI

北京瑞萊智慧科技有限公司（簡稱“RealAI”）是依托清華大學(xué)人工智能研究院設(shè)立的人工智能企業(yè)，致力于提供安全可控的第三代人工智能技術(shù)，加速安全、可靠、可信的產(chǎn)業(yè)智能化升級(jí)。

公司由清華大學(xué)人工智能研究院院長張鈸院士、清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍教授共同擔(dān)任首席科學(xué)家。團(tuán)隊(duì)堅(jiān)持底層創(chuàng)新，敢為人先，基于第三代人工智能技術(shù)，從根本上增強(qiáng)人工智能的安全性、可靠性、及可信性。基于自主可控底層框架，提供一系列AI基礎(chǔ)設(shè)施平臺(tái)，為高價(jià)值場景智能化升級(jí)提供可靠的一站式基礎(chǔ)保障。

RealAI致力于建設(shè)安全可控人工智能應(yīng)用生態(tài)，推動(dòng)人工智能落地全新的關(guān)鍵應(yīng)用場景。目前RealAI已經(jīng)落地于金融、能源、制造、互聯(lián)網(wǎng)等領(lǐng)域，提供金融智慧風(fēng)控、智慧理財(cái)、工業(yè)設(shè)備預(yù)測性維護(hù)、人臉識(shí)別系統(tǒng)安全檢測與增強(qiáng)等產(chǎn)品和解決方案。

關(guān)于深度偽造

“深度偽造”，也被譯作“深度造假”，譯自英語中新出現(xiàn)的一個(gè)組合詞Deepfake，是計(jì)算機(jī)的“深度學(xué)習(xí)”（Deeplearning）和“偽造”（fake）的組合，出現(xiàn)于人工智能和機(jī)器學(xué)習(xí)技術(shù)時(shí)代。它被稱作一種合成媒體（synthetic media），是通過自動(dòng)化的手段、特別是使用人工智能的算法技術(shù)，進(jìn)行智能生產(chǎn)，操縱、修改數(shù)據(jù)，最終實(shí)現(xiàn)媒體傳播行為的一種結(jié)果。

通俗理解，“深度偽造”指的是把圖片和聲音輸入機(jī)器學(xué)習(xí)的算法，從而可以輕易地進(jìn)行“面部操作”（face manipulation）——把一個(gè)人的臉部輪廓和表情放置在其他任何一個(gè)人的臉上，同時(shí)利用對(duì)聲音的逼真處理，制造出實(shí)為合成卻看似極真的視頻——用以躲避識(shí)別、混淆視聽、娛樂用戶，以及實(shí)現(xiàn)其他虛假宣傳的目的。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。