深度偽造危害加劇 技術(shù)檢測為防范治理基礎(chǔ)

作為引領(lǐng)第四次科技革命的戰(zhàn)略性技術(shù)，人工智能給社會(huì)建設(shè)和經(jīng)濟(jì)發(fā)展帶來了重大而深遠(yuǎn)的影響。但作為前沿創(chuàng)新技術(shù)，數(shù)據(jù)隱私、技術(shù)濫用等伴生安全問題也正給社會(huì)公共治理帶來嚴(yán)峻挑戰(zhàn)，其中圍繞“深度偽造”的倫理和法律爭議一直是公眾高度關(guān)注的熱點(diǎn)話題。

“深度偽造”是指利用深度學(xué)習(xí)算法實(shí)現(xiàn)音頻和視頻的模擬和偽造，包括語音模擬、換臉、表情操縱等。2019年國內(nèi)紅極一時(shí)的換臉軟件“ZAO”就是公眾最為熟知的應(yīng)用，用戶只需上傳一張照片，就能秒變“戲精”，甚至還能與偶像同臺(tái)飆戲，效果極其逼真。不久前，短視頻領(lǐng)域出現(xiàn)的“螞蟻呀嘿”熱潮，其基礎(chǔ)也是深度偽造技術(shù)。

憑借極強(qiáng)的娛樂性與傳播性，“深度偽造”技術(shù)一路走紅。但同時(shí)，其“低門檻、高效率、高質(zhì)量”的特性，使其被大規(guī)模濫用于偽造身份、混淆視聽，以實(shí)現(xiàn)網(wǎng)絡(luò)欺詐、虛假宣傳與操縱輿論等目的。

針對這一威脅與挑戰(zhàn)，7月9日，北京瑞萊智慧科技有限公司首席執(zhí)行官田天在上海世界人工智能大會(huì)演講時(shí)明確指出，人工智能產(chǎn)業(yè)正進(jìn)入高質(zhì)量發(fā)展階段，以深度偽造為代表各類安全問題層出不窮，亟待解決。這次大會(huì)期間，瑞萊智慧也發(fā)布了基于第三代人工智能的DeepReal深度偽造內(nèi)容檢測平臺(tái)，具備工業(yè)級(jí)檢測性能，能夠快速、精準(zhǔn)地對多種格式與質(zhì)量的圖像進(jìn)行真?zhèn)舞b別，為遏制和防范深度偽造技術(shù)的大規(guī)模濫用提供有效技術(shù)支撐。

一、低門檻高效率放大了潛在威脅

與傳統(tǒng)圖像視頻處理技術(shù)相比，深度偽造技術(shù)具有“門檻低、效率高、質(zhì)量好”的特點(diǎn)，所以它也被探索用于影視、醫(yī)療、虛擬現(xiàn)實(shí)等商業(yè)，比如在影視后期制作中，表情操縱、全臉替換等深度合成技術(shù)可以被用于影視劇本地化嘴型修改、虛擬IP打造等場景中。

然而，與正面效應(yīng)相比，這些特性也同步放大了潛在威脅和安全隱患。

當(dāng)前，深度偽造的技術(shù)門檻正大幅降低，網(wǎng)絡(luò)上充斥著大量偽造教程和開源可用的計(jì)算機(jī)程序，即便是不具備專業(yè)算法能力的普通用戶，也可以在很短時(shí)間內(nèi)輕松上手。尤其依托深度學(xué)習(xí)算法特性，在海量圖像和視頻數(shù)據(jù)的驅(qū)動(dòng)下，深度合成技術(shù)不斷演進(jìn)迭代，仿真精度不斷得到提升。所以，制作一段高逼真度的虛假音視頻成本極低，卻可以借助社交媒體等平臺(tái)短時(shí)間風(fēng)靡互聯(lián)網(wǎng)。對于這樣一種技術(shù)，如果不進(jìn)行規(guī)制，無疑將產(chǎn)生可怕的后果。

二、危害社會(huì)利益乃至國家安全

深度偽造技術(shù)的大規(guī)模濫用正侵害到社會(huì)公眾的合法權(quán)益。比如深度偽造技術(shù)最常見的非法運(yùn)用方式，將一些知名歌星、影星等公眾人物的臉“移花接木”到色情明星身上，偽造色情片非法牟利，或者是偽造惡搞視頻，這對個(gè)人名譽(yù)權(quán)與肖像權(quán)構(gòu)成嚴(yán)重侵害。

其次是公眾財(cái)產(chǎn)安全，不法分子可以利用漏洞劫持手機(jī)識(shí)別攝像頭，利用照片活化、表情操縱等深度偽造技術(shù)冒充機(jī)主，進(jìn)而對機(jī)主的微信好友實(shí)行轉(zhuǎn)賬詐騙。同樣的，電信詐騙中也有類似利用“語音偽造”技術(shù)的案例。

不僅如此，深度偽造還將會(huì)對社會(huì)安全和國家安全造成威脅。例如，借助互聯(lián)網(wǎng)平臺(tái)捏造虛假新聞、炮制政治謠言，深度偽造技術(shù)大大增加了網(wǎng)絡(luò)內(nèi)容監(jiān)管的復(fù)雜性，也帶來了社會(huì)信任危機(jī)與網(wǎng)絡(luò)政治安全風(fēng)險(xiǎn)。在病毒式傳播的深度偽造視背后，可能蘊(yùn)藏著操縱社會(huì)輿論、激化社會(huì)矛盾與擾亂正常社會(huì)經(jīng)濟(jì)秩序等系統(tǒng)性的危害。

“比如公安機(jī)關(guān)、司法機(jī)關(guān)的圖像鑒別工作，深度偽造技術(shù)的出現(xiàn)將導(dǎo)致舉證工作存在風(fēng)險(xiǎn)。”田天補(bǔ)充道，“深度偽造技術(shù)也可能成為國家之間發(fā)起虛假信息戰(zhàn)爭的最新武器，抹黑政治人物、偽造政治制度和破壞國家間關(guān)系，甚至在未來軍事戰(zhàn)場上損毀特定軍事或情報(bào)行動(dòng)。在這種背景下，國內(nèi)外政府高度重視，都出臺(tái)了相關(guān)的監(jiān)管制度。”

三、國內(nèi)外政府相繼出臺(tái)監(jiān)管政策

為防范深度偽造技術(shù)所造成的危害，全球各國政府積極推進(jìn)立法管制。比如美國的《2019年深度偽造報(bào)告法案》，歐盟的《通用數(shù)據(jù)保護(hù)條例》、《反虛假信息行為準(zhǔn)則》和德國出臺(tái)的《社交媒體管理法》等都對相關(guān)的內(nèi)容進(jìn)行了規(guī)制。

我國也針對深度偽造的問題出臺(tái)了相關(guān)監(jiān)管辦法。2019年11月，網(wǎng)信辦發(fā)布《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，指出自2020年1月1日起，AI造假視頻不得隨意發(fā)布。其中相關(guān)規(guī)定主要有四條:“按照國家有關(guān)規(guī)定開展安全評估”、“以顯著方式予以標(biāo)識(shí)”非真實(shí)音頻信息、不得利用AI造假技術(shù)發(fā)布虛假新聞、部署AI偽造音視頻鑒別技術(shù)和健全辟謠機(jī)制等。

2020年5月，《中華人民共和國民法典》通過，其中人格權(quán)編明確界定“禁止利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)和聲音”，這一系列的政策措施為深度偽造技術(shù)劃定了應(yīng)用邊界。

值得注意的是，2021年3月，針對部分語音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用未履行安全評估程序，國家網(wǎng)信辦、公安部指導(dǎo)各地網(wǎng)信部門、公安機(jī)關(guān)依法約談了11家企業(yè)，督促其認(rèn)真開展安全評估，完善風(fēng)險(xiǎn)防控機(jī)制和措施。不同于以往的事后監(jiān)管，此次安全評估工作和約談給有關(guān)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用提前劃“紅線”，“事前規(guī)制”有利于企業(yè)及時(shí)發(fā)現(xiàn)安全隱患，整改安全問題。

四、AI存在天然的“局限性”

關(guān)于人工智能安全性的擔(dān)憂，一方面需要依靠法律法規(guī)和政府監(jiān)管來約束，另一方面，需要從源頭加強(qiáng)安全評估，提升鑒別技術(shù)等能力，借助技術(shù)手段提前布局。

田天表示，以深度偽造為代表的安全問題，正是目前人工智能產(chǎn)業(yè)當(dāng)前所面臨的瓶頸。人工智能產(chǎn)業(yè)正經(jīng)歷從高速增長向高質(zhì)量發(fā)展的轉(zhuǎn)變，一方面產(chǎn)業(yè)期待進(jìn)一步提升，金融、醫(yī)療等更復(fù)雜的高價(jià)值場景的應(yīng)用需求不斷增加，智能化場景從單一感知向多元認(rèn)知發(fā)展；另一方面，各種安全問題的爆發(fā)，要求在追求性能效率的同時(shí)關(guān)注安全性的提升與保障。

針對于此，中科院院士、清華大學(xué)人工智能研究院院長、北京瑞萊智慧科技有限公司首席科學(xué)家張鈸教授提出了“第三代人工智能”的概念，也就是安全、可靠、可信的人工智能。安全性將成為下一階段人工智能發(fā)展必須的基礎(chǔ)。

瑞萊智慧在此次大會(huì)上發(fā)布的DeepReal深度偽造內(nèi)容檢測平臺(tái)，就是基于第三代人工智能所研發(fā)的能夠高效、快速鑒別深度偽造內(nèi)容的平臺(tái)，將成為遏制深度偽造作惡的重要手段。

五、技術(shù)防范是深偽治理的基礎(chǔ)

北京瑞萊智慧科技有限公司副總裁唐家渝認(rèn)為，深度偽造技術(shù)持續(xù)進(jìn)化，網(wǎng)絡(luò)數(shù)字內(nèi)容多變、隱匿性強(qiáng)，監(jiān)管難度大，因此開展主動(dòng)技術(shù)防范與檢測工作是必要的。

但他也表示，深度偽造技術(shù)檢測工作當(dāng)前面臨兩大難點(diǎn)，一是肉眼難以辨別，傳統(tǒng)人工內(nèi)容審核團(tuán)隊(duì)無法應(yīng)對，二是深度偽造檢測面臨“強(qiáng)對抗性”，新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境復(fù)雜、算法模型存在結(jié)構(gòu)性缺陷等。因此他建議，首先監(jiān)管部門需要設(shè)立專業(yè)技術(shù)檢測團(tuán)隊(duì)，其次檢測工作需遵守動(dòng)態(tài)平衡機(jī)制，技術(shù)能力需不斷升級(jí)迭代。

瑞萊智慧RealAI基于第三代AI技術(shù)研發(fā)的DeepReal深度偽造內(nèi)容檢測平臺(tái)，具備工業(yè)級(jí)檢測性能，能夠快速、精準(zhǔn)地對多種格式與質(zhì)量的圖像進(jìn)行真?zhèn)舞b別，實(shí)現(xiàn)輸出判斷結(jié)果、生成檢測圖像、提供檢測報(bào)告等功能，具有響應(yīng)快速、準(zhǔn)確率高、算力節(jié)約等特點(diǎn)。

據(jù)唐家渝透露，在結(jié)果準(zhǔn)確度方面，DeepReal在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中，已達(dá)到99%以上的準(zhǔn)確率。而在實(shí)際應(yīng)用中，DeepReal的檢測準(zhǔn)確率也已達(dá)到業(yè)界頂尖水平，遠(yuǎn)超F(xiàn)acebook此前舉辦的Deepfake檢測挑戰(zhàn)賽所公布的最好成績。在檢測速度方面，DeepReal可實(shí)現(xiàn)每幀畫面的檢測時(shí)間僅用時(shí)30毫秒。

此前，瑞萊智慧RealAI團(tuán)隊(duì)在國際安全極客大賽 GeekPwn 2020 首屆 CAAD 虛假人臉 AI 識(shí)別大賽上，以絕對比分優(yōu)勢奪得冠軍；在網(wǎng)信辦與公安部共同指導(dǎo)的第二屆“中國人工智能·多媒體信息識(shí)別技術(shù)大賽”中，斬獲“創(chuàng)新之星”獎(jiǎng)以及深偽檢測競賽A類獎(jiǎng)。此外，DeepReal在深偽相關(guān)領(lǐng)域也已發(fā)表頂級(jí)會(huì)議和期刊論文十余篇。

針對深度偽造技術(shù)的防范，瑞萊智慧RealAI還在持續(xù)發(fā)力，并且與工信部、公安部、國家互聯(lián)網(wǎng)應(yīng)急中心、工信安全中心、中國信通院、公安三所等多家機(jī)構(gòu)展開了深入的項(xiàng)目合作。瑞萊智慧RealAI還與國家工信安全中心聯(lián)合制定了我國人臉模型算法自身安全相關(guān)的第一個(gè)標(biāo)準(zhǔn)《信息安全技術(shù)人臉比對模型安全技術(shù)規(guī)范 》，作為第二編寫單位與信通院在工信部網(wǎng)安局指導(dǎo)下聯(lián)合編制了《人工智能安全框架（2020年）》藍(lán)皮書。

唐家渝表示，開展主動(dòng)技術(shù)防范與檢測評估工作是防范深度偽造技術(shù)作惡的必由之路。未來，DeepReal檢測平臺(tái)將在網(wǎng)絡(luò)虛假內(nèi)容甄別、人臉資料審核以及影像物證真實(shí)性檢驗(yàn)等實(shí)際應(yīng)用場景中發(fā)揮強(qiáng)大作用，瑞萊智慧RealAI也將持續(xù)迭代技術(shù)、打磨產(chǎn)品，和相關(guān)單位一起，全力以赴，確保在這場深度偽造的“攻防戰(zhàn)”中保持始終立于不敗之地。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。