從“N 號房”看Deepfake亂象，如何證明“我”不是我？

科技云報(bào)到原創(chuàng)。

“9張瑪麗蓮夢露的照片里，有2張是AIGC偽造的，你能看出來哪張是假的嗎？”

這是出現(xiàn)在外灘大會AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽的表演賽上激動人心的一刻。9月6日下午，賽事拉開帷幕，生成式AI技術(shù)與Deepfake（深度偽造）檢測技術(shù)在這里正面交鋒，讓現(xiàn)場觀眾直呼過癮。

比賽可以用AI技術(shù)去對抗，但實(shí)際生活中肉眼難辨AI真假，我又要如何去證明‘我’不是我？

就在不久前，Deepfake又以惡性事件造成大面積恐慌出現(xiàn)在公眾視野。連日來，有多位韓國女性在中文社交平臺發(fā)帖求助，稱韓國正再次上演“N號房”事件，包括未成年在內(nèi)的眾多受害女性，都是在毫不知情的情況下照片被盜用，不法分子利用Deepfake技術(shù)換臉至淫穢色情圖像或視頻之中，在韓遭大面積傳播。

Deepfake即利用深度學(xué)習(xí)算法，實(shí)現(xiàn)音視頻內(nèi)容的模擬和偽造，可用于電影制作、視頻編輯、虛擬現(xiàn)實(shí)等領(lǐng)域。韓國N號房事件的同一時(shí)間，馬斯克在社交媒體上被AI換臉致老人大額退休金被騙，引發(fā)廣泛討論。

從制造虛假信息到偽造名人影像，Deepfake再次觸碰道德與法律邊界，AI發(fā)展催生深偽技術(shù)濫用，讓社會深刻意識到對抗Deepfake迫在眉睫。除了手握技術(shù)利器之外，更應(yīng)利用行業(yè)資源與人才優(yōu)勢，共同應(yīng)對，方能事半功倍。

近日，風(fēng)起云涌的黃浦江畔，2024外灘大會如約而至。隨大會一同亮相的，還有一場全球矚目的Deepfake攻防挑戰(zhàn)賽，全世界的“最強(qiáng)大腦”齊聚于此，上演一場對抗深偽技術(shù)的頭腦風(fēng)暴。

值得一提的是，大賽倡導(dǎo)優(yōu)秀參與者開源比賽模型，降低技術(shù)門檻、加強(qiáng)技術(shù)交流，進(jìn)而幫助更多人檢測偽造內(nèi)容，助力AI向善。倡議一經(jīng)發(fā)出，就得到中國科學(xué)院自動化研究所VisionRush隊(duì)伍和澳門大學(xué)JT Group的積極相應(yīng)。截至目前，已有近百名選手及所在隊(duì)伍表示愿意參與代碼接力，希望通過技術(shù)手段，為每一個(gè)可能受到傷害的人提供保護(hù)。

Deepfake技術(shù)猖狂   恐慌情緒仍在蔓延

Deepfake的邪惡之處在于，不僅偷走了臉，更是竊取了人們的身份、名譽(yù)、隱私和尊重...

韓國采用深偽技術(shù)的性犯罪案件數(shù)量每年都在增加，犯罪嫌疑人中包括不少青少年。此次參與N號房事件，在韓軟件Telegram群聊中進(jìn)行傳播的人多達(dá)22萬。韓媒稱，受害者包括大學(xué)生、教師和服役人員。即便如此，韓國警方并未給出很好的解決方案，致恐慌情緒無限蔓延。

不僅是韓國，當(dāng)下放眼全球，各國都時(shí)有發(fā)。就連美國著名歌手泰勒·斯威夫特、企業(yè)家埃隆·馬斯克這樣的名人也難逃被AI戲弄的時(shí)刻。

全球Deepfake攻防挑戰(zhàn)賽后，“VisionRush”決定在網(wǎng)上開源其參賽作品，模型可幫助Deepfake受害者降低技術(shù)使用的門檻，為無數(shù)孤立無援的韓國女性受害者帶去希望，能夠證明“我”不是我。

攻防賽上，針對Deepfake技術(shù)，全球眾多優(yōu)秀的選手展現(xiàn)了高水平的思考以及高技術(shù)的正面較量。大賽分主流的圖片和音視頻賽道，數(shù)據(jù)集含公開及偽造數(shù)據(jù)，偽造圖片有超50種生成方式，音視頻納入超100種組合攻擊方式，訓(xùn)練數(shù)據(jù)總量超百萬。

螞蟻數(shù)科出題團(tuán)隊(duì)ZOLOZ和天璣實(shí)驗(yàn)室考慮多重因素打造高度模擬真實(shí)場景的攻擊環(huán)境，為選手提供極具挑戰(zhàn)的競賽平臺，推動AI向善技術(shù)人才的培養(yǎng)和發(fā)展。

現(xiàn)如今生成式AI爆火，數(shù)據(jù)量龐大，圖片和視頻有時(shí)候真假難辨，專業(yè)的防御也很難。VisionRush隊(duì)長王博表示，除了監(jiān)管難度大之外，資源投入不平衡也是防偽的一大難點(diǎn)，希望以后學(xué)術(shù)界和產(chǎn)業(yè)界可以共同合作，推動網(wǎng)絡(luò)安全的研究工作。

參賽選手唐永威本科就讀于商科專業(yè)，卻在AI領(lǐng)域找到了自己的天賦。他以獨(dú)特的思維方式，從業(yè)務(wù)角度出發(fā)理解賽題，進(jìn)行建模和優(yōu)化迭代，并最終獲得視頻賽道的一等獎(jiǎng)。

兩個(gè)半月激烈比拼，優(yōu)秀技術(shù)與AI模型涌現(xiàn)，為全球抵抗Deepfake注入信心。

這場由螞蟻集團(tuán)主辦、螞蟻數(shù)科承辦的比賽，針對“AI換臉”的欺詐風(fēng)險(xiǎn)進(jìn)行攻防實(shí)戰(zhàn)演練，設(shè)立百萬獎(jiǎng)金池，賽事吸引來自全球21個(gè)國家和地區(qū)的2200多名參賽者，共1500多支團(tuán)隊(duì)。

“報(bào)名人數(shù)超出想象，大賽審核人員也從最初的一名增加至五名。”作為此次大賽背后出題團(tuán)隊(duì)的負(fù)責(zé)人，ZOLOZ技術(shù)總監(jiān)姚偉斌表示，“大賽希望引起大家對Deepfake危害的重視，通過賽題強(qiáng)大的數(shù)據(jù)庫去推動行業(yè)檢測能力提升，將訓(xùn)練集、驗(yàn)證集和公開測試集開源，為各公司訓(xùn)練檢測能力提供直接幫助。從長遠(yuǎn)考慮，希望推動人臉檢測標(biāo)準(zhǔn)的發(fā)布，以及國家法律法規(guī)層面對AIGC內(nèi)容進(jìn)行規(guī)范。

螞蟻數(shù)科CEO趙聞飆表示，“此次大賽螞蟻數(shù)科將以往商業(yè)實(shí)戰(zhàn)中積累的攻防經(jīng)驗(yàn)融入賽事設(shè)計(jì)與賽題數(shù)據(jù)集，希望與同行結(jié)成戰(zhàn)友關(guān)系，共同提升全行業(yè)的安全防御水位，引起全球?qū)eepfake的重視，這也是承辦比賽的初心所在”。

多國掀起防偽風(fēng)暴

AI換臉不僅會出現(xiàn)在極端惡性犯罪中，還會出現(xiàn)在日常的刷臉認(rèn)證、金融支付、電信詐騙等生活場景之中，給人們的生活和財(cái)產(chǎn)安全帶來嚴(yán)重威脅。

姚偉斌坦言：“AIGC的生成偽造攻擊量今年比去年增加了10倍，去年的攻擊濃度為1%，今年升至10%，相當(dāng)于100個(gè)人中有10個(gè)人的身份信息是AIGC偽造的，風(fēng)險(xiǎn)呈指數(shù)級上升，這一現(xiàn)象在韓國、菲律賓、印尼等多個(gè)國家都普遍存在，不得不高度警惕?！?/p>

為此，ZOLOZ早在2017年就推出了可信身份認(rèn)證服務(wù)，基于證件識別與防偽、金融級人臉識別、身份風(fēng)險(xiǎn)網(wǎng)絡(luò)等先進(jìn)技術(shù)及全套風(fēng)險(xiǎn)策略，早已成為多國金融APP的重要安全防線。

ZOLOZ在螞蟻集團(tuán)多年的風(fēng)控經(jīng)驗(yàn)基礎(chǔ)上，搭建了一套端云一體的全鏈路技術(shù)體系，前端通過精密傳感器校驗(yàn)與多維特征動態(tài)風(fēng)控，嚴(yán)格審查軟硬件環(huán)境，確保生物特征數(shù)據(jù)真實(shí)無篡改。同時(shí)，利用深度學(xué)習(xí)模型分析面部動態(tài)，在面對國外不同膚色、不同人種、不同語言時(shí)都能夠精準(zhǔn)判斷真人實(shí)時(shí)互動。

技術(shù)升級的同時(shí)，挑戰(zhàn)也在不斷上演。

以印尼“待就業(yè)卡”計(jì)劃為例，可信身份認(rèn)證技術(shù)發(fā)揮了關(guān)鍵作用。面對印尼政府對隱私數(shù)據(jù)不能出境的嚴(yán)格要求，ZOLOZ投入資源在印尼機(jī)房部署本地系統(tǒng)。此外，為適應(yīng)中低收入階層學(xué)員采用的H5登錄方式但安全性較低的情況，ZOLOZ更是有針對性地加強(qiáng)HTML5頁面的安全性。截至目前，技術(shù)已幫助1700萬人實(shí)現(xiàn)在線職業(yè)培訓(xùn)，保障 21.3 億美元獎(jiǎng)學(xué)金精準(zhǔn)發(fā)放到學(xué)員電子賬戶。

在菲律賓，身份認(rèn)證服務(wù)挑戰(zhàn)更為巨大。由于沒有統(tǒng)一的身份證件，各類證件質(zhì)量參差不齊，ZOLOZ為此設(shè)計(jì)了通用開發(fā)框架以適配不同版式證件。上線eKYC功能后，雖然菲律賓本地錢包GCash具備了識別10多種當(dāng)?shù)刈C件的能力，申請流程和成本大幅降低，但在信息存儲不能出境的限制下，ZOLOZ通過獲得多項(xiàng)安全認(rèn)證（如ISO27001、27701、SOC2、PCIDSS等），并在其SaaS云端不保留任何個(gè)人數(shù)據(jù)的方式，與菲律賓的安全團(tuán)隊(duì)緊密合作，確保了用戶信息的安全與合規(guī)。

盡管挑戰(zhàn)重重，但可信身份認(rèn)證服務(wù)出海至今，已顯著助力多國數(shù)字化進(jìn)程。驗(yàn)證時(shí)間從幾天縮短至3分鐘，成功率從65%提升到90%以上，實(shí)人認(rèn)證準(zhǔn)確率達(dá)99.9%，成本大幅下降。ZOLOZ的技術(shù)在全球范圍內(nèi)展現(xiàn)了強(qiáng)大的適應(yīng)性和實(shí)力，其服務(wù)現(xiàn)已覆蓋金融、電信、政務(wù)等領(lǐng)域，惠及數(shù)十個(gè)國家和地區(qū)，成為全球數(shù)字化轉(zhuǎn)型的重要支撐。

國內(nèi)誕生首個(gè)  “AI換臉”行業(yè)標(biāo)準(zhǔn)

歷史上，從http到https的轉(zhuǎn)變歷經(jīng)近十年才得以廣泛應(yīng)用，Chrome最終強(qiáng)制要求使用https以杜絕假冒網(wǎng)站，為解決AIGC問題提供了思路借鑒。

未來，每一張AIGC生成的圖片和視頻或許都應(yīng)帶有簽名，如https證書一般，以攔截偽造方式、降低防御成本，這需要政府、標(biāo)準(zhǔn)制定方、大模型廠商和安全廠商等多方面共同努力。目前，大模型廠商在生產(chǎn)端已采取添加水印等規(guī)范措施，但消費(fèi)端的瀏覽器、聊天工具等尚未對AIGC內(nèi)容進(jìn)行限制觀看操作。

如此看來，Deepfake仍有太多可乘之機(jī)，法律法規(guī)的完善便日顯迫切。

8月1日，歐盟出臺的《人工智能法案》正式生效，成為人工智能監(jiān)管的重要轉(zhuǎn)折點(diǎn)，其影響廣泛。9月5日，歐盟輪值主席國匈牙利代表歐盟簽署《人工智能框架公約》。隨著 AI法案在全球不斷出臺，為全行業(yè)更新了標(biāo)準(zhǔn)，但這還遠(yuǎn)遠(yuǎn)不夠。

在姚偉斌看來，利用Deepfake犯罪之人頗為狡猾。盡管ZOLOZ已幫助不少國家對抗Deepfake，但仍無法阻止犯罪從一個(gè)區(qū)域轉(zhuǎn)移至另一個(gè)區(qū)域。

企業(yè)也應(yīng)擔(dān)當(dāng)責(zé)任。今年5月16日，ZOLOZ加入新加坡人工智能倫理與治理倡議（AI E&G BoK），與行業(yè)機(jī)構(gòu)共建健康、穩(wěn)健、合乎道德的人工智能生態(tài)。外灘大會期間，ZOLOZ聯(lián)合十余家機(jī)構(gòu)發(fā)布國內(nèi)首個(gè)面向金融場景的“AI換臉”檢測標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)的發(fā)布為金融場景下的虛假數(shù)字人臉安全檢測和評估提供了依據(jù)，也填補(bǔ)了這一領(lǐng)域的空白。

未來，在國內(nèi)，ZOLOZ將與信通院合作推動內(nèi)容水印、標(biāo)識落地；在國外，會與Adobe發(fā)起的C2PA聯(lián)盟共同規(guī)范內(nèi)容標(biāo)識。

結(jié)語

我是我，但“我”也可能不是我。

AI技術(shù)如同一把雙刃劍，在展現(xiàn)技術(shù)創(chuàng)新的同時(shí)，也為社會安全敲響警鐘。

面對挑戰(zhàn)，我們亦見技術(shù)社區(qū)積極構(gòu)建防御體系，開源攻防模型，提升公眾意識。

展望未來，強(qiáng)化法規(guī)與技術(shù)并行，不僅能夠遏制不當(dāng)使用，更能保障數(shù)字時(shí)代的誠信與安全，讓AI持續(xù)向善發(fā)展，服務(wù)于人類社會的長足進(jìn)步。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。