10月24日，國際安全極客大賽GeekPwn 2020在上海完美落幕。本次大賽聚焦云、AI、5G等前沿技術，發(fā)起首屆CAAD虛假人臉AI識別大賽，RealAI與清華大學計算機系聯(lián)合戰(zhàn)隊TSAIL以絕對的比分優(yōu)勢拿下該賽目的冠軍。
AI遇上假臉傻傻分不清楚?近年來，“AI換臉”風靡一時引發(fā)社會廣泛關注，從最初的侵犯肖像權(quán)，到近期犯罪分子使用AI假臉實施犯罪，“AI 換臉”正帶來一系列緊迫現(xiàn)實問題：電信詐騙、財產(chǎn)盜刷、偽造色情視頻……
雖然人眼難辨真假，但通過AI技術卻可以對虛假人臉進行識別，這也成為了現(xiàn)階段計算機視覺領域競相研究的熱點。為此，在今年重磅開啟的賽程中，GeekPwn發(fā)起首屆CAAD虛假人臉AI識別大賽，深入挖掘人臉識別現(xiàn)實安全威脅。
比賽中，主辦方為五組選手提供真假混合的視頻、圖片數(shù)據(jù)，要求選手現(xiàn)場開發(fā)出AI 檢測方法，快速識別出圖像以及視頻中的虛假人臉。
同時為了增加比賽的對抗性，主辦方還在決賽中設計了攻防環(huán)節(jié)：每隊選手既要用自家的AI 模型識別出其他隊伍的假臉，又要用假臉騙過其他隊伍的 AI 模型，這樣的設置同時考察了選手利用AI技術識別和造假的能力。經(jīng)過激烈的比賽，TSAIL聯(lián)合戰(zhàn)隊最終以1450分斬獲第一名。
作為這次聯(lián)合戰(zhàn)隊的代表成員，RealAI安全算法負責人蕭子豪表示，隨著AI技術在視聽資料領域的快速發(fā)展跟普及，“AI換臉”的門檻變得越來越低，普通人也可以上手，而且生成的內(nèi)容逼真，偽裝性強、欺騙性高，背后的安全隱患不容忽視。
就如GeekPwn主辦方希望通過實戰(zhàn)演練的方式推動更加快速、高效的虛假人臉檢測方法出現(xiàn)，RealAI依托自身積累，深入研究深度偽造內(nèi)容和真實內(nèi)容的表征差異性辨識、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問題，于此前推出DeepReal深度偽造內(nèi)容檢測平臺，能夠快速、精準地對多種格式與質(zhì)量的圖像與視頻進行真?zhèn)舞b別。
在蕭子豪看來，換臉檢測本質(zhì)上也是“魔高一尺、道高一丈”攻防不斷升級的過程，DeepReal基于大規(guī)模的真實和偽造的圖像素材進行訓練，創(chuàng)建大容量神經(jīng)網(wǎng)絡，簡單來看，通過生成大量更逼真的換臉素材來訓練出更高準確率的檢測技術。整體來看，DeepReal平臺目前具備三大優(yōu)勢：
l訓練數(shù)據(jù)量達到百萬級，覆蓋學術深偽數(shù)據(jù)集、網(wǎng)絡深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集三大類數(shù)據(jù)形式;
l高準確率，在學術數(shù)據(jù)集和ZAO等主流方式生成的數(shù)據(jù)集中達到99%以上的準確率;
l高檢測效率，每張圖片的檢測時間可控制在50ms之內(nèi)，每秒視頻的檢測時間在150ms之內(nèi)，一天可支持320小時的視頻文件或340萬張圖片文件的檢測。
通過降低虛假內(nèi)容檢測的技術門檻，DeepReal平臺能夠幫助用戶更好的應對深度偽造帶來的一系列挑戰(zhàn)。除了預防利用AI換臉實施詐騙等犯罪行為，DeepReal平臺還可以協(xié)助公安、司法等執(zhí)法部門鑒別圖片、視頻等物證真?zhèn)?，以及輔助視頻網(wǎng)站、社交媒體等第三方內(nèi)容平臺實時檢測虛假信息內(nèi)容。
憑借在換臉檢測領域的創(chuàng)新技術優(yōu)勢，RealAI近年來也頻頻現(xiàn)身國內(nèi)外多場安全挑戰(zhàn)賽。2019年，F(xiàn)acebook、微軟、亞馬遜、麻省理工等知名企業(yè)、高校曾聯(lián)合發(fā)起一場針對深度偽造檢測的挑戰(zhàn)賽Deepfake Detection Challenge，最終RealAI助力清華團隊取得了初賽1%、決賽5%的優(yōu)異成績。
包括對抗樣本攻防也是RealAI長期以來深耕的研究方向，在去年GeekPwn大賽中聯(lián)合清華團隊斬獲“CAAD CTF 圖像對抗樣本挑戰(zhàn)賽”以及“CAAD 隱身挑戰(zhàn)賽”兩個賽道的冠軍，并在今年發(fā)起的CAAD-AI變臉口罩挑戰(zhàn)賽中勇奪第四名。
作為安全AI領域的代表企業(yè)，解決AI潛在安全問題、提升AI安全性是RealAI長期奮斗的目標。未來，RealAI將持續(xù)探索前沿安全技術，加速攻防成果落地，為人工智能產(chǎn)業(yè)發(fā)展提供更加完善的安全防護體系，助力行業(yè)穩(wěn)健成長。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
