6月3日，北京智源大會(huì)期間，由北京瑞萊智慧科技有限公司與阿里安全聯(lián)合舉辦的“AI安全與產(chǎn)業(yè)治理”論壇正式召開。
中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸，北京市經(jīng)濟(jì)和信息化局郭家義、中國信息通信研究院安全所信息安全研究部主任魏薇、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟辦公室主任、信通院云大所人工智能部副主任石霖、瑞萊智慧RealAI田天、阿里巴巴安全部技術(shù)總監(jiān)薛暉、百度安全主任架構(gòu)師包沉浮等在內(nèi)的數(shù)十位專家出席本次會(huì)議，圍繞人工智能安全可控發(fā)展這一關(guān)鍵性話題展開深入探討。
人工智能亟待發(fā)展“安全可控”新能力
在學(xué)術(shù)論道環(huán)節(jié)，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸在致辭中表示，未來人工智能產(chǎn)業(yè)發(fā)展在擴(kuò)大應(yīng)用場(chǎng)景的同時(shí)，必須實(shí)現(xiàn)數(shù)據(jù)、算法與應(yīng)用層的安全可控。同時(shí)，他表示人工智能的安全可控問題要同步從技術(shù)層面來解決。在具體的實(shí)現(xiàn)路徑上，張鈸院士提出發(fā)展“第三代人工智能”，即融合了第一代的知識(shí)驅(qū)動(dòng)和第二代的數(shù)據(jù)驅(qū)動(dòng)的人工智能，利用知識(shí)、數(shù)據(jù)、算法和算力四個(gè)要素，建立新的可解釋和魯棒的AI理論與方法，發(fā)展安全、可信、可靠和可擴(kuò)展的AI技術(shù)。
北京市經(jīng)濟(jì)和信息化局郭家義對(duì)論壇的召開表示祝賀，對(duì)發(fā)展第三代人工智能表達(dá)了充分的期待。他認(rèn)為，當(dāng)今世界正處于新一輪科技與產(chǎn)業(yè)大變革的偉大時(shí)代，人工智能作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量，正在深刻改變世界，但隨著人工智能的快速發(fā)展，各種安全問題也接踵而至。第三代人工智能的提出恰逢其時(shí)，將助力我國實(shí)現(xiàn)人工智能在安全可信領(lǐng)域的突破,也必將對(duì)北京進(jìn)一步落實(shí)國際科技創(chuàng)新中心定位、構(gòu)建首都高精尖經(jīng)濟(jì)結(jié)構(gòu)產(chǎn)生積極的影響。
作為第三代人工智能的踐行者與引領(lǐng)者，瑞萊智慧CEO田天表示，現(xiàn)階段人工智能產(chǎn)業(yè)正經(jīng)歷從高速增長向高質(zhì)量發(fā)展的轉(zhuǎn)變，產(chǎn)業(yè)期待的提升讓金融、醫(yī)療等更復(fù)雜的高價(jià)值場(chǎng)景的應(yīng)用需求不斷增加，安全性的重視程度也不斷提升，但由于傳統(tǒng)技術(shù)范式存在天然的算法漏洞和缺陷，難以支撐人工智能的長久高質(zhì)量發(fā)展，為此田天提出，需加快發(fā)展第三代人工智能，發(fā)展“安全、可控”核心能力。
如何定義人工智能的“安全可控”？田天闡述道，“安全”是指打造數(shù)據(jù)安全與算法安全兩大核心能力，解決數(shù)據(jù)強(qiáng)依賴帶來的隱私泄漏與數(shù)據(jù)投毒等隱患，同時(shí)提升算法的魯棒性與可靠性，“可控”既指應(yīng)用層面的合規(guī)可控，更指核心技術(shù)的自主可控，以自主可控為根基，通過理論創(chuàng)新、技術(shù)突破形成核心競(jìng)爭力。安全可控是發(fā)展第三代人工智能的核心基準(zhǔn)，也是加快人工智能高質(zhì)量發(fā)展的有力支撐，田天強(qiáng)調(diào)。
數(shù)據(jù)的不安全和算法的不安全是制約當(dāng)前人工智能產(chǎn)業(yè)發(fā)展的主要因素，也是發(fā)展安全可控人工智能需要解決的核心問題。伴隨人工智能產(chǎn)業(yè)應(yīng)用的不斷深化，人工智能安全問題將迎來大規(guī)模爆發(fā)。中國信息通信研究院安全所信息安全研究部主任魏薇表示，人工智能與數(shù)據(jù)產(chǎn)業(yè)互促發(fā)展的同時(shí)安全問題也交織影響，一方面人工智能對(duì)數(shù)據(jù)強(qiáng)依賴的發(fā)展特性導(dǎo)致其面臨的自身數(shù)據(jù)安全風(fēng)險(xiǎn)、應(yīng)用導(dǎo)致的數(shù)據(jù)安全風(fēng)險(xiǎn)以及應(yīng)用加劇的數(shù)據(jù)治理挑戰(zhàn)日益凸顯，另一方面，人工智能也為數(shù)據(jù)治理工作提供自動(dòng)化、智能化、高效化、精準(zhǔn)化的智慧支撐。圍繞發(fā)展與安全并舉的治理思路，魏薇從倫理規(guī)范、法律法規(guī)、標(biāo)準(zhǔn)體系、技術(shù)手段、人才培養(yǎng)等角度出發(fā)提出多項(xiàng)數(shù)據(jù)安全治理建議，為實(shí)現(xiàn)人工智能行業(yè)數(shù)據(jù)安全合規(guī)實(shí)踐提供支撐。
相較數(shù)據(jù)安全，算法安全問題仍處于剛“興起”階段，但其安全危害仍然不容小覷。阿里安全資深算法專家何源介紹道，雖然人工智能技術(shù)已經(jīng)在凈化網(wǎng)絡(luò)環(huán)境、知識(shí)產(chǎn)權(quán)保護(hù)、生物識(shí)別、線下安防等安全工作中發(fā)揮著越來越大的助力作用，讓安全更智能，但其本身也面臨著魯棒性不夠、可解釋性差、技術(shù)濫用等安全風(fēng)險(xiǎn)，比如算法漏洞的存在可以針對(duì)圖像檢索系統(tǒng)開展攻擊，導(dǎo)致非原創(chuàng)圖片逃逸檢測(cè)等，對(duì)網(wǎng)站安全與商家權(quán)益造成威脅等。
百度安全主任架構(gòu)師包沉浮也表示，算法安全風(fēng)險(xiǎn)的實(shí)際危害正逐步體現(xiàn)，自動(dòng)駕駛場(chǎng)景下，模型魯棒性的欠缺將導(dǎo)致自動(dòng)駕駛系統(tǒng)在對(duì)抗環(huán)境或光線、天氣條件多變的復(fù)雜環(huán)境中發(fā)生錯(cuò)誤識(shí)別而引發(fā)嚴(yán)重后果。除了算法安全外，他認(rèn)為人工智能安全還包含“實(shí)現(xiàn)安全”。他強(qiáng)調(diào)，代碼安全與場(chǎng)景安全的“實(shí)現(xiàn)安全”也直接影響著AI系統(tǒng)最終決策的完整性與安全性。
二、實(shí)現(xiàn)人工智能安全可控需配套“基礎(chǔ)設(shè)施”
發(fā)展安全可控的人工智能是一項(xiàng)系統(tǒng)性的工作，需要行業(yè)標(biāo)準(zhǔn)、法律規(guī)范等治理工作與技術(shù)發(fā)展等多個(gè)維度共同推進(jìn)，打造與之配套的“基礎(chǔ)設(shè)施”。
針對(duì)算法治理路徑的探索，清華大學(xué)人工智能治理研究院副院長梁正從社會(huì)治理的角度提出，算法模型存在難以解釋、難以控制、難以問責(zé)的特征，可能導(dǎo)致歧視、脆弱不穩(wěn)定、操縱剝削、信息繭房等安全風(fēng)險(xiǎn)。與國際算法治理經(jīng)驗(yàn)相比，國內(nèi)的治理依據(jù)雖然初步形成，雖然政策引導(dǎo)、標(biāo)準(zhǔn)指南、法律規(guī)章等相繼發(fā)布，但尚未形成完善的治理體系。如何開展算法治理工作？他提出，首先需進(jìn)行分領(lǐng)域、分級(jí)治理，并確定治理優(yōu)先級(jí)，目前聚焦于利用個(gè)人信息進(jìn)行的自動(dòng)化決策系統(tǒng)，未來聚焦于涉及人身安全的高風(fēng)險(xiǎn)領(lǐng)域，同時(shí)在算法治理中識(shí)別和區(qū)分規(guī)則問題和技術(shù)問題，采取針對(duì)性的措施，以及堅(jiān)持安全、公平、透明和隱私等基本原則，實(shí)現(xiàn)負(fù)責(zé)任的人工智能。
針對(duì)人工智能發(fā)展中隱私和數(shù)據(jù)保護(hù)的解決路徑，中倫律師事務(wù)所合伙人陳際紅表示，《網(wǎng)絡(luò)安全法》與不久后將出臺(tái)的《個(gè)人信息保護(hù)法》、《數(shù)據(jù)安全法》將構(gòu)成我國數(shù)據(jù)保護(hù)與監(jiān)管的“三駕馬車”，為數(shù)據(jù)保護(hù)提供嚴(yán)格的法律環(huán)境，但人工智能產(chǎn)業(yè)發(fā)展對(duì)于大數(shù)據(jù)、實(shí)時(shí)數(shù)據(jù)、數(shù)據(jù)融合的需求將與這些數(shù)據(jù)保護(hù)原則產(chǎn)生沖突。為此他建議，一方面企業(yè)應(yīng)主動(dòng)做合規(guī)，在產(chǎn)品開發(fā)、產(chǎn)品技術(shù)架構(gòu)預(yù)先主動(dòng)防范風(fēng)險(xiǎn)，將隱私的概念引入到產(chǎn)品生命周期之內(nèi)，另一方面他也呼吁立法機(jī)構(gòu)要兼顧隱私保護(hù)和產(chǎn)業(yè)發(fā)展的平衡，社會(huì)普遍接受的良好隱私保護(hù)理念加上嚴(yán)格的法律環(huán)境是助推技術(shù)長久發(fā)展的兩翼。
除了從政策、法規(guī)方面，技術(shù)基礎(chǔ)設(shè)施的打造仍將發(fā)揮起基礎(chǔ)性的作用。作為第三代人工智能領(lǐng)域的踐行者與領(lǐng)導(dǎo)者，RealAI推出了一系列更加安全可控的人工智能基礎(chǔ)設(shè)施，基于安全多方計(jì)算、聯(lián)邦學(xué)習(xí)、匿蹤查詢等技術(shù)打造的數(shù)據(jù)安全共享基礎(chǔ)設(shè)施RealSecure，用于解決數(shù)據(jù)隱私難題；針對(duì)AI系統(tǒng)推出的防火墻與殺毒軟件平臺(tái)RealSafe，能夠?yàn)槿四樧R(shí)別、目標(biāo)檢測(cè)、圖像分類等應(yīng)用提供有效的安全檢測(cè)與防御加固服務(wù)。田天表示，這一系列基礎(chǔ)設(shè)施將打開AI能力的全新維度，為人工智能產(chǎn)業(yè)治理工作提供有效工具支撐。
尤其人工智能算法安全性的提升本質(zhì)上是對(duì)抗攻防不斷升級(jí)的過程，但是如何全面、客觀、科學(xué)地衡量算法模型的安全性，是目前工業(yè)界和學(xué)術(shù)界都面臨的難題。針對(duì)這一難題，清華大學(xué)聯(lián)合阿里安全和RealAI聯(lián)合發(fā)布業(yè)內(nèi)首個(gè)基于深度學(xué)習(xí)模型的對(duì)抗攻防基準(zhǔn)平臺(tái)（Adversarial Robustness Benchmark），此基準(zhǔn)可以更加公平、全面地衡量不同算法的效果，提供方便使用的魯棒性測(cè)試工具，全面衡量AI模型的安全性，用戶通過提交模型的方式可以獲取安全性的得分。
不同于之前只包含零散攻防模型的對(duì)抗攻防基準(zhǔn)，此次推出AI對(duì)抗安全基準(zhǔn)基本上包括了目前主流的人工智能對(duì)抗攻防模型，涵蓋了數(shù)十種典型的攻防算法。不同算法比測(cè)的過程中盡量采用了相同的實(shí)驗(yàn)設(shè)定和一致的度量標(biāo)準(zhǔn)，從而在最大限度上保證了比較的公平性。除此之外，本次發(fā)布的AI安全排行榜也包括了剛剛結(jié)束的CVPR2021人工智能攻防競(jìng)賽中誕生的排名前5代表隊(duì)的攻擊算法。此次競(jìng)賽吸引到了全球2000多支代表隊(duì)提交的最新算法，進(jìn)一步提升了該安全基準(zhǔn)的科學(xué)性和可信性。“通過對(duì)AI算法的攻擊結(jié)果和防御結(jié)果進(jìn)行排名、比較不同算法的性能，建立AI安全基準(zhǔn)具有重要學(xué)術(shù)意義，可以更加公平、全面地衡量不同算法的效果。”朱軍介紹道。
三、安全可控人工智能將重塑產(chǎn)業(yè)智能
在“新基建”浪潮的驅(qū)動(dòng)下，人工智能產(chǎn)業(yè)即將迎來與傳統(tǒng)產(chǎn)業(yè)深度融合的機(jī)遇期。田天表示，在安全可控的核心支撐下，可以高效的貢獻(xiàn)人工智能的技術(shù)優(yōu)勢(shì)，重塑產(chǎn)業(yè)智能，實(shí)現(xiàn)從“單點(diǎn)自動(dòng)化”到“深度智能化”的價(jià)值提升。他提到，在金融領(lǐng)域，人工智能的創(chuàng)新融合正為金融場(chǎng)景打造出一個(gè)兼具決策分析與感官感知的“智慧大腦”。在安全可控的支撐下，“智慧大腦”能夠拓展全新能力邊界，實(shí)現(xiàn)更好的決策左腦與更加安全可靠的感知右腦。同時(shí)，他介紹到，RealAI基于多方安全計(jì)算、聯(lián)邦學(xué)習(xí)、人工智能安全攻防等技術(shù)打造了一套結(jié)合“數(shù)據(jù)保障、算法檢測(cè)、應(yīng)用管控”的可信人臉完整解決方案，在保障人臉隱私安全、數(shù)據(jù)泄漏溯源、算法安全評(píng)估、信息合規(guī)等做前提下，推動(dòng)人臉識(shí)別在關(guān)鍵的社會(huì)公共服務(wù)場(chǎng)景下的深度應(yīng)用。
中國工商銀行軟件開發(fā)中心大數(shù)據(jù)與人工智能實(shí)驗(yàn)室副主任在其演講中介紹道，工行在現(xiàn)有人工智能技術(shù)體系基礎(chǔ)上，圍繞“軟硬件運(yùn)營環(huán)境可信、數(shù)據(jù)隱私保護(hù)、算法模型安全”三大核心能力建設(shè)出金融領(lǐng)域的人工智能技術(shù)安全可信能力，保障人工智能大規(guī)模應(yīng)用的合法合規(guī)、安全可信。他強(qiáng)調(diào)，AI安全是AI大規(guī)模應(yīng)用的前提和必備條件，同時(shí)AI可信能力必須是全棧且覆蓋模型全生命周期，通過安全可信技術(shù)的研究和突破，提升規(guī)?；疉I生產(chǎn)部署的安全可信支撐能力，可以增強(qiáng)多方數(shù)據(jù)生產(chǎn)要素的融合能力，為數(shù)字經(jīng)濟(jì)社會(huì)提供更高效率、更低成本、更低門檻的普惠金融服務(wù)。
金融行業(yè)作為高度數(shù)據(jù)化的行業(yè)，數(shù)據(jù)隱私保護(hù)是必然趨勢(shì)。建信金融科技有限公司創(chuàng)新實(shí)驗(yàn)室總經(jīng)理王雪表示，隱私保護(hù)計(jì)算作為前瞻性的安全可信技術(shù)，能夠在隱私保護(hù)基礎(chǔ)上實(shí)現(xiàn)數(shù)據(jù)價(jià)值最大化，通過多方數(shù)據(jù)融合分析，最大程度挖掘數(shù)據(jù)價(jià)值，在滿足監(jiān)管要求的前提下實(shí)現(xiàn)數(shù)據(jù)互聯(lián)互通，通過新的業(yè)務(wù)模式擴(kuò)展外部數(shù)據(jù)連接，解決數(shù)據(jù)供給側(cè)和需求側(cè)匹配的問題，深入金融數(shù)字化轉(zhuǎn)型。
除此，針對(duì)應(yīng)用場(chǎng)景豐富且產(chǎn)業(yè)潛力巨大的智能制造領(lǐng)域，同樣需要構(gòu)建魯棒安全的AI系統(tǒng)。三一集團(tuán)無人駕駛科學(xué)家、三一機(jī)器人科技有限公司副所長賈全介紹道，智慧物流是無人駕駛技術(shù)在智慧工廠中的典型應(yīng)用。在實(shí)際作業(yè)過程中，需要在高干擾的生產(chǎn)環(huán)境場(chǎng)景下高效高精度的完成工作，同時(shí)系統(tǒng)還面臨著硬件平臺(tái)與軟件平臺(tái)的安全挑戰(zhàn)，為此三一機(jī)器人正通過產(chǎn)學(xué)研的緊密合作共筑產(chǎn)業(yè)安全，推動(dòng)智能制造健康可控發(fā)展。
安全可控人工智能在各行業(yè)領(lǐng)域的應(yīng)用將進(jìn)入專業(yè)化的深層次融合階段，面向垂直領(lǐng)域需求挖掘深層次應(yīng)用潛力。廣電運(yùn)通信息科技有限公司總經(jīng)理田豐表示，基于人工智能技術(shù)底座打造智能引擎，圍繞智慧金融、智慧安全、智慧交通、智慧便民等業(yè)務(wù)領(lǐng)域賦能城市智能產(chǎn)業(yè)發(fā)展，在安全可控的基礎(chǔ)上，將能夠推動(dòng)全要素高質(zhì)量發(fā)展，深化城市智能戰(zhàn)略布局。
最后圓桌環(huán)節(jié)，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟辦公室主任、信通院云大所人工智能部副主任石霖與浦發(fā)銀行創(chuàng)新實(shí)驗(yàn)室業(yè)務(wù)專家李鋒、光大銀行多方安全數(shù)據(jù)智能實(shí)驗(yàn)室主任李成、滴滴安全安全產(chǎn)品專家孫以強(qiáng)、瑞萊智慧RealAI聯(lián)合創(chuàng)始人劉荔園圍繞安全可控人工智能的產(chǎn)業(yè)應(yīng)用展開研討。
在安全可控的助力下，“深度智能”時(shí)代正將加速到來，人工智能在各行業(yè)領(lǐng)域的應(yīng)用廣度和深度將不斷得到拓展。人工智能的未來圖景充滿想象，但要實(shí)現(xiàn)真正的人工智能仍面臨諸多深層挑戰(zhàn)，田天表示，第三代人工智能通過釋放“數(shù)據(jù)、知識(shí)、算法、算力”的全新維度，為實(shí)現(xiàn)安全可控的新一代人工智能提供可能，讓人工智能走出“淺層智能”的舒適區(qū)，重塑全新的產(chǎn)業(yè)價(jià)值。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
